feat: anti-prompt injection, live context db entities and udeci ux/ui refinement v3.8.28
This commit is contained in:
@@ -0,0 +1,101 @@
|
||||
"""
|
||||
app/services/prompt_security.py - Módulo de Protección Anti-Prompt Injection (SDD-011)
|
||||
Protege a UdeCi contra ataques de Jailbreak, System Prompt Leaks,
|
||||
modos de desarrollador ficticios e inyección de tokens de control LLM.
|
||||
"""
|
||||
import re
|
||||
import unicodedata
|
||||
from typing import Tuple, List, Optional
|
||||
|
||||
|
||||
# Patrones de inyección de prompt y jailbreak conocidos (en español e inglés)
|
||||
INJECTION_PATTERNS = [
|
||||
# 1. Anulación de instrucciones previas
|
||||
r"ignor[ea]\s+(todas\s+)?(las\s+)?instrucciones(\s+anteriores)?",
|
||||
r"ignore\s+(all\s+)?(previous\s+)?instructions",
|
||||
r"olvida\s+(todas\s+)?(las\s+)?(reglas|directivas|instrucciones)",
|
||||
r"forget\s+(all\s+)?(previous\s+)?(rules|instructions|directives)",
|
||||
r"disregard\s+(all\s+)?(previous\s+)?instructions",
|
||||
r"reset\s+(all\s+)?rules",
|
||||
|
||||
# 2. Modos no restringidos / Jailbreaks
|
||||
r"developer\s+mode",
|
||||
r"modo\s+desarrollador",
|
||||
r"dan\s+mode",
|
||||
r"jailbreak",
|
||||
r"act\s+as\s+(an?\s+)?(unrestricted|evil|unfiltered|hacker)",
|
||||
r"actua\s+como\s+(un\s+)?(hacker|sistema\s+sin\s+restricciones|asistente\s+sin\s+filtros)",
|
||||
r"pretend\s+you\s+(are\s+not|have\s+no)\s+rules",
|
||||
r"simula\s+que\s+no\s+tienes\s+reglas",
|
||||
|
||||
# 3. Filtración de System Prompt y Credenciales
|
||||
r"(muestra|revela|imprime|dime|revelar|mostrar)\s+(tu\s+)?(system\s+prompt|prompt\s+del\s+sistema|instrucciones\s+internas|reglas\s+secretas)",
|
||||
r"(reveal|print|show|display|leak)\s+(your\s+)?(system\s+prompt|initial\s+instructions|secret\s+rules)",
|
||||
r"(dame|revela|muestra)\s+(la\s+contrase[ñn]a|el\s+password|las\s+credenciales|los\s+tokens|el\s+archivo\s+\.env|\.credenciales)",
|
||||
r"(give\s+me|reveal|show)\s+(the\s+password|credentials|api\s+keys|\.env)"
|
||||
]
|
||||
|
||||
# Tokens de control de delimitación para modelos Qwen / Llama / ChatML
|
||||
SPECIAL_TOKENS = [
|
||||
"<|im_start|>",
|
||||
"<|im_end|>",
|
||||
"<|endoftext|>",
|
||||
"[INST]",
|
||||
"[/INST]",
|
||||
"<<SYS>>",
|
||||
"<</SYS>>",
|
||||
"<|system|>",
|
||||
"<|user|>",
|
||||
"<|assistant|>"
|
||||
]
|
||||
|
||||
|
||||
def normalize_for_security(text: str) -> str:
|
||||
"""Normaliza texto eliminando diacríticos, espacios repetidos y caracteres de control."""
|
||||
if not text:
|
||||
return ""
|
||||
# Quitar tildes y diacríticos
|
||||
nfkd = unicodedata.normalize('NFKD', text)
|
||||
cleaned = ''.join([c for c in nfkd if not unicodedata.combining(c)]).lower()
|
||||
# Reducir espacios múltiples
|
||||
return re.sub(r'\s+', ' ', cleaned).strip()
|
||||
|
||||
|
||||
class PromptSecurityService:
|
||||
"""Servicio de validación y sanitización contra Prompt Injections."""
|
||||
|
||||
@classmethod
|
||||
def sanitize_input(cls, text: str) -> str:
|
||||
"""
|
||||
Elimina o escapa tokens especiales de control de plantilla que
|
||||
podrían intentar inyectar bloques de sistema en el LLM.
|
||||
"""
|
||||
if not text:
|
||||
return ""
|
||||
sanitized = text
|
||||
for token in SPECIAL_TOKENS:
|
||||
sanitized = sanitized.replace(token, "")
|
||||
return sanitized.strip()
|
||||
|
||||
@classmethod
|
||||
def validate_user_message(cls, text: str) -> Tuple[bool, Optional[str]]:
|
||||
"""
|
||||
Examina el mensaje del usuario para detectar intentos de inyección o jailbreak.
|
||||
Retorna (es_seguro: bool, mensaje_defensivo: Optional[str]).
|
||||
"""
|
||||
if not text:
|
||||
return True, None
|
||||
|
||||
normalized = normalize_for_security(text)
|
||||
|
||||
# Chequear contra la lista de patrones de inyección
|
||||
for pattern in INJECTION_PATTERNS:
|
||||
if re.search(pattern, normalized, re.IGNORECASE):
|
||||
return False, (
|
||||
"Lo siento, como **UdeCi** estoy programado para asistirte exclusivamente en la "
|
||||
"gestión académica y operativa de Admin Edu Space (UniCABA). "
|
||||
"No tengo permitido modificar mis directivas de seguridad, asumir otros roles "
|
||||
"ni revelar instrucciones internas del sistema."
|
||||
)
|
||||
|
||||
return True, None
|
||||
Reference in New Issue
Block a user