""" app/services/prompt_security.py - Módulo de Protección Anti-Prompt Injection (SDD-011) Protege a UdeCi contra ataques de Jailbreak, System Prompt Leaks, modos de desarrollador ficticios e inyección de tokens de control LLM. """ import re import unicodedata from typing import Tuple, List, Optional # Patrones de inyección de prompt y jailbreak conocidos (en español e inglés) INJECTION_PATTERNS = [ # 1. Anulación de instrucciones previas r"ignor[ea]\s+(todas\s+)?(las\s+)?instrucciones(\s+anteriores)?", r"ignore\s+(all\s+)?(previous\s+)?instructions", r"olvida\s+(todas\s+)?(las\s+)?(reglas|directivas|instrucciones)", r"forget\s+(all\s+)?(previous\s+)?(rules|instructions|directives)", r"disregard\s+(all\s+)?(previous\s+)?instructions", r"reset\s+(all\s+)?rules", # 2. Modos no restringidos / Jailbreaks r"developer\s+mode", r"modo\s+desarrollador", r"dan\s+mode", r"jailbreak", r"act\s+as\s+(an?\s+)?(unrestricted|evil|unfiltered|hacker)", r"actua\s+como\s+(un\s+)?(hacker|sistema\s+sin\s+restricciones|asistente\s+sin\s+filtros)", r"pretend\s+you\s+(are\s+not|have\s+no)\s+rules", r"simula\s+que\s+no\s+tienes\s+reglas", # 3. Filtración de System Prompt y Credenciales r"(muestra|revela|imprime|dime|revelar|mostrar)\s+(tu\s+)?(system\s+prompt|prompt\s+del\s+sistema|instrucciones\s+internas|reglas\s+secretas)", r"(reveal|print|show|display|leak)\s+(your\s+)?(system\s+prompt|initial\s+instructions|secret\s+rules)", r"(dame|revela|muestra)\s+(la\s+contrase[ñn]a|el\s+password|las\s+credenciales|los\s+tokens|el\s+archivo\s+\.env|\.credenciales)", r"(give\s+me|reveal|show)\s+(the\s+password|credentials|api\s+keys|\.env)" ] # Tokens de control de delimitación para modelos Qwen / Llama / ChatML SPECIAL_TOKENS = [ "<|im_start|>", "<|im_end|>", "<|endoftext|>", "[INST]", "[/INST]", "<>", "<>", "<|system|>", "<|user|>", "<|assistant|>" ] def normalize_for_security(text: str) -> str: """Normaliza texto eliminando diacríticos, espacios repetidos y caracteres de control.""" if not text: return "" # Quitar tildes y diacríticos nfkd = unicodedata.normalize('NFKD', text) cleaned = ''.join([c for c in nfkd if not unicodedata.combining(c)]).lower() # Reducir espacios múltiples return re.sub(r'\s+', ' ', cleaned).strip() class PromptSecurityService: """Servicio de validación y sanitización contra Prompt Injections.""" @classmethod def sanitize_input(cls, text: str) -> str: """ Elimina o escapa tokens especiales de control de plantilla que podrían intentar inyectar bloques de sistema en el LLM. """ if not text: return "" sanitized = text for token in SPECIAL_TOKENS: sanitized = sanitized.replace(token, "") return sanitized.strip() @classmethod def validate_user_message(cls, text: str) -> Tuple[bool, Optional[str]]: """ Examina el mensaje del usuario para detectar intentos de inyección o jailbreak. Retorna (es_seguro: bool, mensaje_defensivo: Optional[str]). """ if not text: return True, None normalized = normalize_for_security(text) # Chequear contra la lista de patrones de inyección for pattern in INJECTION_PATTERNS: if re.search(pattern, normalized, re.IGNORECASE): return False, ( "Lo siento, como **UdeCi** estoy programado para asistirte exclusivamente en la " "gestión académica y operativa de Admin Edu Space (UniCABA). " "No tengo permitido modificar mis directivas de seguridad, asumir otros roles " "ni revelar instrucciones internas del sistema." ) return True, None