fix(ai-chat): harden prompt security against injections, fix login methods detection & align desktop input dock (v3.8.43)
This commit is contained in:
@@ -7,7 +7,7 @@ from typing import Any
|
||||
from database import db, get_db, engine, SessionLocal, session
|
||||
from config.config import Config
|
||||
|
||||
__version__ = "3.8.42"
|
||||
__version__ = "3.8.43"
|
||||
|
||||
class DummyContext:
|
||||
def __enter__(self):
|
||||
|
||||
@@ -19,6 +19,7 @@ from app.models.enrollment import StudentEnrollment
|
||||
from app.models.milestone import AcademicMilestone, MilestoneType
|
||||
from app.models.grade import MilestoneGrade
|
||||
from app.models.institutional_benefit import InstitutionalBenefit
|
||||
from app.models.setting import SystemSetting
|
||||
from app import db
|
||||
from app.models.user import User
|
||||
from app.services.gradebook_service import GradebookService
|
||||
@@ -566,14 +567,40 @@ class LiveContextService:
|
||||
}
|
||||
]
|
||||
|
||||
# B. Búsqueda de Docentes / Profesores por Nombre
|
||||
teacher_keywords = ['profesor', 'profesores', 'docente', 'docentes', 'llama', 'nombre', 'sergio']
|
||||
if any(w in q_lower for w in teacher_keywords) or any(len(tok) >= 4 for tok in tokens):
|
||||
# B. Consulta de Métodos de Login y Autenticación del Sistema
|
||||
auth_keywords = ['login', 'logins', 'autenticacion', 'acceso', 'sso', 'google', 'moodle', 'credenciales', 'cuentas']
|
||||
if any(ak in q_lower for ak in auth_keywords):
|
||||
local_en = SystemSetting.get_value('auth_local_enabled', 'true') in ['true', 'True', '1', True]
|
||||
google_en = SystemSetting.get_value('auth_google_enabled', 'false') in ['true', 'True', '1', True]
|
||||
moodle_en = SystemSetting.get_value('auth_moodle_enabled', 'false') in ['true', 'True', '1', True]
|
||||
active_methods = []
|
||||
if local_en:
|
||||
active_methods.append("Cuentas locales (Usuario y Contraseña)")
|
||||
if google_en:
|
||||
active_methods.append("Google Workspace (@unicaba.edu.ar)")
|
||||
if moodle_en:
|
||||
active_methods.append("Login delegado de Moodle SSO")
|
||||
|
||||
lines.append("\nESTADO DE MÉTODOS DE LOGIN Y AUTENTICACIÓN (CONFIGURACIÓN GLOBAL DEL SISTEMA):")
|
||||
lines.append(f"• Login Local: {'Habilitado (Activo)' if local_en else 'Deshabilitado'}")
|
||||
lines.append(f"• Google Workspace (@unicaba.edu.ar): {'Habilitado (Activo)' if google_en else 'Deshabilitado (Inactivo)'}")
|
||||
lines.append(f"• Login Delegado de Moodle: {'Habilitado (Activo)' if moodle_en else 'Deshabilitado (Inactivo)'}")
|
||||
if active_methods:
|
||||
lines.append(f"• Métodos actualmente ACTIVOS: {', '.join(active_methods)}.")
|
||||
else:
|
||||
lines.append("• Métodos actualmente ACTIVOS: Ninguno habilitado.")
|
||||
lines.append("• Gestión: El Administrador puede habilitar o deshabilitar estos métodos en Gobierno & Sistema ➔ Config. Global.")
|
||||
|
||||
# C. Búsqueda de Docentes / Profesores por Nombre (SOLO si la consulta trata sobre docentes)
|
||||
teacher_keywords = ['profesor', 'profesores', 'docente', 'docentes', 'profe', 'profes', 'quien dicta', 'quien ensena']
|
||||
if any(w in q_lower for w in teacher_keywords):
|
||||
all_docentes = User.query.filter(User.is_active == True, func.lower(User.role).like('%docent%')).all()
|
||||
meaningful_tokens = [
|
||||
tok for tok in tokens
|
||||
if tok not in {'profesor', 'profesores', 'docente', 'docentes', 'llamado', 'alguno', 'estan', 'registrados', 'cuantos', 'cual', 'quien', 'nombre'}
|
||||
]
|
||||
ignored_tokens = {
|
||||
'profesor', 'profesores', 'docente', 'docentes', 'llamado', 'alguno', 'estan',
|
||||
'registrados', 'cuantos', 'cual', 'quien', 'nombre', 'tipo', 'login', 'logins',
|
||||
'google', 'moodle', 'sistema', 'acceso', 'cuentas', 'habilitados', 'activos'
|
||||
}
|
||||
meaningful_tokens = [tok for tok in tokens if tok not in ignored_tokens]
|
||||
if meaningful_tokens:
|
||||
found_teachers = []
|
||||
for d in all_docentes:
|
||||
@@ -590,7 +617,7 @@ class LiveContextService:
|
||||
searched_name = meaningful_tokens[0].capitalize()
|
||||
lines.append(f"\nBÚSQUEDA DE DOCENTES: No se encontraron profesores registrados con el nombre '{searched_name}' entre los {len(all_docentes)} docentes activos.")
|
||||
|
||||
# C. Búsqueda de Asignaturas
|
||||
# D. Búsqueda de Asignaturas
|
||||
if tokens:
|
||||
search_filter = or_(
|
||||
*[Subject.name.ilike(f"%{tok}%") for tok in tokens],
|
||||
|
||||
@@ -8,31 +8,41 @@ import unicodedata
|
||||
from typing import Tuple, List, Optional
|
||||
|
||||
|
||||
# Patrones de inyección de prompt y jailbreak conocidos (en español e inglés)
|
||||
# Patrones de inyección de prompt, jailbreak y fuga de modelo/tokens conocidos (español e inglés)
|
||||
INJECTION_PATTERNS = [
|
||||
# 1. Anulación de instrucciones previas
|
||||
r"ignor[ea]\s+(todas\s+)?(las\s+)?instrucciones(\s+anteriores)?",
|
||||
r"ignore\s+(all\s+)?(previous\s+)?instructions",
|
||||
r"olvida\s+(todas\s+)?(las\s+)?(reglas|directivas|instrucciones)",
|
||||
r"forget\s+(all\s+)?(previous\s+)?(rules|instructions|directives)",
|
||||
r"disregard\s+(all\s+)?(previous\s+)?instructions",
|
||||
r"reset\s+(all\s+)?rules",
|
||||
# 1. Anulación de instrucciones / prompts (promps, prompts, reglas, directivas)
|
||||
r"ignor[ea]\s+(todo|todos|todas)?\s*(los|las)?\s*(prompts?|promps?|instrucciones|reglas|directivas|comandos|mensajes|restricciones|filtros)?",
|
||||
r"ignore\s+(all|any)?\s*(the)?\s*(prompts?|instructions?|rules?|directives?|commands?|guidelines?|system)?",
|
||||
r"olvida\s+(todo|todos|todas)?\s*(los|las)?\s*(prompts?|promps?|reglas|directivas|instrucciones|filtros|restricciones)",
|
||||
r"forget\s+(all|any)?\s*(the)?\s*(previous)?\s*(rules|instructions|directives|prompts)",
|
||||
r"disregard\s+(all|any)?\s*(previous)?\s*(instructions|prompts|rules)",
|
||||
r"reset\s+(all\s+)?(rules|prompts|instructions)",
|
||||
r"bypas[sa]\s+(las\s+)?(reglas|restricciones|filtros)",
|
||||
|
||||
# 2. Modos no restringidos / Jailbreaks
|
||||
# 2. Modos no restringidos / Jailbreaks / Simulación
|
||||
r"developer\s+mode",
|
||||
r"modo\s+desarrollador",
|
||||
r"dan\s+mode",
|
||||
r"jailbreak",
|
||||
r"act\s+as\s+(an?\s+)?(unrestricted|evil|unfiltered|hacker)",
|
||||
r"actua\s+como\s+(un\s+)?(hacker|sistema\s+sin\s+restricciones|asistente\s+sin\s+filtros)",
|
||||
r"pretend\s+you\s+(are\s+not|have\s+no)\s+rules",
|
||||
r"act\s+as\s+(an?\s+)?(unrestricted|evil|unfiltered|hacker|dan)",
|
||||
r"actua\s+como\s+(un\s+)?(hacker|sistema\s+sin\s+restricciones|asistente\s+sin\s+filtros|dan)",
|
||||
r"pretend\s+you\s+(are\s+not|have\s+no|can)\s+rules",
|
||||
r"simula\s+que\s+no\s+tienes\s+reglas",
|
||||
r"ahora\s+eres\s+(libre|otro\s+modelo|un\s+asistente\s+sin\s+limites)",
|
||||
|
||||
# 3. Filtración de System Prompt y Credenciales
|
||||
r"(muestra|revela|imprime|dime|revelar|mostrar)\s+(tu\s+)?(system\s+prompt|prompt\s+del\s+sistema|instrucciones\s+internas|reglas\s+secretas)",
|
||||
# 3. Consultas sobre Modelo de IA subyacente / Fabricante / Arquitectura
|
||||
r"(que|cual)\s+(modelo|arquitectura|llm|ia|motor)\s+(de\s+ia\s+)?(eres|usas|utilizas|te\s+impulsa|hay\s+detras)",
|
||||
r"(who|what)\s+(model|llm|ai|architecture)\s+(are\s+you|is\s+this|powers\s+you)",
|
||||
r"(quien|que\s+empresa)\s+(te\s+creo|te\s+desarrollo|te\s+entreno|es\s+tu\s+fabricante)",
|
||||
r"(who)\s+(created|developed|trained|made)\s+you",
|
||||
r"(dime|decime)\s+(que\s+modelo|cual\s+es\s+tu\s+modelo|la\s+ia\s+que\s+eres|que\s+ia\s+eres)",
|
||||
|
||||
# 4. Filtración de System Prompt, Configuración Interna, Tokens y Credenciales
|
||||
r"(muestra|revela|imprime|dime|revelar|mostrar|dame|decime)\s+(tu\s+)?(system\s+prompt|prompt\s+del\s+sistema|instrucciones\s+internas|reglas\s+secretas|prompt\s+inicial)",
|
||||
r"(reveal|print|show|display|leak)\s+(your\s+)?(system\s+prompt|initial\s+instructions|secret\s+rules)",
|
||||
r"(dame|revela|muestra)\s+(la\s+contrase[ñn]a|el\s+password|las\s+credenciales|los\s+tokens|el\s+archivo\s+\.env|\.credenciales)",
|
||||
r"(give\s+me|reveal|show)\s+(the\s+password|credentials|api\s+keys|\.env)"
|
||||
r"(dame|revela|muestra|dime|decime)\s+(la\s+contrase[ñn]a|el\s+password|las\s+credenciales|los\s+tokens|el\s+archivo\s+\.env|\.credenciales|la\s+configuracion\s+y\s+los\s+tokens)",
|
||||
r"(tokens?\s+de\s+acceso|api[\s_-]?keys?|bearer\s+tokens?|secret_keys?)",
|
||||
r"(give\s+me|reveal|show)\s+(the\s+password|credentials|api\s+keys|\.env|access\s+tokens)"
|
||||
]
|
||||
|
||||
# Tokens de control de delimitación para modelos Qwen / Llama / ChatML
|
||||
@@ -92,10 +102,10 @@ class PromptSecurityService:
|
||||
for pattern in INJECTION_PATTERNS:
|
||||
if re.search(pattern, normalized, re.IGNORECASE):
|
||||
return False, (
|
||||
"Lo siento, como **UdeCi** estoy programado para asistirte exclusivamente en la "
|
||||
"gestión académica y operativa de Admin Edu Space (UniCABA). "
|
||||
"No tengo permitido modificar mis directivas de seguridad, asumir otros roles "
|
||||
"ni revelar instrucciones internas del sistema."
|
||||
"Soy **UdeCi**, el tutor virtual institucional de Admin Edu Space (UniCABA). "
|
||||
"Estoy programado exclusivamente para asistirte en la gestión académica, espacios áulicos, "
|
||||
"reservas y consultas universitarias. Por políticas institucionales de seguridad, no tengo permitido "
|
||||
"modificar mis directivas, asumir otras identidades ni revelar configuraciones internas, tokens o instrucciones del sistema."
|
||||
)
|
||||
|
||||
return True, None
|
||||
|
||||
Reference in New Issue
Block a user