AI-Infra-Guard: Open-source security scanner for AI systems
2026-09-09
El laboratorio Zhuque de Tencent creó AI-Infra-Guard, un escáner de seguridad de código abierto diseñado para sistemas de inteligencia artificial. La herramienta identifica servicios en ejecución como Ollama, vLLM y ComfyUI, comparándolos con más de 1.600 vulnerabilidades conocidas (CVE). Además, inspecciona servidores MCP y las capacidades de los agentes en 14 categorías de riesgo, realizando evaluaciones de 'jailbreak' (técnica para saltarse las restricciones de seguridad) contra el modelo objetivo.
La plataforma utiliza un modelo de lenguaje para evaluar si una habilidad detectada parece maliciosa, comparando los resultados con SkillTrustBench, un conjunto de 5.520 muestras etiquetadas por humanos. Según el equipo de desarrollo, la tasa de falsos positivos (errores donde se marca algo seguro como peligroso) varía entre el 1,20% y el 18,67%, dependiendo del modelo que realice el juicio.
Para protegerse contra la 'inyección de instrucciones indirecta' (una técnica donde un atacante oculta comandos maliciosos dentro de un texto que la IA debe leer), la versión 4.1.9 reforzó los agentes de escaneo. Ahora, el contenido de los archivos se coloca en bloques de texto separados estructuralmente de las instrucciones, tratando la información estrictamente como datos y no como comandos.
Un punto importante para su implementación es que la versión de código abierto actualmente no cuenta con un mecanismo de inicio de sesión o control de acceso. El equipo recomienda no exponer la herramienta directamente a internet. La instrucción técnica es colocar un 'proxy inverso' (un intermediario que gestiona el tráfico) como Nginx con autenticación básica o una lista de direcciones IP permitidas, además de las reglas normales del firewall. De lo contrario, cualquier persona podría acceder al escáner, el cual contiene las llaves de API de todos los modelos que evalúa.
Qué significa para una pyme colombiana y cucuteña: Si su empresa está empezando a implementar herramientas de inteligencia artificial para automatizar procesos, esta herramienta gratuita de Tencent puede ayudarle a revisar si sus servicios son vulnerables. Sin embargo, si decide instalarla, no la deje abierta a internet sin protección; asegúrese de que su técnico configure un acceso restringido por contraseña o por IP, ya que el escáner maneja claves de acceso sensibles de sus modelos de IA.