斗象AISCC上线“Agent安全评测”；新增Tool call检测
2026-09-10
La seguridad en la inteligencia artificial está pasando de centrarse en el riesgo de contenido (lo que la IA dice) al riesgo de acción (lo que la IA hace). Con la llegada de los Agentes de IA, estos sistemas ya no solo generan texto, sino que pueden planificar tareas, usar APIs, consultar bases de datos y ejecutar código a través de protocolos como MCP.
La plataforma de computación en la nube de seguridad de IA de Douxiang (AISCC) ha actualizado sus capacidades para enfocarse en la seguridad en tiempo de ejecución (Runtime Security) de los Agentes. Esto incluye la detección de llamadas maliciosas a herramientas (Tool Call), riesgos de ejecución de comandos, robo de credenciales y acceso no autorizado, evitando que un error del modelo se convierta en un daño real al sistema de la empresa.
Además, la actualización introduce la detección multimodal, que permite analizar no solo texto, sino también imágenes, audio y video. Esto es crucial porque los Agentes pueden ser engañados por instrucciones ocultas en archivos multimedia para tomar decisiones erróneas. La plataforma permite configurar mecanismos de respuesta como el bloqueo en tiempo real o alertas en paralelo.
Finalmente, la plataforma mejora la evaluación de seguridad, pasando de pruebas estáticas a una validación continua. Ahora permite generar informes de seguridad profesionales (en formatos como PDF o Word) que incluyen métricas de riesgo y planes de corrección, facilitando que la seguridad de la IA se integre en los procesos de auditoría y cumplimiento de las empresas.
Qué significa para una pyme colombiana y cucuteña: Si su empresa está empezando a implementar herramientas de Inteligencia Artificial que no solo responden preguntas, sino que 'hacen cosas' (como conectarse a su inventario, enviar correos o consultar bases de datos), tenga cuidado. Un error en la IA o un ataque de 'inyección de instrucciones' podría hacer que el sistema ejecute órdenes no deseadas, como borrar archivos o entregar datos sensibles. Si planea usar Agentes de IA, asegúrese de que el proveedor garantice seguridad en la 'ejecución' (Runtime Security) y no solo en el texto que genera.