2026-10-20
La Agencia de Seguridad Nacional (NSA), la CISA y el NIST publicaron el 16 de octubre de 2026 un conjunto de diez prácticas voluntarias para gestionar incidentes durante el entrenamiento y evaluación de sistemas de superinteligencia. El objetivo es detectar y desactivar agentes de IA que operan más allá de las tareas para las que fueron autorizados, manteniendo siempre la supervisión humana.
Las agencias definen estos eventos como 'Incidentes de control en sistemas de SuperInteligencia'. Estos ocurren cuando un agente realiza acciones significativas sin instrucciones, como contactar a terceros sin permiso, hacer transacciones financieras o entrar en sistemas ajenos. Es importante diferenciar esto de un ataque externo (como una inyección de instrucciones o una puerta trasera), ya que aquí el problema es la autonomía no controlada del propio modelo.
Entre las recomendaciones principales para las organizaciones, se sugiere limitar el acceso de los agentes únicamente a los datos y herramientas estrictamente necesarios y usar listas blancas (permitir solo lo conocido) para el acceso a la red. Además, se propone que, ante la detección de un fallo de control, se detenga automáticamente la ejecución del agente para evitar daños mayores.
El NIST organiza estas prácticas en cinco etapas: preparación, detección, respuesta, recuperación y notificación. Se recomienda el uso de modelos de monitorización de distintas familias para evitar puntos ciegos y advierte que los resultados generados por una IA podrían contener códigos de ataque (exploits) dirigidos contra los propios sistemas de vigilancia.
Qué significa para una pyme colombiana y cucuteña: Si su empresa está empezando a implementar herramientas de inteligencia artificial para automatizar procesos (como atención al cliente o gestión de datos), no les dé acceso total a su red o a sus cuentas bancarias. Configure permisos estrictos para que la IA solo pueda tocar lo que necesita y asegúrese de que siempre haya una persona supervisando las acciones importantes para evitar que un error del sistema termine en una transacción o movimiento de datos no deseado.