Dataiku Agent Management reveals unmonitored AI agents
2026-09-25
La empresa Dataiku anunció el lanzamiento de Agent Management, un producto independiente diseñado para identificar todos los agentes de inteligencia artificial (IA) que una empresa tiene en ejecución, sin importar la plataforma en la que fueron creados. Esta herramienta permite medir el rendimiento técnico y de negocio, además de señalar aquellos agentes que representan un mayor riesgo para la organización.
El lanzamiento responde a un problema de gestión: las empresas están adoptando agentes de IA más rápido de lo que pueden supervisarlos. Según una investigación de IBM llamada 'AI in Motion', menos de una de cada cinco organizaciones mantiene un inventario completo y actualizado de sus sistemas de IA. Esto sucede porque la mayoría de las plataformas solo pueden ver los agentes construidos dentro de su propio ecosistema, dejando gran parte de la infraestructura de IA de la empresa sin un dueño, propósito o control de riesgos claro.
Agent Management funciona de forma agnóstica, es decir, no depende de un solo proveedor. Se conecta con plataformas como AWS Bedrock, Databricks Agents, Google Vertex, Microsoft Copilot Studio, Azure Foundry, Salesforce Agentforce y Snowflake Cortex, entre otras. El sistema escanea estos entornos para crear un inventario único que muestra la estructura de cada agente, incluyendo las herramientas y los modelos de lenguaje en los que se apoyan.
Para los casos de mayor riesgo —como agentes que atienden clientes, manejan datos sensibles o realizan transacciones en vivo—, la herramienta mantiene un registro de certificaciones, riesgos identificados y pruebas automáticas programadas. Esto genera una pista de auditoría (un registro de eventos) que puede ser presentada ante gerentes, auditores o reguladores cuando sea necesario.
Qué significa para una pyme colombiana y cucuteña: Si su empresa ya está usando herramientas de IA (como asistentes para atención al cliente o automatización de procesos), tenga cuidado: es muy probable que no sepa cuántos de estos 'agentes' están corriendo en su red o qué datos están tocando. El riesgo es que un agente mal configurado pueda violar políticas de privacidad o cometer errores en transacciones. Si planea implementar IA este año, asegúrese de que su equipo no solo cree los agentes, sino que tenga un inventario centralizado de ellos para evitar que se conviertan en una 'caja negra' fuera de su control.
aimagazine.com · technologymagazine.com · finance.yahoo.com · finance.yahoo.com