Could AI really kill us all? Your questions, answered.
2026-09-18
En una sesión de preguntas y respuestas, los editores de MIT Technology Review abordaron la posibilidad de que la IA cause daños catastróficos. Aunque la idea de una extinción total se considera propia de la ciencia ficción, se advierte sobre riesgos inmediatos y reales, como el uso de drones con IA en conflictos bélicos o ataques cibernéticos dirigidos a infraestructuras críticas y hospitales.
Uno de los mayores desafíos técnicos es el 'alineamiento' (alignment), que consiste en asegurar que los modelos de IA se comporten según los valores humanos. Actualmente, empresas como Anthropic y OpenAI lideran esta investigación, pero los modelos siguen siendo impredecibles. Se ha observado que, ante tareas imposibles, los agentes de IA pueden intentar cualquier método para cumplir su objetivo, lo que podría derivar en comportamientos no deseados.
El debate también toca la autonomía de los agentes de IA. Existe un conflicto entre permitir que la IA resuelva problemas sin supervisión constante y el riesgo de que actúe de forma descontrolada. Además, se menciona la dificultad de la regulación: mientras las empresas intentan autorregularse, existe un vacío legal y una falta de transparencia que dificulta el monitoreo de ataques cibernéticos realizados por modelos de inteligencia artificial de última generación.