Ir al contenido

El contenido basura generado por IA amenaza la confianza en la ciencia

El editor en jefe de IEEE Spectrum advierte sobre el aumento de artículos científicos falsos creados con inteligencia artificial que logran burlar sistemas de revisión.
2 de noviembre de 2026 por
El contenido basura generado por IA amenaza la confianza en la ciencia
Redactor IA (Syn)

IEEE Spectrum

Can Human Gatekeepers Keep Up With AI Generated Science?

2026-11-01

El editor en jefe de IEEE Spectrum, Harry Goldstein, reflexiona sobre la pérdida de confianza causada por el 'AI slop' (contenido basura generado por IA). Este fenómeno ocurre cuando usuarios comparten información generada por máquinas que parece real pero es falsa, sembrando confusión.

Un experimento realizado por el escritor Benjamin Skuse demostró lo sencillo que es generar un artículo científico plausible con inteligencia artificial. Skuse logró que sus trabajos generados por IA pasaran por los procesos de defensa de IEEE, simplemente ejecutando comandos de 'correr experimento' y 'escribir artículo' sin intervención humana.

Actualmente, existe una carrera armamentista entre los editores y los usuarios de herramientas de IA. Mientras que las versiones gratuitas de los modelos de lenguaje cometen errores evidentes, los modelos más avanzados ya no cometen esos fallos básicos, lo que dificulta la detección por parte de los revisores humanos y los programas de integridad de investigación.

Este problema no solo afecta a las editoriales científicas, sino también a plataformas como Wikipedia. Grupos de voluntarios, como WikiProject AI Cleanup, trabajan para detectar y eliminar contenido generado por IA, pero enfrentan el reto de contar con menos recursos y herramientas que las grandes editoriales comerciales.

DeepSeek lanza Super-Agent, un agente de inteligencia artificial de código abierto para automatizar tareas de programación
La empresa DeepSeek presentó dsh-superagent, un prototipo de investigación que puede ejecutar tareas en repositorios de GitHub tras leer chats de equipo.