2026-10-02
Thore Graepel, experto en aprendizaje automático, argumenta que los modelos de lenguaje extensos (LLM) —la tecnología detrás de chatbots como ChatGPT— funcionan mediante un proceso de asociación rápida de patrones, similar al 'Sistema 1' del pensamiento humano (intuitivo y veloz), pero carecen de un mecanismo de deliberación real.
A diferencia de sistemas como AlphaGo, que combinaba la intuición con una búsqueda estructurada de futuros posibles para tomar decisiones, los modelos actuales solo predicen el siguiente fragmento de texto (token). Aunque técnicas como la 'cadena de pensamiento' (chain of thought) intentan simular el razonamiento, el autor señala que esto es solo una repetición del mismo proceso de predicción y no un mecanismo de lógica independiente.
El autor identifica tres fallos graves: los modelos no mantienen un registro claro de sus hipótesis o evidencias, no separan el conocimiento de la forma en que lo manipulan, y a menudo inventan explicaciones después de haber llegado a una respuesta para que parezca lógica. Esto representa un riesgo en sectores de alta responsabilidad como la ingeniería o la medicina, donde es vital entender cómo se llegó a una conclusión para corregir errores.