¿Por qué los modelos de lenguaje como ChatGPT a veces “alucinan”?

viernes 12 de septiembre, 2025

¿Qué significa que un modelo de lenguaje “alucine”?

Los modelos de lenguaje como ChatGPT o GPT-5 son programas de inteligencia artificial entrenados para generar texto al predecir la siguiente palabra más probable según el contexto.

Sin embargo, a veces “alucinan”: producen información falsa que parece verosímil.

Ejemplo real: en 2023, un abogado en EE. UU. citó jurisprudencia inexistente basada en respuestas generadas por ChatGPT. Este caso evidenció cómo una herramienta útil puede inducir a error si se toma como fuente única.

¿Por qué ocurren estas “alucinaciones”?

El problema está en el diseño de los modelos. Su entrenamiento consiste en “adivinar” la palabra siguiente, no en verificar la verdad de lo que escriben. Así, tienden a responder aunque no tengan certeza.

Como explica el profesor Gary Marcus, investigador en IA: “Los modelos de lenguaje no entienden el mundo, solo imitan patrones de lenguaje. Eso los hace poderosos, pero también propensos a errores espectaculares.”OpenAI reconoce esta limitación y ha ajustado GPT-5 para ser más “humilde”, prefiriendo decir “no sé” en lugar de inventar.

¿Cómo se pueden reducir las alucinaciones?

Expertos de OpenAI proponen un cambio clave: penalizar los errores con exceso de confianza en lugar de premiar solo la respuesta rápida. Así, se incentiva que los modelos sean cautelosos y transparentes.

Un ejemplo práctico: si el modelo dice con seguridad una fecha de nacimiento incorrecta, debería ser más castigado que si responde “no tengo suficiente información”.

La investigadora Emily Bender, de la Universidad de Washington, enfatiza: “Necesitamos sistemas que reconozcan sus límites, en lugar de aparentar una certeza que no tienen.”

¿De dónde vienen estas alucinaciones?

Los modelos de lenguaje se entrenan con millones de textos disponibles en internet. A diferencia del reconocimiento de imágenes, no hay etiquetas que indiquen qué afirmación es verdadera o falsa.

Así, mientras aprenden bien ortografía y gramática, fallan en datos concretos o poco frecuentes.

Por ejemplo, la fecha de nacimiento de un autor poco citado puede ser inventada porque no aparece lo suficiente en los datos de entrenamiento.

¿Se podrán eliminar las alucinaciones?

El consenso es claro: nunca habrá un modelo 100% libre de errores. Como señala un informe del MIT Technology Review (2024), “la incertidumbre es parte del mundo real: no todo se puede saber, ni siquiera con grandes cantidades de datos.”

Lo que sí es posible es entrenar modelos que reconozcan esa incertidumbre. Premiar la humildad y penalizar la confianza en lo falso es la vía más prometedora para hacer que estas tecnologías sean más confiables.

Conclusión

Las alucinaciones no son magia ni misterio, sino un efecto de cómo se entrenan y evalúan los modelos de IA. OpenAI y la comunidad científica trabajan para que estas herramientas sean más útiles y responsables.

El reto ahora es cultural: que los usuarios aprendan a ver la IA como una asistente poderosa pero no infalible, y que los desarrolladores sigan apostando por la transparencia. Solo así la inteligencia artificial será realmente confiable en nuestra vida diaria.