Le pedís una cita bibliográfica sobre un tema. Te devuelve autor, título, revista, año y número de páginas. Todo tiene la forma exacta de una cita real. Y el artículo no existe. Entender por qué pasa eso es probablemente lo más útil que podés aprender sobre esta tecnología.
En corto
- La explicación en una línea: un modelo de lenguaje no guarda hechos, aprendió qué palabras suelen seguir a qué otras. Cuando le pedís una cita, no la busca: la construye con la forma que suelen tener las citas.
- No es una falla excepcional: hace exactamente lo mismo cuando acierta. La diferencia es que ahí la forma plausible coincide con algo verdadero.
- Por eso suena tan seguro: el tono asertivo es una característica del estilo del texto, no una medida de certeza interna.
- Dónde desconfiar: cifras, fechas, nombres propios, citas, referencias legales, temas muy nicho y todo lo posterior a su fecha de corte.
- Qué sí funciona: darle el material sobre el que querés que trabaje, en lugar de pedirle que recuerde.
Lo que vas a leer
Qué hace realmente la máquina
La descripción más honesta y menos glamorosa: un modelo de lenguaje predice qué texto sigue. Fue entrenado con cantidades enormes de texto y lo que aprendió son regularidades estadísticas: qué palabras, frases y estructuras tienden a aparecer después de cuáles, en qué contextos.
Eso significa que cuando responde, no está consultando nada. No hay una tabla interna de hechos verificados que alguien cargó. Hay un sistema generando la continuación más probable, palabra por palabra, dado todo lo anterior.
Y ahí está la clave que explica todo el fenómeno: producir algo verdadero y producir algo falso son, para el modelo, exactamente la misma operación. No hay un modo "recordar" y un modo "inventar" entre los que pueda elegir. Hay un solo modo, y a veces el resultado coincide con la realidad.
No falla cuando inventa. Hace lo mismo que cuando acierta, solo que esta vez lo plausible no era verdadero.
Por qué "alucinación" es un mal nombre
El término se impuso y ya no se va a ir, pero conviene saber qué esconde. "Alucinar" sugiere una anomalía, un sistema que normalmente percibe bien y de pronto se descompone. Eso instala la idea de que con suficiente ajuste el problema desaparecería.
Una descripción más cercana a lo que pasa sería "confabulación": producir con naturalidad un relato coherente que llena los huecos sin conciencia de estar haciéndolo. No hay intención de engañar, y tampoco hay una verificación interna fallando. Simplemente no existe esa verificación.
La consecuencia práctica de elegir bien el nombre es importante: si creés que es un error puntual, esperás que se arregle solo con la próxima versión. Si entendés que es estructural, incorporás la verificación a tu forma de trabajar y dejás de sorprenderte.
Por qué suena tan convincente
Un humano que no está seguro lo transmite: duda, matiza, dice "me parece que". Leemos esas señales todo el tiempo y las usamos para calibrar cuánto creerle a alguien.
Un modelo de lenguaje produce esas mismas señales, pero desconectadas de cualquier estado interno. Escribe con seguridad porque el material con el que aprendió está escrito con seguridad: las enciclopedias, los manuales y los artículos no dicen "capaz que esto es así". El tono asertivo es el tono por defecto del texto expositivo.
Por eso la fluidez y la confianza del resultado no dicen absolutamente nada sobre su exactitud. Es el mismo problema que tenemos para evaluar nuestro propio aprendizaje: confundimos fluidez con dominio, y acá la fluidez es infinita.
De las personas que delegaron la escritura de un ensayo en un modelo de lenguaje no pudo citar un solo pasaje del texto que acababa de entregar, en un estudio del MIT Media Lab. El texto era fluido, correcto en apariencia y completamente ajeno a quien lo firmaba.
Dónde falla más y dónde es confiable
| Desconfiá | Podés apoyarte |
|---|---|
| Citas bibliográficas y referencias | Explicar conceptos establecidos |
| Cifras, fechas y estadísticas | Reformular y resumir un texto que vos le das |
| Nombres propios y atribuciones | Proponer estructuras y esquemas |
| Artículos de ley y normativa | Traducir y corregir estilo |
| Temas muy específicos o de nicho | Generar variantes y alternativas |
| Cualquier cosa posterior a su fecha de corte | Discutir un razonamiento tuyo y buscarle agujeros |
La regla que resume la tabla: es fuerte transformando información que ya tiene delante y débil recuperando información específica de su memoria. Cada vez que puedas convertir un pedido del segundo tipo en uno del primero, la confiabilidad sube muchísimo.
Qué reduce el problema de verdad
01 Darle el material
En vez de "¿qué dice la ley sobre X?", pegarle el texto de la ley y preguntar sobre eso. Suena obvio y es la diferencia entre un sistema que recuerda vagamente y uno que lee. Es la idea detrás de lo que técnicamente se llama recuperación aumentada.
02 Pedir citas textuales, no resúmenes
"Citá la frase exacta del documento que sostiene eso" es verificable en dos segundos. Un resumen, no.
03 Preguntar dos veces por separado
En conversaciones distintas, no en la misma. Si las respuestas difieren en un dato concreto, hay un problema. Si coinciden, no garantiza nada, pero la divergencia sí es una señal útil.
04 Restringir el alcance
Cuanto más acotado el pedido, menos lugar para rellenar. "Explicame este párrafo" tiene menos superficie de invención que "contame todo sobre este tema".
Los trucos que no funcionan
- "No inventes nada." Ayuda un poco y no garantiza nada, porque el modelo no tiene un umbral confiable de "no sé" al que pueda apelar cuando se lo pedís.
- Preguntarle si está seguro. Puede sostener el error con la misma convicción, o desdecirse de algo que era correcto solo porque lo cuestionaste. Su respuesta a esa pregunta también es texto plausible.
- Pedirle las fuentes sin verificarlas. Es el peor de todos, porque las fuentes inventadas dan una falsa sensación de rigor. La lista de referencias es el lugar donde las alucinaciones son más frecuentes y más convincentes.
- Confiar porque otra IA lo confirmó. Dos sistemas entrenados con material parecido pueden compartir el mismo error.
Un protocolo de verificación en cinco pasos
- Separá lo que es criterio (estructura, redacción, enfoque) de lo que es dato (números, nombres, citas). Lo primero casi no necesita verificación; lo segundo, siempre.
- Marcá cada dato que vayas a usar. Si no lo podés marcar, es porque no sabés de dónde salió.
- Buscá la fuente primaria. No una nota que la menciona: el documento.
- Si no aparece en dos minutos, sospechá. Las citas inventadas tienen una característica: son imposibles de encontrar y muy fáciles de creer.
- Lo no verificado no se publica. Con tu nombre al lado, el error es tuyo, no del modelo.
Todo esto suena a trabajo, y lo es. Pero es bastante menos trabajo que escribir desde cero, y muchísimo menos que explicar por qué citaste un fallo judicial que nunca existió.
Probalo en una clase real
10 minutos gratis con un profesor AI que te enseña a usar esto con criterio, no a confiar de más. Por voz, sin tarjeta.
Probá una clase gratis¿Por qué la inteligencia artificial inventa datos?
Porque no guarda una base de datos de hechos: aprendió qué palabras suelen seguir a qué otras en enormes cantidades de texto. Cuando le pedís una cita bibliográfica no la busca, la construye con la forma que suelen tener las citas de ese tema. Por eso suena perfecta y por eso puede no existir. No falla cuando inventa: hace exactamente lo mismo cuando acierta, solo que ahí la forma plausible coincide con algo verdadero.
¿Qué es una alucinación en IA?
Es cualquier afirmación que el modelo produce con seguridad y que no es verdadera: una cita que no existe, una fecha equivocada, una función de software inventada, un artículo de ley que nadie escribió. El nombre es desafortunado porque sugiere una falla excepcional, cuando en realidad es la consecuencia normal de un sistema que genera texto plausible.
¿Se puede eliminar del todo?
No con la tecnología actual. Se puede reducir bastante: conectando el modelo a fuentes reales para que responda con documentos en vez de con lo que recuerda, pidiéndole que cite y verificando las citas, o haciéndolo trabajar sobre material que vos le das. Cualquier producto que prometa cero alucinaciones está exagerando.
¿Por qué suena tan seguro cuando se equivoca?
Porque la seguridad del texto es una característica del estilo, no una medida de certeza. El modelo genera la formulación más probable, y en los textos con los que fue entrenado las afirmaciones se escriben en tono asertivo. Dicho de otro modo: no tiene un medidor interno de confianza que se refleje en cómo escribe.
¿En qué casos conviene desconfiar más?
En datos específicos y verificables: cifras, fechas, nombres propios, citas bibliográficas, artículos de ley, referencias a documentos. También en temas muy nicho, donde hubo poco material de entrenamiento, y en todo lo que haya ocurrido después de su fecha de corte. Al revés, es bastante confiable para explicar conceptos establecidos, reformular, resumir un texto que vos le das y proponer estructuras.
¿Cómo verifico lo que me devuelve?
Tres reglas prácticas: todo dato con nombre, número o fecha se chequea contra la fuente original; toda cita se busca antes de usarse; y lo que no podés verificar, no lo publicás. Pedirle al modelo que se autoevalúe ayuda poco, porque puede sostener el error con la misma convicción.
¿Sirve pedirle que no invente?
Ayuda algo, pero mucho menos de lo que la gente cree. Instrucciones como 'si no sabés, decí que no sabés' mejoran el comportamiento en algunos casos y no lo garantizan, porque el modelo no tiene un umbral confiable de 'no sé'. Rinde mucho más darle el material sobre el que querés que trabaje.
Fuentes
- Ji, Z. et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys, 55(12).
- Bender, E. M., Gebru, T., McMillan-Major, A. & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. FAccT '21.
- Kosmyna, N. et al. (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt. MIT Media Lab. arxiv.org
Seguí leyendo
Cómo aprender IA desde cero en 2026: una ruta sin humo › Qué es un profesor AI y en qué se diferencia de un chatbot › La técnica de Feynman con IA: explicá para entender ›Publicado por el equipo de Maestre · Los creadores de Cineastas del Futuro: más de 17.000 alumnos formados. Escribimos sobre lo que probamos enseñando.