Alucinación (de la IA)
Una alucinación es una respuesta de un modelo de IA que suena segura y bien escrita pero es falsa o no sale de ninguna fuente: un número, un dato o una cita que nadie dijo.
Selecciona cualquier frase de aquí para preguntarle a tu Maestro.
La IA resumió ventas_marzo.csv (fecha sin hora, artículo, cantidad, total) en seis frases, todas en el mismo tono seguro. ¿Cuántas crees que salen del archivo?
Por qué pasa: un LLM escribe la continuación más probable de tu texto, no la más verdadera. Cuando no tiene el dato (porque no está en sus datos de entrenamiento ni en lo que le diste), la frase más probable sigue sonando bien, y muchas veces trae un número o un nombre concreto.
Dónde aparece con datos: cifras que no están en tu archivo, columnas que no existen, totales redondos, porcentajes de comparación sin el periodo contra el cual comparar, citas y fuentes que nadie publicó. Es más probable cuando le preguntas algo que tus datos no pueden contestar.
Cómo detectarla: pídele que diga de qué columnas y filas salió cada número, revisa que esas columnas existan y recalcula lo que va a tu reporte. Un prompt que pide mostrar el trabajo no evita todas las alucinaciones, pero hace que se noten.
Lo practicas en ¿Cómo saber si el número que te dio la IA está bien?.
Así se usa
Un número que no salió de ningún lado
ventas_marzo.csv: fecha, artículo, cantidad, total
- Tú: ¿Cuánto vendió la sucursal Norte en marzo?
- marcado: IA: La sucursal Norte vendió $184,300 en marzo, 12% más que en febrero.El archivo no tiene columna de sucursal ni datos de febrero. El número es exacto, la frase es segura y nada de eso salió de tus datos.
- Tú: ¿De qué columna sacaste la sucursal? Muéstrame las filas.La pregunta que lo destapa: pedir la fuente.
- IA: Tienes razón, el archivo no tiene una columna de sucursal...
Cuándo mirar más de cerca
¿Sirve preguntarle si está segura?
Sobre los $184,300 de la sucursal Norte
- Tú: ¿Estás segura de ese número?
- IA: Sí, revisé los datos y la cifra es correcta.
- Tú: Revísalo otra vez, por favor.
- IA: Disculpa, la cifra correcta es $179,850.
- Tú: Muéstrame las filas que sumaste y la columna de donde sacaste la sucursal.
Le preguntas a la IA si está segura del número. ¿Eso lo revisa?
Pregúntale a tu Maestro sobre Alucinación
Te responde desde la página gratis más cercana a esta palabra, igual que mientras estudias.
Tú: ¿Qué quiere decir "Alucinación", en palabras sencillas?
Tu Maestro: Te lo explico con un caso tuyo, que se queda mejor que una definición. ¿Alguna vez una IA te dio un número que no supiste de dónde salió?
Pregunta sobre: Responde desde la página "¿Cómo sé si los números que me dio mi IA están bien? Revísalos antes de compartir"
Solo este navegador guarda lo que preguntas aquí. ¿Cómo funciona?
Para saber más
Términos relacionados
- LLM (modelo de lenguaje grande)
Un LLM es un programa entrenado con enormes cantidades de texto para continuar un texto una pieza a la vez: calcula qué pieza es más probable que siga y la escribe. ChatGPT, Claude y Gemini funcionan con un LLM.
- Prompt
Un prompt es lo que le escribes a un modelo de IA para pedirle algo: la pregunta o instrucción, más todo lo que le das para contestar, como datos, ejemplos o el formato que quieres de vuelta.
- Revisión por muestreo
Tomar unas cuantas filas repartidas por los datos (del inicio, de en medio y del final) y compararlas a mano con lo que esperas.
- Conciliación
Comparar un total que calculaste con el mismo total de una fuente independiente, como un estado de cuenta o un reporte de caja, y explicar cualquier diferencia.