Alucinación (Hallucination) en IA

Una alucinación de IA ocurre cuando un modelo de lenguaje de gran tamaño (LLM) o herramienta de visión artificial produce contenido que es incorrecto, engañoso o carece de base en datos reales. El término es metafórico: no significa que los modelos sufran delirios como los seres humanos, sino que generan resultados inesperados que no se corresponden con la realidad en respuesta a las indicaciones del usuario.

Las alucinaciones pueden variar en gravedad, desde pequeños errores de hecho hasta afirmaciones completamente inventadas. El modelo puede identificar erróneamente patrones, malinterpretar el contexto o basarse en datos limitados o sesgados para producir estos resultados inesperados.

Causas principales: Las alucinaciones se originan por limitaciones en los datos de entrenamiento (datos incompletos, incorrectos o sesgados), sobreajuste del modelo a sus datos de entrenamiento, falta de contexto del mundo real, suposiciones incorrectas del modelo, errores de codificación y descodificación, y la incapacidad del modelo para buscar contexto correcto en otras fuentes. Cuando un modelo se entrena con demasiados datos o datos con ruido irrelevante, puede confundir información importante con patrones inexistentes.

Tipos de alucinaciones: Se clasifican en errores de hecho (información incorrecta sobre eventos reales), contenido fabricado (historias o datos completamente inventados) y salidas absurdas (respuestas sin sentido o incoherentes). Frecuentemente, una sola alucinación puede solapar varios tipos simultáneamente.

Impacto: Las alucinaciones representan un riesgo significativo en aplicaciones críticas como diagnósticos médicos, decisiones financieras o análisis de datos empresariales, donde resultados inexactos pueden llevar a decisiones catastróficas.