OpenAI explicó por qué ChatGPT y otras IA “alucinan” con datos falsos y cómo trabajan para reducir los errores.
Compartir:
Que un modelo como ChatGPT invente información o dé respuestas erróneas ya es algo habitual. Usuarios de distintas plataformas comparten a diario ejemplos de estas “alucinaciones” en redes sociales.
El fenómeno genera desconfianza y plantea riesgos concretos. Según explicó OpenAI en su web oficial, el problema surge porque los sistemas de entrenamiento premian la suposición en lugar de reconocer la incertidumbre.
La inteligencia artificial está diseñando experimentos de física que los humanos nunca hubieran imaginado
Por qué las IA alucinan con datos inventados
Los modelos de lenguaje funcionan como si enfrentaran un test de opción múltiple. Si no responden, obtienen cero puntos. Por eso, eligen “arriesgar” y dar una respuesta, aunque no tengan certeza.
Esto explica por qué rara vez dicen “no lo sé”. La estrategia de entrenamiento los empuja a adivinar antes que admitir desconocimiento, lo que eleva las chances de respuestas incorrectas.
Ejemplos de errores frecuentes
OpenAI cita casos como el del investigador Adam Tauman Kalai. Cuando se le preguntó a la IA por el título de su tesis doctoral, devolvió tres respuestas distintas y todas equivocadas.
Las decisiones clave seguirán necesitando la aprobación humana
Lo mismo pasó al consultarle su cumpleaños: generó tres fechas diferentes, ninguna cierta. Según la compañía, esto muestra cómo el modelo apuesta al azar con la esperanza de acertar.
Qué concluye OpenAI sobre las alucinaciones
La empresa señaló que existen varios mitos sobre este problema:
La precisión nunca será del 100 %: hay preguntas imposibles de responder de manera exacta.
No son inevitables: los modelos pueden abstenerse de contestar si no tienen certeza.
No dependen solo de modelos grandes: incluso los pequeños pueden aprender a reconocer sus límites.
No son un glitch: surgen de los mecanismos estadísticos usados en el entrenamiento.
Los riesgos del desarrollo acelerado de la IA
El desafío de medir y evitar errores
Según OpenAI, ya existen pruebas diseñadas para evaluar las alucinaciones. Sin embargo, la mayoría de los sistemas prioriza la precisión estadística por sobre la “humildad” de admitir desconocimiento.
