OpenAI explicó por qué ChatGPT y otras IA “alucinan” con datos falsos y cómo trabajan para reducir los errores.
Los modelos de lenguaje funcionan como si enfrentaran un test de opción múltiple. Si no responden, obtienen cero puntos. Por eso, eligen “arriesgar” y dar una respuesta, aunque no tengan certeza.
Esto explica por qué rara vez dicen “no lo sé”. La estrategia de entrenamiento los empuja a adivinar antes que admitir desconocimiento, lo que eleva las chances de respuestas incorrectas.
Que un modelo como ChatGPT invente información o dé respuestas erróneas ya es algo habitual. Usuarios de distintas plataformas comparten a diario ejemplos de estas “alucinaciones” en redes sociales.
El fenómeno genera desconfianza y plantea riesgos concretos. Según explicó OpenAI en su web oficial, el problema surge porque los sistemas de entrenamiento premian la suposición en lugar de reconocer la incertidumbre.
OpenAI cita casos como el del investigador Adam Tauman Kalai. Cuando se le preguntó a la IA por el título de su tesis doctoral, devolvió tres respuestas distintas y todas equivocadas.
Lo mismo pasó al consultarle su cumpleaños: generó tres fechas diferentes, ninguna cierta. Según la compañía, esto muestra cómo el modelo apuesta al azar con la esperanza de acertar.
La empresa señaló que existen varios mitos sobre este problema:
Según OpenAI, ya existen pruebas diseñadas para evaluar las alucinaciones. Sin embargo, la mayoría de los sistemas prioriza la precisión estadística por sobre la “humildad” de admitir desconocimiento.
