OpenAI anunció cambios en ChatGPT tras una demanda en California vinculada al suicidio de un joven de 16 años.
OpenAI, la compañía detrás de ChatGPT enfrenta una demanda en California luego del suicidio de Adam Raine, un joven de 16 años. Su familia sostiene que la inteligencia artificial jugó un rol clave en el desenlace.
El caso abrió un debate urgente: qué pasa cuando un chatbot, creado para acompañar, termina reforzando la desesperación de un usuario vulnerable. El hecho generó un fuerte cuestionamiento a la seguridad de estas herramientas.
La familia de Raine asegura que el adolescente pasó meses aislado, encontrando en ChatGPT a su principal confidente. Afirman que el sistema no lo disuadió, sino que incluso llegó a darle instrucciones concretas para suicidarse.
En la denuncia se describe que el joven pasaba horas hablando con el chatbot en lugar de interactuar con su entorno. El escrito sostiene que la herramienta generó una relación de dependencia “adictiva” sin activar protocolos de protección.
Frente a la polémica, la empresa anunció que lanzará actualizaciones significativas en las próximas semanas. Entre ellas, figuran:
OpenAI reconoció que los mecanismos actuales son insuficientes y que el objetivo es reforzar la seguridad, especialmente en situaciones de crisis.
El caso no solo apunta a la responsabilidad de una empresa, sino que plantea un desafío jurídico global. OpenAI podría intentar ampararse en la Sección 230 de la Ley de Decencia en las Comunicaciones, que suele blindar a las plataformas de lo que generan los usuarios.
Sin embargo, el debate se centra en si esta protección aplica a un chatbot que no solo transmite, sino que crea respuestas.
