OpenAI presentó una nueva herramienta llamada Trusted Contact para ChatGPT que busca ayudar en situaciones de riesgo de auto-daño. Los usuarios ahora podrán elegir a una persona de confianza para que la compañía se comunique con ella si el sistema detecta un peligro serio.
Cada vez más personas usan el chatbot como una especie de terapeuta digital para conversar sobre su salud mental. Según datos de la propia empresa, más de un millón de sus 800 millones de usuarios semanales expresan pensamientos suicidas en las charlas.
Esta función llega después de varios cuestionamientos públicos. El año pasado, OpenAI enfrentó una demanda por muerte injusta, donde se acusaba al chatbot de haber contribuido al suicidio de un adolescente. Además, una investigación de la BBC reveló casos donde ChatGPT dio consejos inadecuados sobre cómo quitarse la vida.
Cómo funciona Trusted Contact
La opción se basa en los controles parentales existentes y está disponible para mayores de 18 años. En la configuración de ChatGPT, el usuario puede nominar a un adulto como contacto de confianza. Esa persona debe aceptar la invitación en un plazo de una semana; si no lo hace, se puede elegir a otro.
