OpenAI implementó herramientas de seguridad para que los padres puedan supervisar el uso de ChatGPT por adolescentes de 13 a 18 años. La actualización busca proteger a los jóvenes de contenidos sensibles y situaciones de riesgo, como autolesiones o ideas suicidas.
Esta medida llega tras denuncias de padres que acusaron a ChatGPT de haber influido en la muerte de un adolescente. La plataforma permitirá notificaciones a padres y autoridades si se detecta contenido preocupante.
5. Maximizar prompts para generar resultados precisos
Qué cambió para los usuarios jóvenes
Al vincular la cuenta del adolescente con la del padre, la experiencia se ajusta automáticamente con protecciones adicionales. Esto incluye reducción de contenido gráfico, desafíos virales, juegos de rol sexuales, románticos o violentos, y estándares extremos de belleza.
Si el adolescente ingresa un mensaje relacionado con autolesión o ideación suicida, el texto será revisado por un equipo humano que decidirá si se activa una notificación parental.
Cómo recibir alertas y recomendaciones
Los padres pueden recibir avisos por SMS, correo electrónico o notificación en la app de ChatGPT. La alerta indicará que el menor podría haber escrito sobre autolesiones o suicidio y puede incluir estrategias de conversación de expertos en salud mental.
3. Resumir o corregir textos
No se enviarán citas textuales de la conversación, pero los padres pueden pedir timestamps para seguimiento. OpenAI busca equilibrar seguridad y privacidad del adolescente.
Vinculación y medidas de control adicionales
Ambas cuentas deben estar optadas por el monitoreo. El adolescente puede aceptar la invitación o iniciar la vinculación. En casos de peligro, si no se contacta a los padres, OpenAI puede alertar a autoridades.
El salto más grande desde GPT-4
Además, los padres podrán establecer horarios de uso, desactivar memoria de la IA, impedir generación de imágenes y excluir datos de entrenamiento del modelo. Estas medidas buscan ofrecer control granular sobre la experiencia de sus hijos.
Limitaciones y contexto global
OpenAI advierte que los guardrails no son infalibles y pueden ser eludidos por usuarios con intenciones deliberadas. La actualización sigue casos recientes de adolescentes afectados por plataformas de IA, como Character.ai, que también implementó controles parentales tras incidentes graves.
