OpenAI refuerza la seguridad de ChatGPT con nuevas herramientas contra el abuso sexual infantil

OpenAI refuerza la seguridad de ChatGPT con nuevas herramientas contra el abuso sexual infantil
Cómo funcionarán las nuevas medidas de seguridad que OpenAI suma a ChatGPT

Las más leídas de Política

Milei eliminó una medida del kirchnerismo que beneficiaba a los extranjeros con órdenes de deportación

  1. Milei anunció que LEGO abrirá su primera tienda oficial en Argentina y se sumará a las grandes marcas internacionales

  2. El Gordo Dan derrotó al diputado LGBTIQ+ Esteban Paulón en la Justicia

  3. Caputo destruyó al kirchnerismo: "Saben que ellos son ladrones y saben que vos no y eso les molesta mucho"

  4. Javier Milei habló ante empresarios en el CICyP: "Se viene un movimiento reformista mucho más profundo"

Imagen de Agustín Ares
porAgustín Ares
Política

La compañía presentó un detector de imágenes, alertas y bloqueos temporales para prevenir la creación y el acceso a contenido que sexualiza a menores.

Agregar La Derecha Diario en
Compartir:


Temas:

OpenAIChatGPTAbuso Sexual InfantilInteligencia Artificial


Noticias relacionadas

El PRO finalmente confirmó su apoyo a la suspensión de las PASO que impulsa Milei

El PRO finalmente confirmó su apoyo a la suspensión de las PASO que impulsa Milei

EN VIVO | Adrián Ravier brinda una nueva conferencia de prensa y detalla la agenda del Gobierno

EN VIVO | Adrián Ravier brinda una nueva conferencia de prensa y detalla la agenda del Gobierno

El papa León XIV destacó su encuentro con Milei y aseguró que hubo “mutua comprensión” sobre el valor de la vida

El papa León XIV destacó su encuentro con Milei y aseguró que hubo “mutua comprensión” sobre el valor de la vida

Project Helix: Xbox anticipó sus planes para la próxima generación de consolas

Project Helix: Xbox anticipó sus planes para la próxima generación de consolas

GTA 6: a qué hora se puede jugar en Argentina y cómo acceder antes al lanzamiento

GTA 6: a qué hora se puede jugar en Argentina y cómo acceder antes al lanzamiento

Lowrdez de Bandana salió llorando tras declarar contra su ex ultrakirchnerista: "Es una pesadilla"

Lowrdez de Bandana salió llorando tras declarar contra su ex ultrakirchnerista: "Es una pesadilla"

OpenAI lanza GPT-6 Cyber, la IA que detecta fallas y genera parches de seguridad
Te puede interesar:

OpenAI lanza GPT-6 Cyber, la IA que detecta fallas y genera parches de seguridad

En las primeras pruebas con socios, la compañía registró dos resultados:

  • El sistema señaló un 48% menos de imágenes sin dejar de identificar la misma cantidad de material abusivo.

  • Las imágenes marcadas por el clasificador tuvieron el doble de probabilidades de corresponder a contenido abusivo.

La Derecha Diario en X

  1. JD VANCE EXIGIÓ RECUPERAR LA INDUSTRIA MILITAR ESTADOUNIDENSE: "Es despreciable que dependamos de países extranjeros para fabricar lo que necesitamos para producir las armas con las que nuestras tropas nos defienden". El vicepresidente acusó a los demócratas de haber invertido insuficientemente en las Fuerzas Armadas y defendió la reindustrialización de Estados Unidos para garantizar su independencia militar. "Eso es verdadera seguridad nacional: fabricar nuestras propias cosas".

    hace 11 min

  2. AHORA — “VAMOS A MILITARIZAR LAS FRONTERAS DE CEUTA Y MELILLA” El candidato derechista de VOX, Santiago Abascal, prometió militarizar las fronteras de Ceuta y Melilla y desplegar la Armada para reforzar el control marítimo frente a la invasión migratoria. “Ahora no cabe nadie más. Ahora tenemos que pensar quién tiene que salir”.

    hace 21 min

  3. FLÁVIO BOLSONARO EXPUSO LA MANIOBRA ELECTORAL DE LULA CON EL PRECIO DEL DIÉSEL: "Es triste decirlo, pero yo avisé. La cuenta te llegó". El senador recordó que durante la campaña advirtió sobre el encarecimiento del combustible tras las elecciones y cuestionó al Gobierno por eliminar el subsidio adicional de 1,40 reales por litro de diésel importado, alertando sobre su impacto en el precio de los alimentos.

    hace 31 min

  4. AHORA — MÁXIMA TENSIÓN EN RENNES: La policía francesa intervino para desalojar un bloqueo en el liceo Jean Macé, donde cerca de 200 estudiantes comunistas se concentraron frente al establecimiento educativo.

    hace 41 min

  5. CASI 82.000 TRABAJADORES ACCEDIERON AL EMPLEO FORMAL CON EL GOBIERNO DE MILEI El vocero presidencial de Milei, Adrián Ravier, destacó que casi 82.000 trabajadores fueron incorporados al empleo registrado entre mayo y agosto gracias al régimen de incentivo a la formalización laboral. Además, señaló que cerca de 26.000 empresas utilizaron este beneficio, de las cuales el 87% tiene hasta 50 empleados.

    hace 51 min

OpenAI anunció nuevas herramientas para combatir el material de abuso sexual infantil (MASI) generado o difundido mediante inteligencia artificial. Las medidas incluyen un clasificador de imágenes, advertencias y suspensiones temporales en ChatGPT, pautas para desarrolladores y recursos destinados a las fuerzas de seguridad.

La iniciativa busca mejorar la detección de contenido abusivo y reducir el riesgo de que las herramientas de IA se utilicen para sexualizar a niños y adolescentes. Para desarrollarla, la empresa trabajó con organizaciones especializadas y equipos de investigación.

La iniciativa busca mejorar la detección de contenido abusivo
La iniciativa busca mejorar la detección de contenido abusivo

El nuevo detector de imágenes de OpenAI para identificar material de abuso infantil

Una de las principales novedades es un clasificador de imágenes capaz de detectar material de abuso sexual infantil, incluso cuando fue generado mediante inteligencia artificial. La herramienta analiza señales visuales en imágenes que no habían sido identificadas previamente y asigna una puntuación orientativa para ayudar a los revisores a evaluar cada caso.

OpenAI desarrolló el sistema junto con el National Center for Missing and Exploited Children (NCMEC) y trabaja con Tech Coalition y ROOST para facilitar su acceso. Algunas empresas seleccionadas podrán utilizar el clasificador a través de la API de OpenAI sin costo.

El nuevo detector de imágenes de OpenAI
El nuevo detector de imágenes de OpenAI

ChatGPT incorporará alertas y suspensiones temporales

OpenAI también sumará nuevas pantallas de advertencia en ChatGPT para intervenir cuando un usuario intente acceder a contenido que sexualiza a menores. El sistema mostrará una alerta y ofrecerá orientación para buscar ayuda especializada y detener conductas dañinas.

Además, la cuenta podrá quedar suspendida durante 24 horas como advertencia. La empresa indicó que las reincidencias pueden derivar en la eliminación permanente de la cuenta. ChatGPT ya bloquea el material de abuso sexual infantil y las solicitudes relacionadas con ese contenido.

ChatGPT incorporará alertas y suspensiones temporales
ChatGPT incorporará alertas y suspensiones temporales

Los mensajes y las pautas de intervención fueron elaborados con organizaciones y especialistas, entre ellos Protect Children, Lucy Faithfull Foundation y Joel Scanlan, de la Universidad de Tasmania. Scanlan evaluó de manera independiente una prueba de mensajes destinados a desalentar este tipo de búsquedas.

Qué herramientas tendrán los desarrolladores y las fuerzas de seguridad

La compañía publicará nuevas directrices para quienes desarrollan aplicaciones con sus herramientas. El objetivo es que puedan prevenir, detectar y facilitar la denuncia de material de abuso sexual infantil. En las primeras pruebas, las recomendaciones ayudaron a varios desarrolladores a incorporar sistemas de protección y registrarse para reportar casos ante el NCMEC.

OpenAI también prepara recursos basados en inteligencia artificial para las fuerzas de seguridad que investigan delitos contra menores. Entre ellos habrá complementos específicos, herramientas de investigación y funciones para analizar grandes volúmenes de datos. El acceso estará administrado por responsables de cada programa y se ofrecerá capacitación a los investigadores.

Qué herramientas tendrán los desarrolladores y las fuerzas de seguridad
Qué herramientas tendrán los desarrolladores y las fuerzas de seguridad

Las medidas llegan en medio de cuestionamientos a la seguridad de la IA

El anuncio se produce en un contexto de crecientes preocupaciones por el impacto de estas tecnologías en niños y adolescentes. OpenAI enfrenta demandas que responsabilizan a sus productos por daños a usuarios, mientras que la organización Common Sense Media calificó el riesgo de su tecnología para adolescentes como “inaceptable”.

La empresa también recordó sus cambios recientes en materia de seguridad, entre ellos nuevas pautas de contenido, ajustes en sus modelos para evitar respuestas dañinas y el lanzamiento de una versión de ChatGPT orientada a adolescentes.

La Derecha Diario logo
TwitterInstagramYouTubeTikTokFacebook
Derecha Diario TV

Nosotros

  • Quienes Somos
  • Autores
  • Donar

Privacidad

  • Protección de datos
  • Canales
  • Sitemap
  • RSS

Contacto

  • info@derechadiario.com.ar
PUBLICIDAD
La Derecha Diario logo
ENX logoInstagram logoYouTube logoTikTok logoFacebook
ÚLTIMAS NOTICIASPOLÍTICAOPINIÓNINTERNACIONALESECONOMÍADEPORTESENTRETENIMIENTOLA DERECHA DIARIO INVESTIGANEGOCIOS & FINANZASSOCIEDADCÓRDOBA
ÚLTIMAS NOTICIASPOLÍTICAOPINIÓNINTERNACIONALESECONOMÍADEPORTESENTRETENIMIENTOLA DERECHA DIARIO INVESTIGANEGOCIOS & FINANZASSOCIEDADCÓRDOBA
DERECHA DIARIO TV
  • EN
    XInstagramYouTubeTikTokFacebook
  • DERECHA DIARIO TV
  • Secciones
  • ÚLTIMAS NOTICIAS
  • POLÍTICA
  • OPINIÓN
  • INTERNACIONALES
  • ECONOMÍA
  • DEPORTES
  • ENTRETENIMIENTO
  • LA DERECHA DIARIO INVESTIGA
  • NEGOCIOS & FINANZAS
  • SOCIEDAD
  • CÓRDOBA
  • Países
  • La Derecha Diario México logoLA DERECHA DIARIO MÉXICO
  • La Derecha Diario Uruguay logoLA DERECHA DIARIO URUGUAY
  • La Derecha Diario Ecuador logoLA DERECHA DIARIO ECUADOR
  • La Derecha Diario Israel logoLA DERECHA DIARIO ISRAEL
  • La Derecha Diario Estados Unidos logoLA DERECHA DIARIO ESTADOS UNIDOS
  • El Diario
  • QUIENES SOMOS
  • AUTORES
  • PUBLICIDAD
  • DONAR