OpenAI anunció nuevas herramientas para facilitar la identificación de imágenes generadas coninteligencia artificial, en medio del crecimiento de contenidos creados por IA en internet.
La compañía confirmó que comenzará a utilizar estándares abiertos de autenticidad y marcas de agua invisibles para ayudar a verificar si una imagen fue creada con sus modelos.
La compañía confirmó que comenzará a utilizar estándares abiertos de autenticidad
Cómo funcionará el nuevo sistema de verificación de OpenAI
Una de las principales novedades es la adopción del estándar abierto C2PA, desarrollado por la organización Coalition for Content Provenance and Authenticity.
Este sistema incorpora información dentro de los metadatos de la imagen para indicar claramente que fue generada mediante inteligencia artificial.
Según explicó OpenAI, la idea es mejorar la trazabilidad y la autenticidad del contenido digital.
Cómo funcionará el nuevo sistema de verificación de OpenAI
Qué es SynthID y para qué servirá
Además del sistema C2PA, OpenAI trabajará junto a Google para integrar SynthID, una marca de agua invisible diseñada específicamente para contenidos creados con IA.
La tecnología fue desarrollada por Google y busca resistir modificaciones comunes como capturas de pantalla, recortes, redimensionamiento o ediciones digitales.
OpenAI trabajará junto a Google para integrar SynthID
A diferencia de los metadatos tradicionales, la marca de agua es más difícil de detectar y también más compleja de eliminar.
OpenAI lanzará una herramienta pública para verificar imágenes
La empresa también adelantó que trabaja en una herramienta pública de verificación.
El sistema permitirá comprobar si una imagen contiene señales vinculadas a inteligencia artificial generada por productos de OpenAI.
OpenAI lanzará una herramienta pública para verificar imágenes
Inicialmente, la plataforma funcionará únicamente con imágenes creadas mediante herramientas de la compañía, aunque OpenAI aseguró que busca ampliar la compatibilidad a futuro.
Por qué OpenAI apuesta por doble protección
La compañía explicó que los dos sistemas fueron pensados para complementarse. Mientras los metadatos permiten ofrecer información detallada sobre el origen del archivo, las marcas de agua invisibles aportan mayor resistencia frente a manipulaciones.
Por qué OpenAI apuesta por doble protección
“Juntos hacen que la procedencia sea más sólida que utilizando solo una de las capas”, señaló OpenAI en su comunicado.
Qué límites tienen estas herramientas
Las nuevas protecciones solo se aplicarán a imágenes generadas mediante productos de OpenAI.
Eso significa que no impactarán sobre contenidos creados con otras herramientas de inteligencia artificial menos reguladas o sin sistemas de verificación.
Qué límites tienen estas herramientas
Aun así, la empresa busca evitar que sus modelos contribuyan a la circulación de imágenes falsas o engañosas.
Qué es C2PA y quiénes lo utilizan
La organización C2PA fue fundada en 2021 y trabaja en estándares para combatir la desinformación y mejorar la autenticidad del contenido digital.
Qué es C2PA y quiénes lo utilizan
El sistema ya fue adoptado por distintos productos de Google y otras compañías tecnológicas. Sin embargo, su implementación todavía es irregular dentro de la industria tecnológica y audiovisual.
