OpenAI suma medidas para detectar imágenes creadas con inteligencia artificial

OpenAI anunció nuevas herramientas para facilitar la identificación de imágenes generadas con inteligencia artificial, en medio del crecimiento de contenidos creados por IA en internet.

La compañía confirmó que comenzará a utilizar estándares abiertos de autenticidad y marcas de agua invisibles para ayudar a verificar si una imagen fue creada con sus modelos.

Cómo funcionará el nuevo sistema de verificación de OpenAI

Una de las principales novedades es la adopción del estándar abierto C2PA, desarrollado por la organización Coalition for Content Provenance and Authenticity.

Este sistema incorpora información dentro de los metadatos de la imagen para indicar claramente que fue generada mediante inteligencia artificial.

Según explicó OpenAI, la idea es mejorar la trazabilidad y la autenticidad del contenido digital.

El sistema permitirá comprobar si una imagen contiene señales vinculadas a inteligencia artificial generada por productos de OpenAI.

Inicialmente, la plataforma funcionará únicamente con imágenes creadas mediante herramientas de la compañía, aunque OpenAI aseguró que busca ampliar la compatibilidad a futuro.

Por qué OpenAI apuesta por doble protección

La compañía explicó que los dos sistemas fueron pensados para complementarse. Mientras los metadatos permiten ofrecer información detallada sobre el origen del archivo, las marcas de agua invisibles aportan mayor resistencia frente a manipulaciones.

“Juntos hacen que la procedencia sea más sólida que utilizando solo una de las capas”, señaló OpenAI en su comunicado.

Qué límites tienen estas herramientas

Las nuevas protecciones solo se aplicarán a imágenes generadas mediante productos de OpenAI.

Eso significa que no impactarán sobre contenidos creados con otras herramientas de inteligencia artificial menos reguladas o sin sistemas de verificación.

Aun así, la empresa busca evitar que sus modelos contribuyan a la circulación de imágenes falsas o engañosas.

Qué es C2PA y quiénes lo utilizan

La organización C2PA fue fundada en 2021 y trabaja en estándares para combatir la desinformación y mejorar la autenticidad del contenido digital.

El sistema ya fue adoptado por distintos productos de Google y otras compañías tecnológicas. Sin embargo, su implementación todavía es irregular dentro de la industria tecnológica y audiovisual.

Qué es SynthID y para qué servirá

Además del sistema C2PA, OpenAI trabajará junto a Google para integrar SynthID, una marca de agua invisible diseñada específicamente para contenidos creados con IA.

La tecnología fue desarrollada por Google y busca resistir modificaciones comunes como capturas de pantalla, recortes, redimensionamiento o ediciones digitales.

A diferencia de los metadatos tradicionales, la marca de agua es más difícil de detectar y también más compleja de eliminar.

OpenAI lanzará una herramienta pública para verificar imágenes

La empresa también adelantó que trabaja en una herramienta pública de verificación.