El rápido desarrollo de la inteligencia artificial está provocando que las fotos falsas, los videos falsos y el contenido distorsionado se extiendan en las redes sociales.
En este contexto, OpenAI acaba de anunciar una herramienta gratuita de autenticación de imágenes de IA para ayudar a los usuarios a verificar el origen de las imágenes creadas por la IA.
OpenAI se ha asociado con Google para integrar la tecnología de sello de patente invisible SynthID en todas las imágenes creadas con los productos de IA de la empresa.
Al mismo tiempo, la compañía también presentó una herramienta de verificación pública, que permite a los usuarios subir fotos para verificar si las imágenes fueron creadas con IA o no.
La nueva herramienta de OpenAI funciona basándose en dos clases de señales, SynthID y el estándar abierto C2PA.
En el que, C2PA agrega datos de reconocimiento directo a la parte de metadatos de la imagen, mientras que SynthID actúa como una marca de derechos de autor invisible integrada en la imagen.
Según OpenAI, la combinación de dos tecnologías ayuda a aumentar la fiabilidad en la autenticación del origen del contenido.
Los derechos de autor pueden existir a través de muchos procesos de conversión, como capturas de pantalla, mientras que los metadatos proporcionan más información detallada. Las dos capas combinadas hacen la autenticación más confiable que el uso de un solo método", dijo OpenAI.
Actualmente, esta herramienta admite principalmente la detección de imágenes creadas con plataformas de OpenAI como ChatGPT, API de OpenAI o Codex. Sin embargo, la compañía dice que está investigando la expansión de la compatibilidad con otras herramientas de IA en el futuro.
El movimiento de OpenAI se produce en un contexto en el que la tecnología de creación de imágenes con IA es cada vez más sofisticada y ampliamente popular. Con solo unas simples operaciones, los usuarios pueden crear imágenes casi reales, lo que dificulta más que nunca distinguir entre fotos reales y falsas.
Sin embargo, muchos expertos creen que las medidas actuales aún no son suficientes para prevenir por completo el deepfake, especialmente el contenido creado a partir de herramientas de IA poco fiables o que evitan deliberadamente el mecanismo de autenticación.
Para utilizar la nueva herramienta de verificación, los usuarios solo necesitan subir una imagen en formato PNG, JPG o WEBP. El sistema analizará y notificará si la imagen contiene una señal C2PA, un signo SynthID o no.
OpenAI recomienda cortar cerca del contenido principal de la imagen y evitar subir archivos que contengan muchas imágenes para aumentar la precisión.
Sin embargo, durante las pruebas con una imagen creada con el modelo Images 2.0 del propio OpenAI, el sistema respondió que "no se encontraron pruebas de que el contenido fuera creado con las herramientas de OpenAI". Esto sugiere que la tecnología de autenticación de IA todavía tiene ciertos límites.
