OpenAI lanza una herramienta innovadora para detectar imágenes generadas por inteligencia artificial

OpenAI lanza una herramienta innovadora para detectar imágenes generadas por inteligencia artificial

En un avance significativo en la detección de contenido generado por inteligencia artificial, la organización sin fines de lucro OpenAI ha lanzado una herramienta innovadora capaz de detectar imágenes generadas por algoritmos de aprendizaje automático. Esta herramienta revolucionaria tiene como objetivo ayudar a combatir la creciente preocupación por la desinformación y la manipulación de contenido en línea, permitiendo a los usuarios identificar con precisión si una imagen es auténtica o ha sido generada por una inteligencia artificial.

OpenAI lanza herramienta innovadora para detectar imágenes generadas por inteligencia artificial

La inteligencia artificial (IA) forma parte integral de nuestra vida diaria desde que se lanzó ChatGPT en noviembre de 2022. Sin embargo, la creación de imágenes, vídeos y textos utilizando esta tecnología puede generar confusión entre los internautas, ya que se pone en duda lo que es real con lo que está creado por una IA.

Para despejar las incógnitas, algunas plataformas como TikTok o YouTube tomaron la iniciativa de crear una etiqueta para identificar el contenido generado por una inteligencia artificial. Y ahora, OpenAI adopta la misma idea para desarrollar y promover una tecnología que ayude a las personas a identificar contenido creado por sus propias herramientas.

La herramienta de detección de imágenes

La compañía de Sam Altman anuncia, en una publicación de su blog oficial, una tecnología para detectar si una imagen se creó con el generador de imágenes DALL-E. Esta herramienta, denominada clasificador de detección, utiliza la IA para predecir la probabilidad de que una imagen haya sido generada por DALL-E 3 de OpenAI.

Las pruebas internas han demostrado una alta precisión para distinguir entre imágenes reales y aquellas que están creadas por DALL-E 3: el clasificador identificó correctamente el 98% de las imágenes de DALL-E 3 y menos del 0,5% de las imágenes no generadas por IA fueron etiquetadas incorrectamente como provenientes de DALL-E 3.

Marcas de agua resistentes a las manipulaciones

Además de la herramienta de detección de imágenes, OpenAI introduce las marcas de agua resistentes a las manipulaciones, que permiten marcar el contenido digital con una señal invisible que es difícil de eliminar.

La compañía también incorpora marcas de agua de audio en el modelo de voz personalizado Voice Engine, que actualmente se encuentra en una vista previa de investigación limitada.

Transparencia en línea

Con estas dos herramientas, OpenAI se compromete a continuar su investigación para mejorar la comprensión y continuar promoviendo la transparencia en línea. Además, considera que las plataformas, los creadores de contenido y los manejadores intermedios deben facilitar la retención de metadatos para permitir la transparencia para el consumidor final de contenido sobre la fuente del contenido.

OpenAI busca promover la transparencia en línea y facilitar la identificación de contenido generado por inteligencia artificial. Esta herramienta innovadora es un paso adelante en la lucha contra la desinformación y la confusión en la era digital.