Google implementa sistema de detección para identificar imágenes generadas por inteligencia artificial

Google implementa sistema de detección para identificar imágenes generadas por inteligencia artificial

En un avance significativo en la lucha contra la desinformación y la manipulación de contenido, Google ha anunciado la implementación de un sistema de detección revolucionario capaz de identificar imágenes generadas por inteligencia artificial (IA). Este innovador sistema utiliza algoritmos avanzados para analizar y detectar patrones en las imágenes, lo que permite distinguir entre aquellas creadas por humanos y aquellas generadas por máquinas. Esta tecnología tiene el potencial de ser un herramienta poderosa en la lucha contra la difusión de información falsa y la manipulación de la realidad, permitiendo a los usuarios y a las plataformas de redes sociales identificar y eliminar contenido generado por IA de manera efectiva.

Google lanza sistema de detección para identificar imágenes generadas por inteligencia artificial

La empresa de Mountain View, Google, ha anunciado que su buscador incluirá una función para que los usuarios puedan saber si una imagen ha sido generada o editada con herramientas de inteligencia artificial. El objetivo es otorgar una mayor transparencia en estos resultados y ayudar a separar las imágenes reales de las falsas mediante la colocación de etiquetas en las que posean IA.

El sistema que utiliza Google para abordar el problema de las imágenes generadas por IA forma parte de su colaboración con la Coalición para la Procedencia y Autenticidad del Contenido (C2PA por sus siglas en inglés). Según TheVerge, esta autenticación incluye información sobre el origen de las imágenes y funciona tanto en hardware como en software para crear un rastro digital.

Etiquetas para imágenes generadas por IA

Desde Google van a añadir etiquetas para las imágenes que estén creadas o alteradas con modelos de inteligencia artificial. La etiqueta se podrá ver en la opción ‘Acerca de esta imagen’ y también llegará al buscador de Google Lens, así como en ‘Rodear para buscar’ en Android. Se valora, aunque falta confirmación, incluirlo en los videos de YouTube.

La función permitirá a los usuarios identificar fácilmente las imágenes que han sido generadas o editadas con herramientas de IA, lo que ayudará a evitar la confusión y el engaño. Esta característica es especialmente importante en la era de los deepfakes, donde la tecnología de IA se utiliza para crear contenido falso y engañoso.

La Coalición para la Procedencia y Autenticidad del Contenido

La C2PA es una coalición formada por empresas como Amazon, Microsoft, Adobe, Arm, OpenAI, Intel, Truepic y Google, que trabajan juntas para desarrollar estándares y tecnologías para autenticar y verificar la procedencia de los contenidos.

Para poder reconocer las imágenes generadas por IA, Google utilizará los metadatos que estas compañías integran en imágenes generadas por esta tecnología. Aunque el despliegue de estas etiquetas todavía tardará, se espera que comiencen a aparecer en los próximos meses, lo que será de mucha utilidad para no caer en engaños y poder diferenciar en todo momento lo que estamos viendo.

Con esta función, Google da un paso importante hacia la transparencia y la autenticidad en la web, y establece un precedente para que otras empresas sigan su ejemplo.