Google anunció el martes que existe una nueva forma para que los usuarios averigüen si una imagen fue creada utilizando inteligencia artificial generativa (IA). Si bien el gigante tecnológico está trabajando para desarrollar herramientas internas para marcar el contenido generado por IA, también se unió a la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) como miembro del comité directivo en febrero. Después de trabajar con otros actores de la industria para desarrollar nuevos estándares técnicos, la empresa ahora los está integrando en imágenes a las que se puede acceder a través de sus herramientas.
Google ayudará a los usuarios a identificar imágenes generadas por IA
El riesgo de las imágenes generadas por IA es que muchas imágenes creadas y mejoradas digitalmente son indistinguibles de las imágenes reales. Por lo tanto, el problema de los deepfakes se ha disparado enormemente, donde se afirma que imágenes realistas generadas por IA que representan a una persona, lugar o evento son reales para difundir información errónea.
Google declaró en un publicación de blog que en la primera mitad de este año trabajaron junto con otros miembros de la coalición para desarrollar una nueva versión (2.1) del estándar técnico llamado Credenciales de contenido. Se dice que es más seguro contra diversos tipos de interferencias y tiene requisitos técnicos más estrictos. Este estándar ahora se agrega a las imágenes que se pueden buscar usando las herramientas de Google.
El gigante tecnológico dijo que las credenciales de contenido se integrarán en las imágenes que aparecen en Google Images, Lens y Circle to Search. Esto significa que cuando los usuarios van a la sección “Acerca de esta imagen” de una imagen, pueden verificar los metadatos de C2PA que confirman si la imagen fue creada o editada utilizando herramientas de inteligencia artificial.
Además, Google dijo que tiene la intención de integrar metadatos C2PA utilizando su sistema de publicidad. Estos datos guiarán las políticas clave y las estrategias de cumplimiento de la empresa en el futuro. Además, también están buscando formas de transmitir información C2PA a los espectadores en YouTube para ayudarles a saber si el vídeo fue grabado con cámara o creado digitalmente.
En particular, el gigante tecnológico ha desarrollado marcas de agua internas. tecnología para contenido de IA llamado SynthID. Este sistema fue creado por Google DeepMind e incorpora información dentro de los píxeles de la imagen de tal manera que permanece invisible a la vista pero aparece cuando se examina con herramientas especiales.
