Se ha detectado que la herramienta de detección de contenido de inteligencia artificial (IA) de Meta en Instagram muestra imágenes originales con la etiqueta “Creado por IA”. Una de las publicaciones mal etiquetadas provino de la cuenta oficial de Instagram de los Kolkata Knight Riders, que recientemente ganaron el torneo de cricket de la Indian Premier League (IPL) de 2024. Una de las imágenes subidas por la cuenta, que muestra al equipo levantando el trofeo, estaba etiquetada. por la plataforma está hecho por IA. Varios fotógrafos en la plataforma de redes sociales experimentaron el mismo problema.
En febrero, Meta dijo que estaba en el proceso de introducir una función de detección de contenido generada por IA que evitaría que los usuarios recibieran información errónea y resaltaría ejemplos de deepfakes (imágenes y videos generados por IA o alterados digitalmente para parecerse a personas, ubicaciones u otros eventos). ). La función se lanzó recientemente en Instagram y parece que también etiqueta fotos reales como contenido generado por IA. Actualmente, estas etiquetas solo se pueden ver en las aplicaciones de iOS y Android y no en la web.
Foto de Kolkata Knight Rider etiquetada como ‘Creada por IA’
Crédito de la foto: Instagram/kkriders
Mientras tanto KKR Foto es uno de los ejemplos de errores más conocidos, los usuarios también han criticado muchos otros errores de etiquetado. Uno de ellos es el ex fotógrafo de la Casa Blanca Pete Souza, que subió fotografías de viejos partidos de baloncesto.
Después de agregar la etiqueta incorrecta, editado subtítulo para escribir: “No entiendo por qué Instagram usa” hecho con IA “en mis publicaciones. No hay IA en mis fotos”. También destacó que no podía desmarcar la etiqueta porque la plataforma seguía agregándola.
Los usuarios frustrados también comenzaron a inundar Threads, la plataforma de redes sociales basada en texto de Meta, etiquetando al jefe de Instagram, Adam Mosseri, para resaltar el problema. Un usuario dicho“Ni un solo fotógrafo o artista en Facebook e Instagram sabe qué desencadena la etiqueta “Hecho con IA”. Aunque Mosseri explicó que lo único que hicieron fue leer la etiqueta C2PA, nadie entendió cómo evitarla”.
Anteriormente, el presidente de Asuntos Globales de Meta, Nick Clegg, dijo que la compañía estaba trabajando con “socios de la industria para alinearse con estándares técnicos comunes que indiquen cuándo se crea el contenido utilizando IA”. También afirma que la herramienta de detección puede etiquetar correctamente imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
Sin embargo, la implementación de esta característica parece tener deficiencias. informePetaPixel descubrió que incluso eliminando pequeños puntos en una imagen usando el Relleno Generativo impulsado por IA de Adobe, la imagen sería etiquetada como “Hecho por IA”. Sin embargo, las herramientas que no son de IA, como la herramienta Pincel corrector puntual o la herramienta Tampón de clonar, no agregan etiquetas aunque los resultados sean los mismos.
La publicación también encontró que cuando las imágenes previamente etiquetadas como generadas por IA se cargaban nuevamente en Photoshop y se guardaban después de copiarlas y pegarlas en un documento negro, las etiquetas de IA no aparecían.
Portavoz de Meta Kate McLaughlin notificado The Verge dice que la compañía ahora está considerando los comentarios recientes de los usuarios y evaluando su enfoque. “Confiamos en indicadores estándar de la industria que otras empresas incluyen en el contenido de sus herramientas, por lo que estamos trabajando activamente con estas empresas para mejorar el proceso de modo que nuestro enfoque de etiquetado cumpla con nuestra intención”, dijo McLaughlin según la publicación.
