La inteligencia artificial generativa dio vida a los horribles legados de los fanáticos, incluido el ex dictador alemán Adolf Hitler, cuando los usuarios de TikTok aprovecharon las herramientas de inteligencia artificial de la aplicación para revivir los discursos xenófobos de líderes fallecidos hace mucho tiempo.
Este fenómeno fue documentado recientemente en dos informes diferentes, uno elaborado por un grupo de vigilancia sin fines de lucro. Los medios son importantes para Estados Unidos y otro bajo investigación por Instituto de Diálogo Estratégico y SITE Intelligence Group, publicado por Correo de Washington. Los dos lanzaron una pequeña red de cuentas que crearon y distribuyeron versiones dobladas por IA de los discursos de Hitler.
Por qué los adolescentes cuentan sus secretos a extraños en línea
Según una investigación de Media Matters, el audio generado por IA ha obtenido millones de visitas, incluidos vídeos que se burlan de los líderes o vídeos que convierten el audio en memes. Otras cuentas parecen dedicarse seriamente a crear y compartir estos audios, a veces con mensajes antisemitas. Los vídeos populares que utilizan este tipo de audio, a menudo estilizados con audio ralentizado y “reverberado”, existen desde abril de 2024, con algunos subtítulos inexactos. Después de que se publicó el informe, TikTok eliminó la cuenta de uno de los usuarios conocidos y comenzó a dirigir búsquedas relacionadas a un “Hechos sobre el Holocausto” página, que documenta la masacre de Hitler de millones de civiles judíos, personas con discapacidades, prisioneros políticos, personas LGBTQ+ y de origen romaní.
Eso Correo de Washington informó que destacados grupos fascistas elogiaron el uso de la IA para difundir propaganda intolerante, citando un número creciente de jóvenes que participan en discursos de odio y comunidades de extrema derecha en línea. Los expertos dijeron a la publicación que les preocupa que las herramientas de moderación de la plataforma, incluidas las de los sitios Meta y X, no puedan seguir el ritmo de la implementación asistida por IA.
Principales historias rompibles
Ambos informes notaron mucho sentimiento positivo en las secciones de comentarios de los videos, con algunos usuarios elogiando abiertamente a la figura histórica y sus políticas, y señalando que muchos de estos videos no hacían alarde de denuncias obvias de supremacistas blancos, lo que generó temores de que los usuarios se radicalizaran sin saberlo. porque su contenido.
Durante el último año se han llevado a cabo esfuerzos similares para reescribir el legado de figuras históricas en TikTok, impulsados por la IA. En junio, un filtrado por error Una versión interna de la nueva herramienta de avatar digital de IA de la aplicación, que permite a los usuarios crear anuncios utilizando la imagen de sus creadores, dio lugar a la circulación de varios vídeos generados por IA que mostraban avatares que pronunciaban una variedad de retórica supremacista blanca, incluidas citas de mi pelea y “Carta a América” de Osama Bin Laden. En 2023, vídeos de TikTok citando la misma declaración de Bin Ladena veces asociado con sentimientos supremacistas blancos, crea pánico entre aplicacionesmientras los usuarios recontextualizaban el discurso como un tratado antiimperial a la luz del asedio de Israel a los palestinos en Gaza y el apoyo de Estados Unidos al país.
En general, los grupos de vigilancia han documentado ejemplos repetidos de actores nacionales y extranjeros que difunden desinformación en aplicaciones mediante el uso de herramientas de inteligencia artificial generativa, incluidas falsificaciones digitales sintéticas (o “deepfakes”) por parte de líderes políticos. En la plataforma también han proliferado cuentas de supremacistas blancos y pronazis, que operan en conjunto con redes en sitios como Telegram para impulsar su contenido en algoritmos de redes sociales.
Según un informe de julio del Instituto para el Diálogo Estratégico, TikTok alberga “cientos” de cuentas pronazis, que en conjunto han sido vistas millones de veces. La empresa, afirmó la organización, no ha actuado con la suficiente rapidez para detener su propagación.
