Con videos y audios deepfake ingresando a las campañas políticas, California promulgó sus restricciones más estrictas en septiembre: una ley que prohíbe los anuncios políticos dentro de los 120 días posteriores a una elección que incluyan contenido engañoso, generado digitalmente o alterado, a menos que los anuncios estén etiquetados como “manipulados”. “
El miércoles, un juez federal bloqueó temporalmente la ley, diciendo que violaba la Primera Enmienda.
En California siguen vigentes otras leyes contra los anuncios de campaña engañosos, incluida una que exige que los candidatos y los comités de acción política revelar cuando los anuncios utilizan inteligencia artificial para crear o alterar sustancialmente el contenido. Pero la orden dictada contra Proyecto de ley 2839 de la Asamblea Significa que no habrá una prohibición amplia contra las personas que utilicen inteligencia artificial para clonar la imagen o la voz de un candidato y retratarla falsamente sin revelar que las imágenes o palabras son falsas.
La orden judicial fue solicitada por Christopher Kohls, un comentarista conservador que creó una serie de videos falsos satirizando a los demócratas, incluida la candidata presidencial del partido, la vicepresidenta Kamala Harris. Citado el gobernador Gavin Newsom uno de estos vídeos – que mostraba clips de Harris como una versión falsa de su voz hablaba de ser el “mejor contratado para la diversidad” y profesaba ignorancia e incompetencia – cuando firmó la AB 2839, pero la medida en realidad se introdujo en febrero, mucho antes del video de Kohls Harris. se volvió viral en X.
Cuando se le preguntó en X sobre la decisión, Kohls dijo: “¡La libertad prevalece! Por ahora.”
Una vista de computadora portátil muestra la página de inicio de sesión de Twitter con su logotipo, en Belgrado, Serbia, el lunes 24 de julio de 2023.
(Darko Vojinovic/Associated Press)
EL decisión del juez de distrito estadounidense John A. Méndez ilustra la tensión entre los esfuerzos para proteger contra la falsificación impulsada por la IA que podría influir en las elecciones y las sólidas salvaguardias de la Declaración de Derechos para el discurso político.
Al otorgar una orden judicial preliminar, Méndez escribió: “Cuando el discurso político y la política electoral están en juego, la Primera Enmienda ha dictado casi inequívocamente que los tribunales permitan que el discurso florezca en lugar de apoyar el intento del Estado de sofocarlo…. [M]La mayor parte del AB 2839 actúa como un martillo en lugar de un bisturí, sirviendo como una herramienta contundente que impide la expresión humorística y sofoca inconstitucionalmente el intercambio libre y sin restricciones de ideas que es tan vital para el debate democrático estadounidense”.
Robert Weissman, copresidente de Public Citizen, respondió: “La Primera Enmienda no debería atar las manos cuando aborda una amenaza grave, previsible y real a nuestra democracia”.
Robert Weissman, Director Ejecutivo de Public Citizen, habla en una conferencia de prensa en la que empresas y líderes empresariales estadounidenses se reunieron para formar la campaña Empresas por la Democracia, oponiéndose al gasto corporativo ilimitado en las elecciones públicas, el viernes 21 de enero de 2011, en Washington.
(Nick Wass/Prensa asociada)
Weissman dijo que 20 estados han adoptado leyes que siguen el mismo enfoque básico: exigir que los anuncios que utilizan IA para manipular el contenido sean etiquetados como tales. Pero AB 2839 tenía algunos elementos únicos que pueden haber influido en el pensamiento de Méndez, dijo Weissman, incluido el requisito de que la divulgación se muestre tan grande como el texto más grande visto en el anuncio.
En su decisión, Méndez señaló que la Primera Enmienda también se extiende al discurso falso y engañoso. Incluso en una cuestión tan importante como la salvaguardia de las elecciones, escribió, los legisladores sólo pueden regular la expresión a través de los medios menos restrictivos.
La AB 2839, que requería que los videos políticos mostraran continuamente las revelaciones requeridas sobre la manipulación, no utilizó los medios menos restrictivos para proteger la integridad electoral, escribió Méndez. Un enfoque menos restrictivo sería el “contradiscurso”, escribió, aunque no explicó lo que eso implicaría.
Weissman respondió: “El contradiscurso no es una solución adecuada”. El problema con los deepfakes no es que hagan afirmaciones o insinuaciones falsas sobre un candidato, dijo; “El problema es que muestran al candidato diciendo o haciendo algo que en realidad no hizo”. Los candidatos objetivo tienen la tarea casi imposible de explicar que no hicieron ni dijeron esas cosas, dijo, lo cual es considerablemente más difícil que contrarrestar una acusación falsa hecha por un oponente o planteada por un comité de acción política.
Para los desafíos creados por los anuncios deepfake, exigir la divulgación de la manipulación no es una solución perfecta, dijo. Pero es el medicamento menos restrictivo.
Liana Keesing Número unoun grupo de defensa de la democracia, dijo que la creación de deepfakes no es necesariamente el problema. “Lo que importa es la amplificación de este contenido falso y engañoso”, dijo Keesing, director de campaña del grupo.
Alix Fraser, directora de reforma tecnológica de Número unodijo que lo más importante que pueden hacer los legisladores es abordar cómo se diseñan las plataformas tecnológicas. “¿Cuáles son las protecciones en torno a esto? Básicamente no hay ninguno”, dijo, y agregó: “Ese es el problema central tal como lo vemos”.
