Kate Ruane, directora de la iniciativa de libre expresión del Centro para la Democracia y la Tecnología, dice que la mayoría de las principales plataformas tecnológicas cuentan ahora con políticas que impiden la distribución no autorizada de imágenes en primer plano, muchas de las cuales son de gran tamaño. cumplir con los principios para tratar con deepfakes. “Yo diría que no está muy claro si la creación o distribución de imágenes está prohibida en la plataforma”, dijo Ruane. Términos de servicio de Telegramaque tienen menos detalles que otras plataformas tecnológicas importantes.
El enfoque de Telegram para eliminar contenido dañino ha sido criticado durante mucho tiempo por organizaciones de la sociedad civil, y la primera plataforma apunta a estafadores, grupos de extrema derecha y contenido relacionado con el terrorismo. Desde que el director ejecutivo y fundador de Telegram, Pavel Durov, fue arrestado y acusado en Francia en agosto en relación con una serie de posibles violaciones, Telegram ha comenzado a realizar algunos cambios en sus operaciones de servicio y en el suministro de información a las fuerzas del orden. La compañía no respondió a las preguntas de WIRED sobre si prohíbe específicamente los deepfakes.
Completa el riesgo
Ajder, el investigador que descubrió los robots profundos de Telegram hace cuatro años, dice que la aplicación está en una posición casi única para abusos graves. “Telegram te ofrece una función de búsqueda, por lo que te permite identificar comunidades, chats y bots”, dice Ajder. “Ofrece funcionalidad de alojamiento de bots, por lo que es un lugar que proporciona buenos recursos. También es un lugar donde puedes compartir y generar riesgos en función de los resultados”.
A finales de septiembre, varios canales serios empezaron a anunciar que Telegraph había eliminado sus bots. No está claro qué llevó a su expulsión. El 30 de septiembre, un canal con 295.000 suscriptores publicó que Telegram había “deshabilitado” sus bots, pero agregó un nuevo enlace de bot para que lo usaran los usuarios. (El canal fue eliminado después de que WIRED enviara preguntas al Telegraph).
“Una de las verdaderas preocupaciones con aplicaciones como Telegram es que es muy difícil de rastrear y monitorear, especialmente desde la perspectiva de un sobreviviente”, dice Elena Michael, fundadora y directora de #NotYourPorn, un grupo de campaña que trabaja para proteger a las personas. del acoso sexual basado en imágenes.
Michael dice que al Telegraph le resulta “notoriamente difícil” discutir temas de seguridad, pero dice que ha habido avances por parte de la compañía en los últimos años. Sin embargo, dice que la empresa debería trabajar duro para controlar y filtrar el contenido.
Michael dice: “Imagínese si usted fuera un sobreviviente y tuviera que hacerlo usted mismo, la carga realmente no debería recaer sobre el individuo. De hecho, la carga debería recaer en la empresa de poner algo que funcione en lugar de trabajo duro.
