Este anuncio no es la primera vez que una empresa de tecnología comparte planes para ayudar a detectar deepfakes en tiempo real. En 2022, Intel lo inventó Aplicación FakeCatcher para una percepción profunda. FakeCatcher está diseñado para analizar cambios en el flujo sanguíneo facial para ver si la persona que participa en el vídeo es real. El dispositivo de Intel tampoco está disponible públicamente.
Los investigadores académicos también están buscando diferentes formas de abordar este tipo de amenaza grave. “Estos sistemas se están volviendo demasiado complejos para crear deepfakes. Ahora necesitamos menos información”, dice Govind Mittal, candidato a doctorado en informática en la Universidad de Nueva York. “Si tengo 10 fotos mías en Instagram, alguien puede tomarlas. Pueden conducir a personas comunes y corrientes”.
Los deepfakes en tiempo real ya no se limitan a multimillonarios, figuras sociales o presencia en Internet. La investigación de Mittal en la Universidad de Nueva York, con los profesores Chinmay Hegde y Nasir Memon, sugiere una posibilidad un enfoque basado en desafíos para evitar que los AI-bots realicen videollamadas, donde los participantes deberán pasar un tipo de prueba de video CAPTCHA antes de unirse.
Mientras Reality Defender trabaja para mejorar la precisión de sus diseños, Coleman dice que el acceso a grandes cantidades de datos es un desafío clave a superar: mantenerse al margen de la actual cosecha de nuevas empresas centradas en la IA. Confía en que más acuerdos llenarán estos vacíos y, sin detalles, insinúa que habrá más acuerdos nuevos el próximo año. Después de que ElevenLabs se conectara a la llamada de voz profunda del presidente estadounidense Joe Biden, la startup de audio con IA. él decidió y Reality Defender para reducir posibles abusos.
¿Qué puedes hacer ahora para protegerte de las estafas por videollamadas? Al igual que con los principales consejos de WIRED para evitar estafas mediante llamadas de voz con IA, no preocuparse por si puede detectar videos deepfakes es clave para evitar ser estafado. La tecnología en esta área continúa cambiando rápidamente y cualquier indicador en el que confíe ahora para detectar falsificaciones de IA puede volverse menos confiable con las actualizaciones posteriores de los modelos básicos.
“Pidamos a mi madre de 80 años que nos entregue una nota de rescate por correo electrónico”, dice Coleman. “Porque no es un informático”. En el futuro, es posible que la verificación por vídeo en tiempo real, si el análisis de IA continúa mejorando y demuestra ser preciso, se dé por sentado como un escáner de malware quejándose del silencio en el fondo de la bandeja de entrada de su correo electrónico.
