Dos estudiantes de ingeniería de Harvard utilizaron las gafas inteligentes Ray-Ban Meta para crear una aplicación que puede revelar información confidencial sobre las personas sin que ellas lo sepan. Los estudiantes publicaron un vídeo de demostración en X (anteriormente conocido como Twitter) y mostraron las capacidades de la aplicación. En particular, la aplicación no se hizo pública para los usuarios, sino que se creó para resaltar los peligros de los dispositivos portátiles impulsados por IA que utilizan cámaras secretas que pueden capturar fotografías e imágenes de personas.
La aplicación, llamada I-Xray, utiliza inteligencia artificial (IA) para el reconocimiento facial y luego utiliza los datos visuales procesados para doxxar a las personas. Doxxing, jerga popular de Internet que es un acrónimo de “dejar caer un dox (un documento o documento informal)”, es el acto de revelar información personal sobre alguien sin su consentimiento.
Se integra con las gafas inteligentes Ray-Ban Meta, pero el desarrollador dice que funcionará con cualquier gafas inteligentes con cámaras ocultas. Utiliza un modelo de IA similar a PimEyes y FaceCheck para el reconocimiento facial inverso. La tecnología puede hacer coincidir el rostro de una persona con imágenes en línea disponibles públicamente y buscar sus URL.
Luego, otro modelo de lenguaje grande (LLM) ingresa esta URL y se generan automáticamente comandos para averiguar el nombre, la ocupación, la dirección y otros datos similares de la persona. Los modelos de IA también examinan datos gubernamentales disponibles públicamente, como las bases de datos de registro de votantes. Además, para ello también se utiliza una herramienta en línea llamada FastPeopleSearch.
En una breve demostración en vídeo, los estudiantes de Harvard AnhPhu Nguyen y Caine Ardayfio también mostraron cómo funciona la aplicación. Pueden encontrarse con un extraño con la cámara encendida y preguntarle su nombre, y una aplicación con tecnología de inteligencia artificial puede tomar el control desde allí para descubrir datos personales sobre ese individuo.
En Documentos de Google entregardice el desarrollador: “La sinergia entre LLM y la búsqueda inversa permite una extracción de datos completa y totalmente automatizada que antes era imposible solo con los métodos tradicionales”.
Los estudiantes han declarado que no tenían la intención de poner la aplicación a disposición del público y sólo la desarrollaron para resaltar los riesgos de los dispositivos portátiles con IA que pueden grabar a las personas en secreto. Sin embargo, esto no significa que los actores malintencionados no puedan crear aplicaciones similares utilizando metodologías similares.
