Acababa de comenzar mi maestría en inteligencia artificial cuando un colega me preguntó si había oído hablar de Amazon, una nueva librería en línea donde puedes pedir básicamente cualquier libro del mundo y recibirlo en tu puerta. Sintiendo toda la emoción del regreso de una feria del libro de secundaria, entré al mundo de Amazon.com y pedí un hermoso libro. Parecía revolucionario y futurista, pero aún así acogedor y personal. Más tarde, ese mismo año, 1995, Amazon envió a sus clientes leales, incluido yo, una taza de café gratis para las fiestas.
Habría sido difícil imaginar entonces que la pequeña empresa dirigida por Jeff Bezos Bellevue, Washington, garaje estaría celebrando su 30 aniversario y a un precio alucinante de 1,97 dólares. billón patrimonio neto hoy. Sigo usando Amazon para pedir dispositivos y necesidades básicas, ver películas y programas y leer libros en un Kindle. Hago todo esto a pesar de que sé que la alguna vez querida librería se ha convertido en un gigante hambriento de datos que está destruyendo la privacidad personal.
Hoy en día, Amazon vende básicamente de todo y lo sabe básicamente todo, desde nuestro papel higiénico favorito hasta las preguntas de nuestros hijos para Alexa y lo que sucede en nuestros vecindarios, y nos ha permitido policía ¡en eso también! Amazon sabe dónde vivimos, cómo suenan nuestras voces, quiénes son nuestros contactos, cómo son nuestros historiales crediticios, a qué temperatura nos gusta mantener nuestros hogares e incluso si tenemos alergias u otros problemas de salud.
A partir de esta información, la empresa infiere un perfil completo: potencialmente sabe si somos homosexuales o heterosexuales, casados o divorciados, republicanos o demócratas, sexualmente activos o no, religiosos o seculares. Ella sabe cuán educados somos y cuánto dinero ganamos. Y utiliza estos datos para vendernos mejor.
Como investigador de privacidad, defiendo fuertes protecciones de la privacidad del consumidor. Después de pasar la mayor parte de una década repasando las políticas de privacidad con detenimiento, puedo decir con seguridad que Amazon ha sido peor en materia de privacidad que casi cualquier otra empresa. No es sólo que Amazon tenga políticas de privacidad horribles; También es que, junto con Facebook y Google, fue coautor de nuestra terrible economía publicitaria dirigida, basada en desviar la mayor cantidad posible de datos de los usuarios para que cualquiera con acceso a ellos pueda manipularlos para comprar más cosas.
Considerando la importancia de la libertad para la historia del origen de Estados Unidos, es irónico que el país sea tan dependiente de una empresa que ha manipulado nuestro libre albedrío hasta convertirlo en una ciencia.
“¿Acabas de comprar estos granos de café italiano?”, nos pregunta Amazon. “Esto es lo que deberías comprar a continuación”.
La privacidad y el libre albedrío están indisolublemente entrelazados: ambos dependen de que se nos permita decidir quiénes somos, qué queremos y cuándo lo queremos, sin que nadie nos observe ni interfiera. La privacidad es buena para nuestra salud mental y buena para la sociedad. Ni las corporaciones ni los gobiernos (que tienen una forma de adquirir los datos que recopilan las empresas) deberían tener acceso a conocimiento ilimitado sobre quiénes somos y qué hacemos en todo momento.
Amazon jugó un papel clave para hacer esto posible. Su guerra contra la privacidad ha tenido un impacto particularmente distópico recientemente en Gran Bretaña, donde algunas estaciones de tren estaban utilizando un sistema de inteligencia artificial de Amazon llamado Rekognition para escanear los rostros de los pasajeros y determinar su edad, género y estado emocional, ya sea feliz, triste o enojado; identificar comportamientos supuestamente antisociales como correr, gritar, andar en patineta y fumar; y adivina si eran suicidas. Es como si la policía del pensamiento de Orwell cobrara vida, pero en lugar del Gran Hermano, es el Gran Bezos.
La peor parte es que simplemente aceptamos esta intrusión a cambio de cosas baratas y envío gratuito en dos días.
Desafortunadamente, Amazon se ha convertido casi en una necesidad básica. Pero podemos tomar medidas para contener sus peores consecuencias.
Los consumidores no deberían soportar la carga de mejorar Amazon; los formuladores de políticas y los reguladores deben hacerlo. Un buen lugar para comenzar es con el Ley de derechos de privacidad de los Estados Unidoslegislación actualmente en trámite en el Congreso. No es perfecto, pero al menos solucionaría nuestra flagrante falta de una ley federal de privacidad. Las leyes estatales de privacidad forman un mosaico que varía ampliamente en cuanto a qué tan bien protegen a los consumidores.
Necesitamos empezar a pensar en la privacidad de los datos como un derecho humano. La idea de que las empresas tengan derecho a todos los datos que puedan recopilar e inferir sobre nosotros es absolutamente descabellada. Hace treinta años nadie habría estado de acuerdo con eso.
No es así como se supone que debe funcionar el mundo, y es particularmente aterrador que así sea al entrar en la era de la inteligencia artificial. Los programas de IA generativa, como los chatbots de los que oímos hablar constantemente, están diseñados para erradicar tanta información personal como sea posible, supuestamente para hacerlos más efectivos. Y Amazon es actualizando tu asistente Alexa para incorporar tecnología de IA generativa.
Nada de lo que pueda comprar impulsivamente en Amazon me ayudará a sentirme mejor acerca de un futuro sin privacidad, vigilancia masiva y seguimiento generalizado de nuestros sentimientos y tendencias. Lo que comenzó como un hermoso libro y una taza gratis ha dado como resultado un mundo donde todo lo que compro, dondequiera que vaya y, tal vez en un futuro no muy lejano, cada emoción que siento se puede rastrear y convertir en inferencias para venderme más. cosas o impulsar ideologías peligrosas o promover cualquier otro propósito que las corporaciones o los gobiernos consideren útil. Si parece distópico es porque lo es.
Jen Caltrider es directora del proyecto *Privacidad no incluida en Mozilla.
