Un informe de las Naciones Unidas publicado hoy sugiere que la organización internacional supervise el primer esfuerzo del mundo para monitorear y controlar la inteligencia artificial.
El informe, presentado por el secretario general de la ONU Grupo Asesor de Alto Nivel sobre IArecomienda la creación de una organización similar al Panel Intergubernamental sobre Cambio Climático para recopilar la información más reciente sobre la IA y sus riesgos.
El informe pide un nuevo diálogo político sobre la IA para que los 193 miembros de la ONU puedan discutir los riesgos y acordar acciones. También recomienda que la ONU tome medidas para empoderar a los países pobres, especialmente aquellos en el sur global, para que se beneficien de la IA y participen en su gobernanza. Esto debería incluir, dice, la creación de un fondo de IA para apoyar proyectos en estas comunidades, la creación de estándares de IA y mecanismos de intercambio de datos, y la creación de recursos como capacitación para ayudar a las comunidades con la gobernanza de la IA. Algunas de las recomendaciones del informe pueden simplificarse Pacto Digital Mundialun proyecto existente para abordar las brechas digitales y de datos entre naciones. Finalmente, sugiere la creación de una oficina de AI dentro de la ONU que tenga como objetivo coordinar los esfuerzos existentes dentro de la ONU para lograr los objetivos del informe.
“Hay una comunidad internacional que cree que la IA presenta riesgos y peligros, así como oportunidades”, dice. Alondra Nelsonprofesor en Centro de estudios avanzados quien trabajó en el órgano asesor de la ONU por recomendación de la Casa Blanca y el Departamento de Estado.
Las impresionantes capacidades demostradas por grandes ejemplos de lenguajes y chatbots en los últimos años han generado esperanzas de una revolución en la productividad económica, pero también han llevado a algunos expertos a advertir que la IA puede avanzar demasiado rápido y pronto puede resultar difícil de controlar. Poco después de la aparición de ChatGPT, muchos científicos y empresarios firmaron una carta solicitando una pausa de seis meses en el desarrollo de la tecnología para poder evaluar los riesgos.
Las preocupaciones recientes incluyen la posibilidad de que la IA cree desinformación, cree videos y audio profundos, reemplace a un gran número de trabajadores y exacerbe los sesgos algorítmicos en el sector público. “Existe una sensación de urgencia y la gente siente que debemos trabajar juntos”, dice Nelson.
Las propuestas de la ONU reflejan un creciente interés entre los responsables políticos de todo el mundo en gestionar la IA para mitigar estos riesgos. Pero también se produce cuando las grandes potencias -particularmente Estados Unidos y China- continúan siendo pioneras en tecnologías que prometen enormes beneficios económicos, científicos y militares, y como estos países expresan sus visiones sobre cómo deberían usarse. revisado.
En marzo, Estados Unidos presentó una resolución en las Naciones Unidas pidiendo a los estados miembros que adopten el desarrollo de una “IA segura y confiable”. En julio, China comenzó su conclusión que enfatizó la colaboración en el desarrollo de la IA y hacer que la tecnología esté ampliamente disponible. Todos los estados miembros de las Naciones Unidas han firmado ambos tratados.
“La IA es parte de la rivalidad entre Estados Unidos y China, por lo que no estarán de acuerdo en muchas cosas”, afirma. Josué Melzeracadémico de la Brookings Institution, un grupo de expertos en Washington, DC. Las diferencias clave, dice, incluyen qué prácticas y estándares deberían incorporar la IA y la seguridad en torno a la privacidad y los datos personales.
