Estados Unidos y Gran Bretaña anunciaron el lunes una nueva asociación en la ciencia de la seguridad de la inteligencia artificial, en medio de crecientes preocupaciones sobre la próxima versión de próxima generación.

La ministra de Comercio, Gina Raimondo, y la ministra de Tecnología del Reino Unido, Michelle Donelan, firmaron un memorando de entendimiento en Washington para desarrollar conjuntamente pruebas de modelos avanzados de IA, tras los compromisos anunciados en la Cumbre de Seguridad de la IA en Bletchley Park en noviembre.

“Todos sabemos que la IA es la tecnología que define a nuestra generación”, dijo Raimondo. “Esta asociación acelerará el trabajo de nuestras dos agencias en todo el espectro para abordar los riesgos de las preocupaciones de seguridad nacional y las preocupaciones sociales más amplias”.

Gran Bretaña y Estados Unidos se encuentran entre los países que establecen agencias de seguridad de IA dirigidas por gobiernos.

Gran Bretaña dijo en octubre que su agencia examinaría y probaría nuevos tipos de IA, mientras que Estados Unidos dijo en noviembre que lanzaría su propio instituto de seguridad para evaluar los riesgos de los llamados modelos de IA de frontera y ahora está trabajando con 200 empresas y entidades.

En el marco de una asociación formal, el Reino Unido y Estados Unidos planean realizar al menos un ejercicio de prueba conjunto en un modelo de acceso público y están considerando explorar intercambios de personal entre las agencias. Ambos buscan desarrollar asociaciones similares con otros países para promover la seguridad de la IA.

“Este es el primer acuerdo en el mundo”, dijo Donelan. “La IA ya es una tremenda fuerza positiva en nuestra sociedad y tiene un enorme potencial para resolver algunos de los mayores desafíos del mundo, pero sólo si somos capaces de abordar los riesgos”.

La IA generativa, que puede crear texto, fotografías y vídeos en respuesta a solicitudes abiertas, ha provocado tanto entusiasmo como temor de que pueda volver obsoletos algunos trabajos, alterar las elecciones y potencialmente superar a los humanos con consecuencias catastróficas.

En una entrevista conjunta con Reuters el lunes, Raimondo y Donelan pidieron una acción conjunta urgente para abordar los riesgos de la IA.

“El tiempo es esencial ya que pronto se lanzará la próxima serie de modelos, que serán mucho más capaces”, dijo Donelan. “Nos centramos en áreas que dividimos y conquistamos y en las que realmente nos especializamos”.

Raimondo dijo que plantearía la cuestión de la IA en la reunión del Consejo de Comercio y Tecnología entre Estados Unidos y la Unión Europea en Bélgica el jueves.

La administración Biden planea anunciar pronto incorporaciones a su equipo de inteligencia artificial, dijo Raimondo. “Estamos retirando todos los recursos del gobierno de Estados Unidos”.

Los dos países planean compartir información importante sobre las capacidades y riesgos asociados con los modelos y sistemas de IA, así como investigaciones técnicas sobre la seguridad de la IA.

En octubre, Biden firmó una orden ejecutiva destinada a reducir los riesgos de la IA. En enero, el Departamento de Comercio dijo que proponía exigir a las empresas estadounidenses de nube que determinaran si entidades extranjeras accedían a centros de datos estadounidenses para entrenar modelos de IA.

Gran Bretaña dijo en febrero que gastaría más de 100 millones de libras esterlinas (125,5 millones de dólares o alrededor de 1.047 millones de rupias) para lanzar nueve nuevos centros de investigación y capacitar a los reguladores de IA en esta tecnología.

Raimondo dijo que está particularmente preocupada por la amenaza de la IA aplicada al bioterrorismo o a las simulaciones de guerra nuclear.

“Esas son cosas cuyas consecuencias podrían ser tan catastróficas que realmente no deberíamos tolerar que algunos de los modelos se utilicen para esas capacidades”, dijo.

© Thomson Reuters 2024


Los enlaces de afiliados pueden generarse automáticamente; consulte nuestra declaración de ética para obtener más detalles.

Fuente