El gobernador Gavin Newsom vetó el domingo la SB 1047, un proyecto de ley de seguridad de la inteligencia artificial que establecería requisitos para que los desarrolladores de modelos avanzados de IA creen protocolos destinados a prevenir catástrofes.
El proyecto de ley, presentado por el senador Scott Wiener (D-San Francisco), requeriría que los desarrolladores presenten sus planes de seguridad al fiscal general del estado, quien podría responsabilizarlos si los modelos de IA que controlan directamente causan daños o amenazas inminentes al público. seguridad.
Además, la legislación exigiría que las empresas de tecnología puedan cerrar los modelos de IA que controlan directamente si algo sale mal.
En su mensaje de veto, Newsom dijo que la legislación podría dar al público una “falsa sensación de seguridad sobre el control de esta tecnología en rápida evolución” porque sólo apunta a modelos costosos de inteligencia artificial a gran escala y no a sistemas especializados más pequeños.
“Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de inteligencia artificial se implementa en entornos de alto riesgo, implica una toma de decisiones críticas o utiliza datos confidenciales”, decía el mensaje de veto de Newsom. “En cambio, el proyecto de ley aplica estándares rigurosos incluso a las funciones más básicas, siempre y cuando un sistema grande las implemente. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”.
El gobernador también anunció el domingo que su administración ha reclutado líderes sobre el terreno para ayudar al estado a crear protecciones viables para el despliegue de IA, centrándose en analizar sus capacidades y riesgos. Newsom prometió seguir trabajando con la Legislatura sobre el tema en la próxima sesión.
El proyecto fue debatido intensamente en Silicon Valley y recibió el apoyo del Centro para la Seguridad de la IA, el director ejecutivo de SpaceX, Elon Musk, el consejo editorial del LA Times y destacados investigadores de la IA, pero contó con la oposición de la empresa matriz de SpaceX, Facebook, Meta, el fabricante de ChatGPT, OpenAI y. varios congresistas demócratas. incluida Nancy Pelosi (D-San Francisco).
Los defensores afirmaron que era importante establecer barreras protectoras para la tecnología de IA en rápida evolución a fin de evitar futuros daños catastróficos, mientras que los opositores afirmaron que tales medidas podrían sofocar la innovación.
Si bien es posible que el proyecto de ley pueda superar el veto del gobernador con dos tercios de los votos de ambas cámaras, es un gran obstáculo que superar y sería inusual.
Newsom dijo a principios de este mes en una charla en Dreamforce, una conferencia de tecnología de San Francisco, que la SB 1047 ha generado un discurso público descomunal, y agregó que ha “creado su propio sistema climático”.
También habló sobre los desafíos de regular la IA.
“Hemos estado trabajando durante los últimos dos años para llegar a alguna regulación racional que respalde la toma de riesgos pero no la imprudencia…”, dijo Newsom.
Tanto los partidarios como los opositores de la SB 1047 han aunado recursos para expresar sus opiniones. Más de 125 actores, productores, directores, artistas discográficos y otros líderes de la industria del entretenimiento, incluidos destacados demócratas, firmaron una carta instando a Newsom a firmar el proyecto de ley. Entre los firmantes de la carta se encontraban los actores Pedro Pascal y Alec Baldwin, así como la productora ejecutiva de “Bridgerton”, Shonda Rhimes.
“Queremos seguir creyendo que usted es un líder que defenderá el bienestar de todos, no sólo de unos pocos gigantes de Silicon Valley”, decía la carta.
Mientras tanto, la Cámara del Progreso, que se opone al proyecto, publicó un Canción de rock generada por IA con letra que incluye “vetar las cadenas que nos atan”.
“Es uno de esos proyectos de ley que rara vez llega a su escritorio, y depende de quién fue la última persona en la llamada en términos de cuán persuasivo sea”, dijo Newsom en una entrevista con el Times a principios de este mes. “Ha dividido a tanta gente”.
