El gobernador de California, Gavin Newsom, vetó el domingo un impugnado proyecto de ley de seguridad de la inteligencia artificial después de que la industria tecnológica presentara objeciones, diciendo que la legislación podría expulsar a las empresas de inteligencia artificial del estado y sofocar la innovación.
Newsom dijo que el proyecto de ley “no considera si los sistemas de IA se implementan en entornos de alto riesgo, implican la toma de decisiones críticas o el uso de datos confidenciales” e impondría “estándares rigurosos incluso para las funciones más básicas, siempre que los implementen grandes sistemas”. “
Newsom dijo que ha pedido a destacados expertos en el campo de la IA generativa que ayuden a California a “desarrollar barreras de seguridad viables” que se centren “en el desarrollo de análisis de trayectoria empíricos y basados en la ciencia”. También ordenó a las agencias estatales que amplíen su evaluación de los riesgos que pueden surgir del uso de la IA.
La IA generativa, que puede crear texto, fotografías y vídeos en respuesta a solicitudes abiertas, ha provocado tanto entusiasmo como temor de que pueda hacer que algunos trabajos queden obsoletos, alterar las elecciones y potencialmente superar a los humanos con consecuencias catastróficas.
El autor del proyecto de ley, el senador estatal demócrata Scott Wiener, dijo que se necesita legislación para proteger a la sociedad antes de que los avances de la IA se vuelvan difíciles o incontrolables. La industria de la IA está creciendo rápidamente en California y algunos líderes cuestionan el futuro de estas empresas en el estado si el proyecto de ley se convierte en ley.
Wiener dijo el domingo que el veto hace que California sea menos segura y significa que “las empresas que quieren crear tecnologías realmente poderosas no enfrentan restricciones vinculantes”. Añadió que “los compromisos voluntarios de la industria no son ejecutables y rara vez producen buenos resultados para la sociedad”.
“No podemos esperar a que ocurra un desastre importante antes de tomar medidas para proteger al público”, dijo Newsom, pero agregó que no estaba de acuerdo en que “deberíamos aceptar soluciones que no se basen en un análisis de la trayectoria empírica de los sistemas y capacidades de IA”.
Newsom dijo que trabajaría con la legislatura en la legislación sobre IA en la próxima sesión. Esto se produce cuando la legislación en el Congreso de EE. UU. para establecer salvaguardias se estanca y la administración Biden está avanzando en propuestas de supervisión regulatoria de la IA.
Newsom dijo que “puede ser necesario un enfoque específico de California, especialmente en ausencia de una acción federal por parte del Congreso”.
La Cámara del Progreso, una coalición de la industria tecnológica, elogió el veto de Newsom y dijo que “la economía tecnológica de California siempre ha prosperado gracias a la competencia y la apertura”.
La medida requerirá, entre otras cosas, pruebas de seguridad para muchos de los modelos de IA más avanzados cuyo desarrollo costó más de 100 millones de dólares (aproximadamente 838 millones de rupias) o modelos que requieren una cierta cantidad de potencia informática. Los desarrolladores de software de IA que operan en esos estados también necesitan delinear métodos para desactivar los modelos de IA, lo que en realidad es un interruptor de apagado.
El proyecto de ley crearía una entidad estatal para supervisar el desarrollo de los llamados “Modelos de Frontera” que van más allá de las capacidades de los modelos más avanzados existentes.
El proyecto de ley enfrentó una fuerte oposición de varios grupos. Google de Alphabet, OpenAI respaldado por Microsoft y Meta Platforms, todos los cuales desarrollan modelos generativos de IA, han expresado sus preocupaciones sobre la propuesta.
Algunos demócratas en el Congreso de Estados Unidos, incluida la representante Nancy Pelosi, también se oponen. Entre los patrocinadores se encuentra el director ejecutivo de Tesla, Elon Musk, que también dirige una empresa de inteligencia artificial llamada xAI. Anthropic, respaldada por Amazon, dijo que los beneficios del proyecto de ley probablemente superen los costos, aunque agregaron que todavía había algunos aspectos que parecían preocupantes o ambiguos.
Newsom firmó por separado un proyecto de ley que exige que el estado evalúe la amenaza potencial que representa la IA generativa para la infraestructura crítica de California.
El estado está analizando los riesgos para la infraestructura energética y los proveedores del sector eléctrico que se han reunido anteriormente y realizará evaluaciones de riesgos similares con los proveedores de infraestructura de agua el próximo año y luego con el sector de comunicaciones, dijo Newsom.
© Thomson Reuters 2024
(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).
