El gobernador de California, Gavin Newsom, vetó el proyecto de ley SB 1047, que buscaba regular los sistemas de inteligencia artificial (IA) a gran escala, afirmando que obstaculizaría la innovación sin abordar adecuadamente los riesgos reales asociados con la tecnología.
El proyecto de ley, presentado por el senador estatal demócrata Scott Weiner, tenía como objetivo imponer pruebas de seguridad y medidas de supervisión sobre los modelos de IA, apuntando específicamente a los sistemas cuyo desarrollo requiere más de 100 millones de dólares.
La decisión de Newsom del 30 de septiembre ha provocado un debate sobre el futuro de la regulación de la IA en el estado. Su administración se ha enfrentado a una presión cada vez mayor para implementar salvaguardas a medida que avanza la tecnología de IA. Sin embargo, Newsom argumentó que el proyecto de ley se centraba demasiado en las corporaciones de IA existentes, como OpenAI y Google, y no abordaba las amenazas reales que plantean los modelos de IA emergentes.
Proyecto de ley que pretende regular los modelos de IA
La legislación propuesta, SB 1047, fue uno de los primeros proyectos de ley del país que apuntaba a los modelos de IA a gran escala. Exigía pruebas de seguridad obligatorias, la implementación de un “interruptor de apagado” y planes de mitigación de riesgos para los desarrolladores de sistemas de IA de alto costo. El proyecto de ley también proponía otorgar al fiscal general del estado el poder de emprender acciones legales contra las empresas si sus sistemas de IA planteaban peligros permanentes, como la posibilidad de que la IA se apoderara de la red eléctrica.
Aunque los modelos actuales de IA aún deben cumplir con el umbral financiero delineado en el proyecto de ley, los expertos han sugerido que dichos modelos podrían surgir durante el próximo año. Los defensores de la SB 1047 argumentaron que la legislación allanaría el camino para leyes nacionales más estrictas de seguridad de la IA, lo que colocaría a California a la vanguardia de la regulación de la IA.
Newsom: el proyecto de ley no alcanza los peligros de la IA
El gobernador Newsom enfatizó que, si bien regular la IA es crucial, existen mejores enfoques que la SB 1047. Afirmó que el proyecto de ley aplica estándares innecesariamente estrictos a los modelos de IA, incluso en casos en los que solo se involucran funciones esenciales. Expresó su preocupación por que estas regulaciones sofocarían la innovación en Silicon Valley, un centro para el desarrollo de la IA.
La decisión de Newsom de vetar el proyecto de ley se produjo tras una importante oposición de los gigantes tecnológicos y las figuras políticas. La presidenta de la Cámara de Representantes, Nancy Pelosi, y los principales desarrolladores de inteligencia artificial, incluido OpenAI, expresaron su preocupación por que la legislación obstaculizaría el progreso en este campo. A pesar de vetar el proyecto de ley, Newsom reafirmó su compromiso con las regulaciones de inteligencia artificial basadas en la ciencia y prometió que su administración seguiría trabajando en protocolos de seguridad que aborden los riesgos reales de la inteligencia artificial sin obstaculizar la innovación.
Reacciones encontradas ante el veto
El senador Scott Weiner criticó la decisión de Newsom, calificándola de revés para la seguridad pública y la regulación de las grandes corporaciones de inteligencia artificial. Sostuvo que la SB 1047 habría proporcionado una supervisión crucial sobre las empresas que desarrollan modelos de inteligencia artificial que podrían tener un impacto significativo en la sociedad y el medio ambiente.
Por otra parte, algunos líderes de la industria, incluido Elon Musk, expresaron su apoyo a los objetivos generales del proyecto de ley. Musk, que está desarrollando su propio modelo de IA llamado Grok, admitió en una publicación en las redes sociales que aprobar la SB 1047 fue una “decisión difícil”, pero necesaria para avanzar en la seguridad de la IA. El veto del gobernador Newsom pone de relieve la tensión entre fomentar la innovación y garantizar la seguridad pública mientras el estado lidia con el rápido desarrollo de la inteligencia artificial.
El gobernador de California, Gavin Newsom, veta el proyecto de ley de seguridad de la inteligencia artificial, citando preocupaciones sobre innovación. La publicación El gobernador de California, Gavin Newsom, veta el proyecto de ley de seguridad de la inteligencia artificial, citando preocupaciones sobre innovación.