El Comité de Asignaciones Presupuestarias de la Asamblea Estatal de California votó a favor de la SB 1047, una propuesta de ley destinada a regular la industria de la IA. El proyecto de ley, conocido oficialmente como la Ley de Innovación Segura para Modelos de Inteligencia Artificial de Frontera, se centra en los creadores de modelos de IA "de frontera", que son aquellos cuyo entrenamiento cuesta al menos 100 millones de dólares.
El proyecto de ley exige que dichos desarrolladores adopten medidas de seguridad, sean auditados y den confianza en que sus modelos no producirán grandes daños. También prevé la posibilidad de denunciar irregularidades para los trabajadores de IA y permite al Fiscal General del estado emprender acciones legales contra las empresas cuyos modelos de IA resulten en daños graves o riesgos públicos.
Los legisladores modifican el proyecto de ley para abordar las preocupaciones de la industria
El proyecto de ley también prevé la creación del clúster de computación en la nube pública CalCompute para respaldar la infraestructura de inteligencia artificial del estado. Mark Zuckerberg declaró recientemente que la próxima generación de Llama de Meta requerirá diez veces más computación, lo que quedaría dentro del ámbito de aplicación de la SB 1047.
Sin embargo, se introdujeron varios cambios importantes para contrarrestar las críticas de los críticos. Cabe destacar que se eliminaron las sanciones penales del proyecto de ley y también se eliminó la disposición para crear un nuevo organismo regulador llamado División Modelo Fronteriza.
Según el senador Wiener, el elemento del proyecto de ley que más le gustó fue el equilibrio entre innovación y seguridad. Wiener explicó que es posible mejorar la seguridad y la innovación al mismo tiempo, y afirmó que la seguridad no debería ser una barrera para el progreso.
El proyecto de ley ha generado mucha controversia en Silicon Valley y en toda la industria tecnológica. Los gigantes tecnológicos y algunos miembros del Congreso de Silicon Valley, entre ellos Anna Eshoo, Zoe Lofgren y Ro Khanna, también se han opuesto al proyecto de ley.
El proyecto de ley avanza a la siguiente etapa legislativa
En una carta al gobernador Gavin Newsom, estos representantes solicitaron un veto, señalando que el proyecto de ley se centra demasiado en el uso indebido, bastante improbable, de la tecnología. Además, afirmaron que no aborda cuestiones más inminentes, como la desinformación, los efectos ambientales o la pérdida de empleos.
Jaikumar Ramaswamy, director jurídico de Andreessen Horowitz, también compartió estas preocupaciones y señaló que el proyecto de ley puede perjudicar la innovación y expulsar a las empresas tecnológicas de California. El proyecto de ley fue respaldado por influyentes investigadores de inteligencia artificial como Geoffrey Hinton y Yoshua Bengio.
El Comité de Asignaciones aprobó la SB 1047 y ahora pasa al pleno de la Asamblea, donde debe aprobarse antes del 31 de agosto. Si se aprueba el proyecto de ley, volverá al Senado estatal por tercera y última vez y luego a la oficina del Gobernador. El gobernador no ha hecho ninguna declaración pública sobre el proyecto de ley en este escrito. Si se aprueba, la SB 1047 no entrará en vigor hasta 2026, lo que dará tiempo para la creación del FMD.