Según Cointelegraph, los legisladores de California han presentado un proyecto de ley sobre seguridad de la inteligencia artificial (IA), el Proyecto de Ley Senatorial (SB) 1047, que ha suscitado controversia dentro de la industria tecnológica. El proyecto de ley fue aprobado por la Asamblea Estatal el 28 de agosto y ahora espera una decisión del gobernador Gavin Newsom, que tiene hasta el 30 de septiembre para convertirlo en ley o vetarlo.
El proyecto de ley SB 1047, redactado por el senador demócrata Scott Wiener de San Francisco, tiene como objetivo implementar pruebas de seguridad para modelos avanzados de IA. El proyecto de ley apunta a modelos cuyo desarrollo cuesta más de 100 millones de dólares o que requieren una gran capacidad de procesamiento. Obliga a los desarrolladores, incluidas grandes empresas como OpenAI, Meta y Google, a diseñar un "interruptor de apagado" para los modelos inmanejables e involucrar a auditores externos en las auditorías de seguridad. Además, los desarrolladores podrían enfrentar demandas del fiscal general del estado si sus modelos plantean amenazas constantes.
El proyecto de ley se ha enfrentado a la oposición de los principales actores de la industria tecnológica y de los políticos estatales, que sostienen que podría sofocar la innovación. La presidenta emérita Nancy Pelosi ha criticado el proyecto de ley, calificándolo de "más perjudicial que útil" para el liderazgo del desarrollo de la IA en California. Neil Chilson, director de políticas de IA en el Abundance Institute, advirtió que el estándar de "cuidado razonable" del proyecto de ley podría afectar inadvertidamente a empresas y modelos más pequeños.
A pesar de las críticas, existe cierto apoyo a la SB 1047. Anthropic, de Amazon, ha expresado que los beneficios del proyecto de ley pueden superar los costos, aunque algunos elementos siguen sin estar claros. Eric Daimler, ex profesor de informática y ex alumno de la administración Obama, ha pedido a Washington que considere la SB 1047 como ejemplo, haciendo hincapié en la necesidad de medidas de seguridad eficaces para la IA.
La SB 1047 no es la única legislación relacionada con la IA que se está debatiendo en California. La SB 1220, que pretende prohibir el uso de la IA en los centros de llamadas que prestan servicios de asistencia social y de salud, también ha suscitado inquietudes en el sector. Por el contrario, la AB 3211, que exige marcas de agua en el contenido generado por IA, ha obtenido el apoyo de empresas como OpenAI y Microsoft. El multimillonario Elon Musk también se ha mostrado a favor de una normativa integral de seguridad de la IA.
Cointelegraph se ha puesto en contacto con expertos legales y desarrolladores de inteligencia artificial de California para obtener más información sobre los debates en curso en torno a estos proyectos de ley.
