Selon Cointelegraph, le gouverneur de Californie Gavin Newsom a opposé son veto à un projet de loi controversé sur l'intelligence artificielle (IA), arguant qu'il entraverait l'innovation et ne parviendrait pas à répondre aux véritables menaces posées par cette technologie. Le projet de loi, SB 1047, connu sous le nom de Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, a été rejeté le 30 septembre après une opposition importante de la Silicon Valley. La législation proposée visait à imposer des tests de sécurité des modèles d'IA et à mettre en œuvre d'autres garde-fous, dont les entreprises technologiques craignaient qu'ils n'étouffent l'innovation.

Dans une déclaration du 29 septembre, Newsom a critiqué le projet de loi, qui se concentre trop sur la régulation des grandes entreprises d’IA existantes sans protéger adéquatement le public des menaces réelles posées par les nouvelles technologies. Il a fait valoir que le projet de loi appliquait des normes strictes même aux fonctions les plus élémentaires des grands systèmes, ce qui, selon lui, n’était pas la meilleure approche pour protéger le public.

Le projet de loi, rédigé par le sénateur démocrate de San Francisco Scott Wiener, aurait obligé les développeurs de Californie, y compris les grandes entreprises comme OpenAI, Meta et Google, à mettre en place un « kill switch » pour leurs modèles d'IA et à publier des plans pour atténuer les risques extrêmes. En outre, les développeurs d'IA auraient été passibles de poursuites judiciaires par le procureur général de l'État en cas de menace persistante de modèles tels qu'une prise de contrôle de la grille d'IA.

Newsom a déclaré avoir consulté des experts de premier plan en matière de sécurité de l’IA pour aider la Californie à élaborer des garde-fous pratiques axés sur la création d’une analyse de trajectoire fondée sur la science. Il a également ordonné aux agences d’État d’élargir leur évaluation des risques liés à d’éventuels événements catastrophiques découlant du développement de l’IA. Malgré son veto au projet de loi SB 1047, Newsom a souligné la nécessité de protocoles de sécurité adéquats pour l’IA et a souligné que les régulateurs ne peuvent pas attendre une catastrophe majeure avant de prendre des mesures pour protéger le public.

Le projet de loi a rencontré une forte opposition de la part des législateurs, des conseillers et des grandes entreprises technologiques. La présidente de la Chambre des représentants, Nancy Pelosi, et des entreprises comme OpenAI ont fait valoir qu'il entraverait considérablement la croissance de l'IA. Neil Chilson, responsable de la politique de l'IA à l'Abundance Institute, a averti que si le projet de loi visait principalement les modèles coûtant plus de 100 millions de dollars, sa portée pourrait facilement être étendue pour toucher également les petits développeurs.

Certains leaders technologiques ont néanmoins soutenu le projet de loi. Le milliardaire Elon Musk, qui développe son propre modèle d'IA appelé « Grok », était l'un des rares à être en faveur du projet de loi et d'une réglementation plus large de l'IA. Dans un message publié le 26 août sur X, Musk a déclaré que « la Californie devrait probablement adopter le projet de loi SB 1047 sur la sécurité de l'IA », mais a reconnu que soutenir le projet de loi était une « décision difficile ».