Podle Cointelegraph guvernér Kalifornie Gavin Newsom vetoval kontroverzní návrh zákona o umělé inteligenci (AI) s tím, že by bránil inovacím a nedokázal by řešit skutečné hrozby, které tato technologie představuje. Návrh zákona, SB 1047, známý jako zákon o bezpečných a bezpečných inovacích pro modely hraniční umělé inteligence, byl vetován 30. září po výrazném odporu ze strany Silicon Valley. Cílem navrhované legislativy bylo nařídit bezpečnostní testování modelů umělé inteligence a implementovat další zábradlí, o kterých se technologické firmy obávaly, že by potlačily inovace.

Newsom ve svém prohlášení z 29. září kritizoval návrh zákona za to, že se příliš soustředil na regulaci stávajících špičkových firem zaměřených na umělou inteligenci, aniž by dostatečně chránil veřejnost před skutečnými hrozbami, které nové technologie představují. Argumentoval tím, že návrh zákona aplikoval přísné standardy i na ty nejzákladnější funkce velkých systémů, což nepovažoval za nejlepší přístup k ochraně veřejnosti.

Návrh zákona, jehož autorem je sanfranciský demokratický senátor Scott Wiener, by vyžadoval, aby vývojáři v Kalifornii, včetně velkých společností jako OpenAI, Meta a Google, implementovali „kill switch“ pro své modely AI a zveřejnili plány na zmírnění extrémních rizik. Vývojáři umělé inteligence by navíc museli být žalováni generálním prokurátorem v případě pokračující hrozby ze strany modelů, jako je převzetí sítě AI.

Newsom uvedl, že konzultoval s předními bezpečnostními experty AI, aby pomohli Kalifornii vyvinout funkční zábradlí, která se zaměří na vytvoření vědecky podložené analýzy trajektorie. Nařídil také státním úřadům, aby rozšířily hodnocení rizik z potenciálních katastrofických událostí pocházejících z vývoje AI. Navzdory vetování SB 1047 Newsom zdůraznil potřebu adekvátních bezpečnostních protokolů pro AI a zdůraznil, že regulační orgány nemohou čekat na velkou katastrofu, než podniknou kroky na ochranu veřejnosti.

Návrh zákona čelil značnému odporu ze strany zákonodárců, poradců a velkých technologických firem. Předsedkyně Sněmovny reprezentantů Nancy Pelosi a společnosti jako OpenAI tvrdily, že by to výrazně bránilo růstu AI. Neil Chilson, šéf politiky AI v Institutu Abundance, varoval, že zatímco návrh zákona se primárně zaměřoval na modely stojící více než 100 milionů dolarů, jeho rozsah by se mohl snadno rozšířit tak, aby ovlivnil i menší vývojáře.

Někteří tech lídři však návrh zákona podpořili. Miliardář Elon Musk, který vyvíjí svůj vlastní model umělé inteligence nazvaný „Grok“, byl jedním z mála, kteří návrh zákona a širší předpisy týkající se umělé inteligence podporovali. V příspěvku z 26. srpna na X Musk uvedl, že „Kalifornie by pravděpodobně měla schválit zákon o bezpečnosti AI SB 1047“, ale uznal, že podpora tohoto zákona byla „těžká výzva“.