Přídělový výbor Kalifornského státního shromáždění hlasoval ve prospěch SB 1047, navrhovaného zákona zaměřeného na regulaci odvětví umělé inteligence. Návrh zákona, oficiálně známý jako Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, se zaměřuje na tvůrce „hraničních“ modelů umělé inteligence, což jsou ty, jejichž výcvik stojí nejméně 100 milionů dolarů. 

Návrh zákona vyžaduje, aby tito vývojáři přijali bezpečnostní opatření, byli auditováni a měli jistotu, že jejich modely nezpůsobí velké škody. Poskytuje také whistleblowing pro pracovníky umělé inteligence a umožňuje státnímu zástupci podnikat právní kroky proti společnostem, jejichž modely umělé inteligence vedou k vážné újmě nebo veřejnému riziku. 

Zákonodárci pozměňují zákon, aby reagovali na obavy průmyslu

Návrh zákona také stanoví zřízení veřejného cloudového výpočetního clusteru CalCompute na podporu státní infrastruktury umělé inteligence. Mark Zuckerberg nedávno uvedl, že příští generace Meta's Llama bude vyžadovat 10x více výpočetní techniky, což by spadalo do působnosti SB 1047. 

Nicméně, několik důležitých změn bylo děláno čelit kritice ze strany kritiků. Je příznačné, že z návrhu zákona byly odstraněny trestní sankce a bylo také vypuštěno ustanovení o vytvoření nového regulačního orgánu s názvem Frontier Model Division.  

Podle senátora Wienera se mu na návrhu zákona nejvíce líbila rovnováha mezi inovací a bezpečností. Wiener vysvětlil, že je možné zlepšit bezpečnost a inovace zároveň s tím, že bezpečnost by neměla být překážkou pokroku. 

Návrh zákona vyvolal mnoho kontroverzí v Silicon Valley a celém technologickém průmyslu. Technologičtí giganti a někteří členové kongresu Silicon Valley, včetně Anny Eshoo, Zoe Lofgrenové a Ro Khanny, se také postavili proti návrhu zákona. 

Návrh zákona postoupí do další legislativní fáze

V dopise guvernérovi Gavinu Newsomovi tito zástupci požádali o veto s tím, že návrh zákona se příliš zabývá spíše nepravděpodobným zneužitím technologie. Dále uvedli, že neřeší bezprostřednější problémy, jako jsou dezinformace nebo dopady na životní prostředí nebo ztráta zaměstnání. 

Jaikumar Ramaswamy, hlavní právní ředitel Andreessen Horowitz, také sdílel tyto obavy a poznamenal, že návrh zákona může poškodit inovace a vytlačit technologické firmy z Kalifornie. Návrh zákona podpořili vlivní výzkumníci AI jako Geoffrey Hinton a Yoshua Bengio.

SB 1047 byl schválen Rozpočtovým výborem a nyní se přesouvá na půdu shromáždění, kde musí být schválen do 31. srpna. Pokud bude návrh zákona schválen, vrátí se potřetí a naposledy do Senátu státu a poté do úřad guvernéra. Guvernér v tomto písemném projevu neučinil žádné veřejné prohlášení k návrhu zákona. Bude-li schválen, SB 1047 vstoupí v platnost až v roce 2026, což poskytne čas na vytvoření FMD.