L'Appropriations Committee della California State Assembly ha votato a favore della SB 1047, una proposta di legge volta a regolamentare il settore dell'intelligenza artificiale. Il disegno di legge, ufficialmente noto come Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, si concentra sui creatori di modelli di intelligenza artificiale "di frontiera", ovvero quelli la cui formazione costa almeno 100 milioni di dollari.
Il disegno di legge richiede che tali sviluppatori adottino misure di sicurezza, siano sottoposti a verifica e diano fiducia che i loro modelli non produrranno gravi danni. Fornisce inoltre il whistleblowing per i lavoratori dell'IA e consente al Procuratore generale dello Stato di intraprendere azioni legali contro le aziende i cui modelli di IA causano gravi danni o rischi pubblici.
I legislatori modificano il disegno di legge per rispondere alle preoccupazioni del settore
Il disegno di legge prevede anche l'istituzione del cluster di cloud computing pubblico CalCompute per supportare l'infrastruttura AI dello stato. Mark Zuckerberg ha recentemente affermato che la prossima generazione di Meta's Llama richiederà 10 volte più elaborazione, il che rientrerebbe nell'ambito di competenza della SB 1047.
Tuttavia, sono state apportate diverse modifiche importanti per contrastare le critiche mosse dai critici. In modo significativo, le sanzioni penali sono state eliminate dal disegno di legge e anche la disposizione per creare un nuovo organismo di regolamentazione denominato Frontier Model Division è stata eliminata.
Secondo il senatore Wiener, l'elemento del disegno di legge che gli è piaciuto di più è stato l'equilibrio tra innovazione e sicurezza. Wiener ha spiegato che è possibile migliorare sicurezza e innovazione allo stesso tempo, affermando che la sicurezza non dovrebbe essere un ostacolo al progresso.
Il disegno di legge ha generato molte polemiche nella Silicon Valley e nell'intero settore tecnologico. Anche i giganti della tecnologia e alcuni membri del Silicon Valley Congress, tra cui Anna Eshoo, Zoe Lofgren e Ro Khanna, si sono opposti al disegno di legge.
Il disegno di legge passa alla fase legislativa successiva
In una lettera al governatore Gavin Newsom, questi rappresentanti hanno richiesto un veto, notando che il disegno di legge è troppo incentrato sull'uso improprio piuttosto improbabile della tecnologia. Hanno inoltre affermato che non affronta i problemi più imminenti come la disinformazione o gli effetti ambientali, o la perdita di posti di lavoro.
Anche Jaikumar Ramaswamy, responsabile legale di Andreessen Horowitz, ha condiviso queste preoccupazioni e ha osservato che il disegno di legge potrebbe danneggiare l'innovazione e spingere le aziende tecnologiche fuori dalla California. Il disegno di legge è stato sostenuto da influenti ricercatori di intelligenza artificiale come Geoffrey Hinton e Yoshua Bengio.
La SB 1047 è stata approvata dall'Appropriations Committee e ora passa all'aula dell'Assemblea, dove deve essere approvata entro il 31 agosto. Se la proposta di legge verrà approvata, tornerà al Senato dello Stato per la terza e ultima volta e poi all'ufficio del governatore. Il governatore non ha rilasciato alcuna dichiarazione pubblica sulla proposta di legge in questo scritto. Se approvata, la SB 1047 non entrerà in vigore prima del 2026, il che darà tempo per la creazione dell'FMD.