Cifrele din industrie sunt împărțite pe un proiect de lege controversat privind inteligența artificială din California, care a fost adoptat pe 28 august.
Noua legislație va obliga firmele AI să implementeze noi protocoale de siguranță, inclusiv un buton de „oprire de urgență” pentru modelele AI.
Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (SB 1047) a fost adoptată de Senatul Californiei în perioada 29-9 pe 28 august.
Proiectul de lege merge acum la biroul guvernatorului Gavin Newson pentru ratificare.
Elon Musk a fost printre cei care și-au exprimat sprijinul pentru proiectul de lege. Pe X, el a spus că este o „apel dură”, dar a favorizat legislația din cauza „riscului potențial” al AI.
Sursa: Elon Musk
Cu toate acestea, nu toate figurile tehnologice sunt convinse la fel. Jason Kwon, director de strategie OpenAI, se numără printre cei care au criticat legislația.
Calanthia Mei, co-fondatoare a rețelei descentralizate de inteligență artificială Masa, a spus că nu este în favoarea noilor reguli, sugerând că acestea sunt rezultatul unei grădini nejustificate de a legifera.
„Reglementări premature ca acesta nu vor alunga doar talentul din California; va alunga talentul din America”, a spus Mei pentru Cointelegraph. Ea a adăugat:
„Riscul constă în posibilitatea probabilă ca cadrele de reglementare actuale și propuse ale Americii să limiteze creșterea industriei AI.”
Raheel Govindji, CEO-ul proiectului AI descentralizat DecideAI, a avut o viziune contrastantă.
„Suntem în favoarea legislației”, a spus Govindji pentru Cointelegraph.
Govindji a spus că DecideAI sprijină un killswitch controlat de o organizație autonomă descentralizată (DAO), care este modul în care își propun să democratizeze și să descentralizeze o oprire de urgență.
AI este o industrie în mișcare rapidă
Natura în mișcare rapidă a industriei AI a stârnit temeri cu privire la dezvoltarea sa neîngrădită.
Într-o scrisoare din 22 august, foștii angajați și avertizori de la OpenAI au avertizat: „Dezvoltarea modelelor AI de frontieră fără măsuri de siguranță adecvate prezintă riscuri previzibile de vătămare catastrofală pentru public”.
Dar pentru alții, ritmul rapid al dezvoltării AI este ceva de sărbătorit mai degrabă decât de temut.
Recente: Soluții fără probleme: Câte strate 2 Ethereum sunt prea multe?
„Spre deosebire de alte tehnologii transformatoare, viteza inovației AI este de neegalat. Constructorii livrează noi produse, caracteristici și aplicații în fiecare zi”, a spus Mei.
„Noi, ca constructori, nici măcar nu știm unde este plafonul AI; de unde ar ști guvernul plafonul AI? Stabilirea de limite pentru tehnologiile cu potențial ridicat este neînțelept.”
Mei a avertizat că costul final al legislației ar fi „alungarea talentului din SUA”, așa cum „a făcut cu criptomoneda”.
Cei în favoarea
Govindji propune ca un „killswitch controlat de DAO” ar putea susține cerințele legislației, păstrând în același timp „luarea colectivă și transparentă a deciziilor”.
Proiectul de lege prevede că orice model de inteligență artificială ar trebui să poată „promulga prompt o oprire completă”, dar nu reușește să definească semnificația promptă, lăsând spațiu considerabil pentru interpretare.
Deocamdată, nu se știe dacă un model DAO și sistemul său democratic de vot ar fi suficient de prompt pentru a satisface legislatorii. Govindji este încrezător că va fi. Potrivit lui Govindji, DecideAI „va fi înaintea curbei în furnizarea de AI, care este un bun social”.
Firma de inteligență artificială Anthropic a susținut public proiectul de lege.
Într-o scrisoare deschisă adresată guvernatorului Newsom, CEO-ul Anthropic, Dario Amodei, a spus: „Sistemele AI avansează în capabilități extrem de rapid, ceea ce oferă atât o mare promisiune pentru economia Californiei, cât și un risc substanțial [...] Credem că SB 1047, în special după modificările recente, prezintă probabil o povară fezabilă de conformitate pentru companii precum a noastră, având în vedere importanța evitării abuzurilor catastrofale.”
O versiune anterioară a proiectului de lege prevedea sancțiuni penale pentru companiile care nu se conformau. După consultarea cu industria, această prevedere a fost redusă doar la sancțiuni civile.
Proiectul de lege SB 1047
Proiectul de lege SB 1047 se va aplica numai „modelelor acoperite”, definiția modelelor acoperite schimbându-se în timp.
La implementare, un model acoperit va fi un AI care costă peste 100 de milioane de dolari pentru a fi dezvoltat sau „Un model de inteligență artificială antrenat folosind o cantitate de putere de calcul mai mare de 10^26 de operațiuni întregi sau în virgulă mobilă”.
Agenția de operațiuni guvernamentale a guvernului federal va decide orice modificare a pragului de putere de calcul.
Recent: Cinci predicții privind piața cripto care nu s-au adeverit încă
Într-o scrisoare adresată guvernatorului Newsom, Kwon de la OpenAI a susținut că legislația privind IA ar trebui să fie tratată doar la nivel federal „mai degrabă decât un mozaic de legi de stat”.
Având în vedere concentrația copleșitoare a firmelor de tehnologie și IA din California, SB 1047 ar putea fi, deocamdată, legislația națională de facto.
Situația s-ar putea schimba în cazul în care legislația ar determina firmele de inteligență artificială să fugă în alte state, dar pentru a evita complet SB 1047, firmele ar trebui, de asemenea, să înceteze toate operațiunile și serviciile din California.