Kalifornský guvernér Gavin Newsom vetoval SB 1047, návrh zákona, který se snažil regulovat rozsáhlé systémy umělé inteligence (AI), a uvedl, že by to bránilo inovacím, aniž by adekvátně řešilo reálná rizika spojená s technologií.
Cílem návrhu zákona, který představil senátor za demokratický stát Scott Weiner, bylo zavést bezpečnostní testování a opatření pro dohled na modely umělé inteligence, konkrétně zaměřené na systémy, jejichž vývoj vyžaduje více než 100 milionů dolarů.
Rozhodnutí Newsom z 30. září vyvolalo debatu o budoucnosti regulace AI ve státě. Jeho administrativa čelila rostoucímu tlaku na implementaci ochranných opatření s pokrokem v technologii AI. Newsom však tvrdil, že návrh zákona se příliš soustředil na existující korporace s umělou inteligencí, jako jsou OpenAI a Google, a přitom neřešil skutečné hrozby, které vznikající modely umělé inteligence představují.
Návrh zákona se zaměřil na regulaci modelů umělé inteligence
Navrhovaná legislativa, SB 1047, byla jedním z prvních zákonů v zemi, který se zaměřoval na rozsáhlé modely umělé inteligence. Vyzval k povinnému testování bezpečnosti, implementaci „kill switch“ a plánům na zmírnění rizik pro vývojáře vysoce nákladných systémů umělé inteligence. Návrh zákona také navrhoval udělit státnímu zástupci pravomoc podniknout právní kroky proti společnostem, pokud jejich systémy umělé inteligence představují přetrvávající nebezpečí, jako je například možnost převzetí sítě řízené umělou inteligencí.
Přestože současné modely umělé inteligence musí stále splňovat finanční limit uvedený v návrhu zákona, odborníci navrhli, že by se takové modely mohly objevit během následujícího roku. Zastánci SB 1047 tvrdili, že legislativa by připravila cestu pro přísnější národní zákony o bezpečnosti AI, čímž by se Kalifornie dostala do popředí regulace AI.
Newsom: Bill se míjí známkou nebezpečí AI
Guvernér Newsom zdůraznil, že i když je regulace umělé inteligence klíčová, existují lepší přístupy než SB 1047. Uvedl, že návrh zákona uplatňoval zbytečně přísné standardy na modely umělé inteligence, a to i v případech, kdy se jednalo pouze o základní funkce. Vyjádřil obavy, že tyto předpisy potlačí inovace v Silicon Valley, centru pro vývoj AI.
Newsomovo rozhodnutí vetovat návrh zákona přišlo po výrazném odporu technologických gigantů a politických osobností. Předsedkyně sněmovny Nancy Pelosi a hlavní vývojáři AI, včetně OpenAI, vyjádřili obavy, že legislativa bude bránit pokroku v této oblasti. Navzdory vetování zákona Newsom znovu potvrdil svůj závazek k vědecky podloženým předpisům pro umělou inteligenci a zavázal se, že jeho administrativa bude pokračovat v práci na bezpečnostních protokolech, které se zabývají skutečnými riziky umělé inteligence, aniž by bránily inovacím.
Smíšené reakce na veta
Senátor Scott Weiner kritizoval Newsomovo rozhodnutí a označil ho za překážku pro veřejnou bezpečnost a regulaci velkých korporací AI. Tvrdil, že SB 1047 by poskytl zásadní dohled nad společnostmi vyvíjejícími modely umělé inteligence, které by mohly významně ovlivnit společnost a životní prostředí.
Na druhou stranu někteří lídři v oboru, včetně Elona Muska, vyjádřili podporu obecným cílům zákona. Musk, který vyvíjí svůj vlastní model AI nazvaný Grok, v příspěvku na sociálních sítích přiznal, že projít SB 1047 bylo „těžké rozhodnutí“, ale nezbytné pro pokrok v bezpečnosti AI. Veto guvernéra Newsoma zdůrazňuje napětí mezi podporou inovací a zajištěním veřejné bezpečnosti, když se stát potýká s rychlým rozvojem umělé inteligence.
The post Kalifornský guvernér Gavin Newsom vetoval AI Safety Bill, Citing Innovation Concerns se poprvé objevil na Coinfea.