Kalifornský zákon, který vyžaduje, aby vývojáři umělé inteligence zavedli bezpečnostní protokoly k zastavení „kritických škod“ vůči lidstvu, způsobil rozruch mezi technickou komunitou Silicon Valley. 

Kalifornský zákon „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, také známý jako SB 1047, by od vývojářů umělé inteligence vyžadoval implementaci bezpečnostních protokolů, aby se zabránilo událostem, jako jsou hromadné oběti nebo velké kybernetické útoky.

V únoru to navrhli kalifornští demokratičtí zákonodárci.

Navrhovaná nařízení také nařizují tlačítko „nouzového zastavení“ pro modely AI, vyžadují každoroční audity bezpečnostních postupů AI prováděné třetími stranami, vytvářejí novou divizi Frontier Model Division (FMD), která bude dohlížet na dodržování předpisů a ukládat vysoké sankce za porušení.

Od Kongresu se však objevil odpor, když americký kongresman Ro Khanna vydal 13. srpna prohlášení proti SB 1047, ve kterém vyjádřil znepokojení, že „tento návrh zákona by byl neúčinný, trestal by jednotlivé podnikatele a malé podniky a poškodil ducha Kalifornie. inovace.”

Khanna, který zastupuje Silicon Valley, uznal potřebu legislativy týkající se umělé inteligence „k ochraně pracovníků a řešení potenciálních rizik, včetně dezinformací, deepfakeů a nárůstu rozdílů v bohatství“.

Návrh zákona se setkal také s odporem ze strany Silicon Valley, přičemž společnosti rizikového kapitálu, jako je Andreessen Horowitz, tvrdily, že zatíží startupy a potlačí inovace.

Dne 2. srpna poslal hlavní právní ředitel a16z Jaikumar Ramaswamy dopis senátorovi Scottu Wienerovi, jednomu z tvůrců návrhu zákona, v němž tvrdil, že „zatíží startupy kvůli svévolným a posouvajícím se prahům“.

Odmítli také významní průmysloví výzkumníci, jako jsou Fei-Fei Li a Andrew Ng, kteří věří, že to poškodí ekosystém AI a vývoj open source.

6. srpna počítačový vědec Li řekl Fortune:

„Pokud bude SB-1047 přijat do zákona, poškodí náš začínající ekosystém umělé inteligence, zejména jeho části, které jsou již dnes znevýhodněny pro dnešní technologické giganty: veřejný sektor, akademickou sféru a ‚malou technologii‘.“

Související: Regulátoři jsou ve snaze omezit AI s otevřeným zdrojovým kódem zavádějící

Mezitím velké technologické společnosti tvrdí, že nadměrná regulace umělé inteligence omezí svobodu slova a mohla by vytlačit technologické inovace z Kalifornie.

Hlavní vědec společnosti Meta Yann LeCun v příspěvku na X v červnu uvedl, že legislativa poškodí výzkumné úsilí a tvrdí, že „regulace výzkumu a vývoje by měla apokalyptické důsledky na ekosystém AI“.

Návrh zákona prošel Senátem s podporou obou stran v květnu a nyní míří do sněmovny, kde musí schválit do 31. srpna.

Magazín: Umělá inteligence už možná využívá více energie než bitcoin – a ohrožuje těžbu bitcoinů