Nový návrh zákona předložený skupinou dvoustranných senátorů se snaží bojovat proti zneužívání hlubokých padělků umělé inteligence (AI) tím, že nařizuje vodoznaky takového obsahu.
Návrh zákona, předložený senátorkou Marií Cantwellovou (D-WA), senátorkou Marsha Blackburnovou (R-TN) a senátorem Martinem Heinrichem (D-NM), navrhuje standardizovanou metodu pro obsah vodoznaků generovaný AI.
Pod názvem Content Origin Protection and Integrity from Edited and Deepfaked Media Act (COPIED) posílí ochranu tvůrců a zavede kontrolu nad typy obsahu, na kterém lze AI trénovat.
Podle Cantwella zákon nabídne „tolik potřebnou transparentnost“ obsahu generovaného umělou inteligencí a zároveň vrátí „tvůrcům, včetně místních novinářů, umělců a hudebníků, zpět kontrolu nad jejich obsahem“.
Pokud zákon projde, bude také vyžadovat, aby poskytovatelé služeb AI, jako je OpenAI, nařídili uživatelům vkládat informace o původu obsahu, který vytvářejí. Dále to musí být implementováno způsobem, který je „strojově čitelný“ a nelze jej obejít nebo odstranit pomocí nástrojů založených na AI.
Federální obchodní komise (FTC) bude dohlížet na prosazování zákona COPIED. Regulátor bude porušení považovat za nekalé nebo klamavé jednání, podobně jako v případě jiných porušení zákona o FTC.
Se zavedením umělé inteligence se hodně debatovalo o jejích etických důsledcích s ohledem na schopnost této technologie sbírat obrovské objemy dat z celého webu.
Také by se vám mohlo líbit: Umělá inteligence může dát krypto zločinům nový rozměr, říká Elliptic
Tyto obavy byly evidentní, když technologický gigant Microsoft ustoupil od nástupu do představenstva OpenAI.
„Umělá inteligence dala špatným hercům možnost vytvářet hluboké padělky každého jednotlivce, včetně těch v kreativní komunitě, napodobovat jejich podobu bez jejich souhlasu a profitovat z padělaného obsahu,“ řekl senátor Blackburn.
Navrhovaný návrh zákona se shoduje s 245% nárůstem podvodů a podvodů využívajících obsah Deepfake. Zpráva společnosti Bitget odhaduje, že ztráty z těchto schémat budou do roku 2025 oceněny na 10 miliard dolarů.
V kryptoprostoru podvodníci využívají AI k tomu, aby se vydávali za prominentní osobnosti jako Elon Musk a Vitalik Buterin, aby napálili uživatele.
V červnu 2024 přišel zákazník kryptoburzy OKX o více než 2 miliony dolarů poté, co se útočníkům podařilo obejít zabezpečení platformy pomocí hluboce falešných videí oběti. Před měsícem hongkongské úřady zasáhly proti podvodné platformě využívající podobiznu Elona Muska k klamání investorů.
Mezitím byl technologický gigant Google nedávno kritizován zakladatelem Národního centra kybernetické bezpečnosti (NCC) Michaelem Marcottem za neadekvátní preventivní opatření proti hlubokým padělkům zaměřeným na kryptoměny.
Přečtěte si více: Binance využívá umělou inteligenci (AI) ke zlepšení vzdělávání na webu3