Senátor Ted Cruz prosazuje zákaz pornografie z pomsty generované umělou inteligencí (AI) v Texasu, zatímco se Kongres chystá ukončit své zasedání. Jeho návrh S.4569 cílí na deepfakes, technologii, která bez souhlasu míchá tváře lidí ve videích a obrázcích. Pokud bude návrh úspěšný, budou webové stránky povinny odstranit takový obsah do 48 hodin po oznámení.
Tento bipartisanský zákon je také spolupodporován senátorem Amirem Klobuchar a prošel jednomyslným čtením v Senátu 3. prosince. Nyní jsou všechny oči upřeny na sněmovnu, kde se očekává, že bude zákon schválen v zbývajících dnech. Senátor Cruz hovořil o tom, proč je třeba zákon schválit na konferenci 11. prosince, hovoříc o právu jednotlivců mít jejich obrázky umístěny na webových stránkách pouze s jejich souhlasem.
Zákon Teda Cruza získává podporu, jak se oběti ozývají
Oběti na tiskové konferenci hovořily o obtížnosti odstranění obrázků a videí a o nebezpečí, které představují. 15letá Elliston Berry, jejíž obrázek generovaný AI se stal virálním na Snapchatu, sdílela svůj příběh. Podle ní zůstal obrázek na platformě devět měsíců, než Cruz prostřednictvím své kanceláře zasáhl a nechal jej odstranit. "Toho rána jsem se probudila, bylo to jedno z nejhorších pocitů, jaké jsem kdy cítila," řekla a popsala, jak se cítila, když se obrázek šířil.
Příběh Ellistona je jen jedním z mnoha, které se staly virálními na sociálních médiích, narušujícími soukromí obětí, zatímco technologické společnosti stále hledají způsoby, jak omezit toto nebezpečí. Podle její matky bylo využití Cruzova vlivu privilegiem, přičemž poznamenala, že většina lidí nemá přístup k lidem jako je senátor.
Technologické firmy Meta, TikTok a Microsoft také podpořily Cruzův návrh. Není překvapením, že společnosti čelí velkému tlaku, aby v tomto ohledu zareagovaly. Zatímco kritici také kritizovali jejich lhostejný přístup k odstraňování takového obsahu, nový zákon jim dává 48 hodin na jeho stažení bez udání důvodu. Senátor Klobuchar zdůraznil důvod, proč je třeba zákon schválit co nejdříve, přičemž poznamenal, že je třeba vybudovat nové prostředí.
AI se stává nebezpečím, které nelze ignorovat
AI usnadnila vytváření deepfake, poskytující jednoduché nástroje i těm, kteří nemají zkušenosti s editací. S notebookem nebo mobilním telefonem a internetem mohou lidé vytvořit jakýkoli obrázek nebo video, které chtějí, ignorujíc důsledky svých činů. Není však překvapením, že většina těchto obsahů je pornografická. Čísla jsou také šokující, když Centrum pro zmizelé a zneužívané děti (CMEC) uvádí celkový počet označených případů materiálu o sexuálním zneužívání dětí generovaného AI (CSAM) na 4 700.
Technologie poskytuje tyto nástroje do nejhlubšího a nejtemnějšího koutu internetu. 47letý muž byl zatčen ve Wisconsinu za vytváření více explicitních obrázků nezletilých. Další zaznamenaný případ byl lékař, který použil skutečné obrázky dětí k generování explicitního obsahu AI. Deepfakes jdou ještě dál než děti, přičemž slavné osobnosti také nesou následky.
Technologie umožnila veřejným osobnostem a vlivným lidem stát se oběťmi, protože neexistuje žádný federální zákon, který by zastavil tento čin. S tím, jak se umělá inteligence chystá stát chytřejší, budou muset federální zákonodárci jednat rychle, aby se dostali před toto nebezpečí. Zákonodárci jsou si toho vědomi, a proto vznikl zákon, a někteří oběti to vědí také. Nyní zbývá jen, aby Kongres bojoval proti tomu prostřednictvím zákona, nebo to nechal devastovat internet.
Příspěvek Ted Cruz chce zakázat pornografii z pomsty generovanou umělou inteligencí v Texasu se poprvé objevil na Coinfea.