Společnost Microsoft spolupracuje se společností StopNCII v boji proti falešným obrázkům
Generativní umělá inteligence se stala snadno dostupným nástrojem a rozšířily se hluboce falešné pornografické obrázky, které vážně ohrožují osobní soukromí a bezpečnost dokonce i korejské dívčí skupiny.
S cílem bojovat proti nesouhlasným pornografickým obrázkům technologický gigant Microsoft (Microsoft) oznámil, že bude spolupracovat s platformou pro ochranu soukromí StopNCII na odstranění těchto pornografických obrázků z vyhledávače Bing. První vlna testovacích operací zpracovala více než 260 000 obrázků .
Oběti mohou použít nástroje StopNCII na svých telefonech, počítačích nebo jiných zařízeních k vytvoření digitálního otisku prstu pro pornografické obrázky, ať už skutečné nebo falešné. Funguje jako jedinečná digitální značka, kterou mohou partneři (jako je Bing) použít k porovnání obrázků na platformě, a pokud je nalezen odpovídající materiál, lze jej odstranit nebo zabránit šíření podle jejich příslušných zásad.
Podle zahraničního média „Engadget“ už se StopNCII spolupracovalo mnoho technologických firem Kromě Microsoftu jsou to také Facebook, Instagram a Threads vlastněné Metou. Stejně jako TikTok, Bumble, Reddit, Snap, Niantic, OnlyFans, PornHub a další platformy.
Google není na seznamu partnerů?
Google jako nejpopulárnější vyhledávač také spustil vlastní nástroje pro nahlašování a odstraňování pornografických obrázků. Podle vyšetřování zahraničních médií "Wired" je však Google stále kritizován bývalými zaměstnanci a oběťmi, že nespolupracuje se StopNCII.
Ostatně od roku 2020 uživatelé Googlu v Jižní Koreji nahlásili celkem 170 000 vyhledávání a odkazů na YouTube pro neslušný obsah.
Neúspěch Googlu při integraci s nástrojem StopNCII může také klást další zátěž na oběti, které je donutí řešit problémy ochrany soukromí komplexnějším a roztříštěnějším způsobem.
Vláda sleduje hluboce falešné pornografické obrázky
"TechCrunch" uvedl, že nástroj StopNCII je vhodný pouze pro dospělé starší 18 let. Problém AI deepfake pornografických obrázků je však velmi častý a platformy jako "stránky pro svlékání" začaly studentům středních škol způsobovat potíže.
Bohužel, Spojené státy v současnosti nemají žádné zákony, které by se konkrétně zaměřovaly na odpovědnost za falešnou pornografii s umělou inteligencí, takže se nyní při řešení těchto problémů spoléhají na mozaiku státních a místních předpisů.
I přesto začala americká vláda letos přijímat některá opatření. Například americký úřad pro autorská práva vyzval k uzákonění nových příslušných zákonů a skupina senátorů také v červenci navrhla návrh zákona „NO FAKES“ na ochranu obětí hluboce falešných obrázků. V srpnu podala sanfranciská vláda žalobu na 18 webových stránek a aplikací za nelegální vytváření nesouhlasných nahých fotografií.
Kromě Spojených států také Jižní Korea, kde je problém s hluboce falešnými pornografickými obrázky vážný, také nařídila zátah proti souvisejícím zločinům. Podle agentury Yonhap zahájí policie sedmiměsíční operaci, aby aktivně vypátrala ty, kteří vytvářet a distribuovat tyto obrázky, zejména ty, kteří tyto obrázky produkují a distribuují. Zaměřuje se na ty, kteří zneužívají děti a mladé lidi.
Zdroj: TechCrunch, Engadget, Microsoft Blog
Více pokrytí
„Nelegální pornografický obsah“ generovaný umělou inteligencí přitahuje 200 milionů zhlédnutí, vláda San Francisca podala žalobu
Nebuďte závislí na AI! Rizikový dokument GPT-4o varuje: Uživatelé si mohou vyvinout „emocionální připoutanost“ k hlasovým funkcím