Prokurator miasta San Francisco wniósł pozew przeciwko właścicielom 16 stron internetowych, które pozwalają użytkownikom na „nagość” kobiet i młodych dziewcząt przy użyciu sztucznej inteligencji.
Biuro prokuratora miasta San Francisco Davida Chiu poinformowało 15 sierpnia, że pozwał właścicieli 16 „najczęściej odwiedzanych stron internetowych”, które pozwalają użytkownikom „rozbierać” osoby na zdjęciach, aby tworzyć „niezgodne z ich wolą nagie obrazy kobiet i dziewcząt”.
Zredagowana wersja pozwu złożona w Sądzie Najwyższym miasta twierdzi, że właścicielami witryny są osoby i firmy z Los Angeles, Nowego Meksyku, Wielkiej Brytanii i Estonii, które naruszyły kalifornijskie i amerykańskie przepisy dotyczące deepfake pornografii, pornografii zemsty i materiałów przedstawiających seksualne wykorzystywanie dzieci.
Strony internetowe również nie są nieznane. Skarga twierdzi, że zgromadziły 200 milionów odwiedzin tylko w pierwszej połowie roku.
Jedna ze stron internetowych chwaliła się, że pozwala swoim użytkownikom „zobaczyć każdego nago”. Inna strona mówi: „Wyobraź sobie marnowanie czasu na zabieranie jej na randki, kiedy możesz po prostu użyć [strony internetowej], aby zdobyć jej nagie zdjęcia” – czytamy w skardze.
Biuro Chiu poinformowało, że modele sztucznej inteligencji wykorzystywane przez te witryny są szkolone na podstawie obrazów pornograficznych i materiałów przedstawiających wykorzystywanie seksualne dzieci.
Zasadniczo ktoś może przesłać zdjęcie swojego celu, aby wygenerować realistyczną, pornograficzną wersję. Niektóre witryny ograniczają swoje generacje tylko do dorosłych, ale inne pozwalają nawet na tworzenie obrazów dzieci.
Biuro Chiu stwierdziło, że zdjęcia są „praktycznie nie do odróżnienia” od prawdziwych i były wykorzystywane do „szantażowania, zastraszania, grożenia i poniżania kobiet i dziewcząt”, z których wiele nie ma możliwości kontrolowania fałszywych obrazów po ich stworzeniu.
Powiązane: Ustawa o sztucznej inteligencji w Kalifornii mająca na celu zapobieganie katastrofom wywołuje gniew Doliny Krzemowej
Jak podano w oświadczeniu, w lutym uczniowie szkoły średniej w Kalifornii udostępniali sobie nawzajem wygenerowane przez sztuczną inteligencję nagie zdjęcia 16 uczniów ósmej klasy — którzy zazwyczaj mają 13–14 lat.
W czerwcu ABC News poinformowało, że policja stanu Wiktoria aresztowała nastolatka pod zarzutem rozpowszechniania 50 zdjęć uczniów klas od dziewiątej do dwunastej, którzy uczęszczali do szkoły na obrzeżach Melbourne w Australii.
„To śledztwo zaprowadziło nas do najciemniejszych zakątków internetu. Jestem przerażona losem kobiet i dziewcząt, które musiały znosić takie wykorzystywanie” – powiedziała Chiu.
„Musimy wszyscy zrobić wszystko, co w naszej mocy, aby ukrócić działania nieuczciwych podmiotów wykorzystujących sztuczną inteligencję do wykorzystywania i nadużywania prawdziwych ludzi, w tym dzieci” – dodał.
Chiu stwierdził, że sztuczna inteligencja ma „ogromny potencjał”, ale są przestępcy, którzy wykorzystują tę technologię, dodając: „Musimy jasno powiedzieć, że to nie jest innowacja, to jest wykorzystywanie seksualne”.
AI Eye: Bańka AI jeszcze się nie skończyła, mimo że weszła w „kryzys rozczarowania”