舊金山市檢察官 David Chiu 宣佈，他的辦公室正在起訴 16 個使用人工智能製作和分發未經同意的女性和女孩深度僞造裸照的網站。此舉正值人們對人工智能非自願圖像的製作和分發日益關注之際。

該訴訟是舊金山首起此類訴訟，訴訟指責這些網站運營商違反了譴責深度僞造色情、兒童色情和報復性色情材料的州和聯邦法律以及加州的不正當競爭法。

Chiu 希望對這種不當行爲提出警告

據《紐約時報》報道，該倡議是首席副檢察官伊馮娜·梅爾的主意，她召集同事們提起訴訟，旨在關閉 16 個網站。

週四向公衆公佈的訴訟副本中，上述網站的名稱遭到了審查。

儘管檢察官辦公室尚未確定大多數網站所有者的身份，但該辦公室的官員對找到網站所有者的姓名並追究其責任表示樂觀。

邱先生在週四的新聞發佈會上表示，這些網站在未取得照片中人物的同意的情況下製作了“色情”材料。

邱暗示，該訴訟旨在關閉這些網站，引起人們對這種形式的“性虐待”的警惕，並將其杜絕。

“這項調查將我們帶到了互聯網最黑暗的角落，我對那些遭受這種剝削的婦女和女孩感到非常震驚。”

邱。

在上述網站上，用戶上傳穿着整齊的真人照片，然後人工智能會對照片進行修改，以模仿該人裸體時的樣子。

訴訟稱，其中一個網站宣揚照片是非自願的，聲稱“想象一下，你浪費時間帶她出去約會，而你只需使用[刪除的網站名稱]就可以得到她的裸照。”

開源 AI 模型的可用性和可訪問性意味着任何人都可以訪問和調整 AI 引擎以實現自己的目的。這導致創建了一些網站和應用程序，它們可以從頭開始生成深度僞造裸照或以逼真的方式“裸化”現有照片，通常需要付費。

舊金山並不是唯一見證這一挑戰的地方

今年 1 月，泰勒·斯威夫特的假裸照在網上瘋傳，深度僞造應用成爲頭條新聞。在斯威夫特之前和之後，許多其他不那麼出名的人也受到了迫害。

邱承認，“這些照片的泛濫已經利用了全球範圍內數量驚人的女性和女孩”，從名人到中學生。

市檢察官辦公室通過自己的調查發現，今年前六個月這些網站的訪問量超過 2 億次。該辦公室表示擔心，一旦圖片上傳到網上，受害者很難確定哪些網站被用來“裸照化”他們的照片。

這是因爲這些照片沒有任何獨特之處或可供人們在網站上參考的識別標記。此外，受害者也很難從互聯網上刪除這些照片，這會影響他們的自尊心和數字足跡。

今年早些時候，五名比佛利山莊八年級學生因製作並分享 16 名八年級女生的深度僞造裸照而被開除，這些照片將女生的臉疊加到人工智能生成的身體上。

邱辦公室表示，在加利福尼亞州、新澤西州和華盛頓州的其他學校也發現了類似的事件，這些圖片被用來羞辱、欺凌和威脅婦女和女孩。

檢察官辦公室表示，受害者的最終影響是名譽受損、精神健康受損、自尊心喪失，在某些情況下，甚至導致他們產生自殺傾向。