舊金山市檢察官已對 16 個網站的所有者提起訴訟，這些網站允許用戶使用人工智能“裸體”婦女和年輕女孩。

舊金山市檢察官 David Chiu 的辦公室於 8 月 15 日表示，他正在起訴 16 個“訪問量最大的網站”的所有者，這些網站允許用戶“脫掉”照片中人物的衣服，製作“女性和女孩的非自願裸照”。

在該市高等法院提起的訴訟的刪節版稱，該網站所有者包括來自洛杉磯、新墨西哥州、英國和愛沙尼亞的個人和公司，他們違反了加州和美國有關深度僞造色情、報復性色情和兒童性虐待材料的法律。

這些網站也並非無人知曉。起訴書稱，僅今年上半年，這些網站的訪問量就已達到 2 億次。

一家網站宣稱，它允許用戶“看到任何人的裸照”。另一家網站則稱，“想象一下，當你可以通過[該網站]獲得她的裸照時，你還要浪費時間帶她出去約會。”投訴稱。

邱辦公室表示，這些網站使用的人工智能模型是根據色情和兒童性虐待內容的圖片進行訓練的。

本質上，某人可以上傳目標人物的照片，從而生成逼真的色情版本。有些網站只允許生成成人照片，但有些網站甚至允許生成兒童照片。

邱的辦公室表示，這些圖像“幾乎無法與真實圖像區分開來”，並被用來“勒索、欺凌、威脅和羞辱婦女和女孩”，其中許多人一旦製作出虛假圖像就無法控制它們。

相關：加州旨在預防災難的人工智能法案引起硅谷的憤怒

報道稱，今年 2 月，加州一所中學的學生分享了人工智能生成的 16 名八年級學生（通常年齡 13 至 14 歲）的裸照。

6 月，ABC 新聞報道稱，維多利亞州警方逮捕了一名青少年，其涉嫌傳播 50 張澳大利亞墨爾本郊外學校 9 至 12 年級學生的照片。

邱說：“這項調查將我們帶到了互聯網最黑暗的角落，我對遭受這種剝削的婦女和女孩感到非常震驚。”

他補充道：“我們每個人都需要儘自己的一份力量，打擊那些利用人工智能剝削和虐待真實人類（包括兒童）的不良行爲者。”

邱表示，人工智能“前景廣闊”，但也有一些犯罪分子正在利用這項技術。他補充道：“我們必須清楚，這不是創新，而是性虐待。”

AI Eye：儘管進入“幻滅低谷”，但人工智能泡沫尚未結束