微軟與StopNCII合作打擊深偽影像

生成式AI成為唾手可得的工具，深偽（Deepfake）色情影像氾濫成災，嚴重威脅個人隱私及安全，就連韓國女團也都成為受害者。

為打擊非自願色情影像，科技巨頭微軟（Microsoft）宣布與保護隱私平台StopNCII合作，將這些色情影像從搜尋引擎Bing中移除，而首波測試行動已處理了26萬多張圖像。

受害者可以在自己的手機、電腦或其他設備上，使用StopNCII的工具為色情影像（不論是真實或深偽影像）生成一個數位指紋。它就像獨特的數位標記，而合作方（如Bing）可以使用這些標記來比對平台上的影像，一旦發現相符的資料，便可根據各自政策將其移除或阻止擴散。

根據外媒《Engadget》報導，許多科技公司已經與StopNCII進行合作，除了微軟之外，還有Meta旗下的Facebook、Instagram和Threads。以及TikTok、Bumble、Reddit、Snap、Niantic、OnlyFans、PornHub等平台。

Google不在合作名單中？

做為最受歡迎的搜尋引擎，Google也推出了自己的檢舉和移除色情影像工具，但根據外媒《Wired》的調查，Google因為沒有與StopNCII合作，仍遭到前員工和受害者的批評。

畢竟自2020年以來，Google在南韓的用戶已經累積檢舉了17萬條不雅內容的搜尋以及YouTube連結。

而Google不與StopNCII工具做整合，也可能為受害者帶來額外負擔，迫使他們必須以更複雜、零散的方式處理隱私問題。

政府針對深偽色情影像進行追查

《TechCrunch》表示，StopNCII的工具僅適用於18歲以上的成年人，然而AI深偽色情影像問題非常普遍，像是「脫衣網站」（undressing sites）這樣的平台已經開始對高中生造成困擾。

不幸的是，美國目前沒有專門針對AI深偽色情的法律來追究責任，導致現在只能依賴各州和地方法規拼湊來處理這些問題。

即便如此，美國政府今年也開始採取一些措施。例如美國版權局（US Copyright Office）呼籲制定新的相關法律，而一群參議員也在7月提出了《NO FAKES》法案，保護深偽影像受害者。8月時，美國舊金山政府針對對18家網站和應用程式提起訴訟，因為這些網站非法生成未經同意的裸照。

除美國之外，在深偽色情影像問題嚴重的南韓，其總統尹錫悅也下令打擊相關犯罪，根據韓聯社報導，警方將展開為期七個月的行動，積極追查製作和散佈這些影像的人，特別是針對那些剝削兒童和青少年的犯罪者。

資料來源：TechCrunch、Engadget、Microsoft Blog

更多報導
AI生成的「非法色情內容」吸2億次瀏覽，舊金山政府提起訴訟
別對AI上癮！GPT-4o風險文件警告：用戶可能對語音功能產生「情感依戀」