南韓深偽色情猖獗，TWICE 女團偶像也受害
南韓近期爆出大規模深度偽造（Deepfake）非法色情亂象，犯罪者主要收集一般女性與女藝人的臉部照片，並利用 AI 技術來合成影像，於通訊軟體 Telegram 的群組上流傳，受害者包括未成年少女與 TWICE、NewJeans 等女團成員。
目前，南韓偶像經紀公司 JYP、YG 與 CUBE 都已發表聲明，將嚴肅對待侵害旗下藝人權力之行為，其中 JYP 更稱「絕不會袖手旁觀」。
南韓深偽色情有多嚴重？婦團：已成國家危機
南韓幾年前才爆發嚴重數位性暴力案件「N 號房」，而本次深偽性犯罪也已被媒體稱為「N 號房2.0」，犯罪者甚至已將魔爪伸入校園。
近日，《韓民族日報》發表了震驚南韓的獨家新聞，記者Ko Narin深入調查 2 所大學的深偽性犯罪集團，發現在 Telegram 上有數十個相關群組，幾乎每時每刻，都有人上傳認識的女生照片，並在幾秒鐘內轉化成深偽色情片，犯罪範圍遍佈多所校園，甚至有學生開發深偽受害者地圖來警示。
圖源：Korea Times南韓學生開發的深偽受害者地圖
更令人震驚的是，根據南韓警察廳廳長趙志浩所述，目前抓到的深偽性犯罪者中，有 75% 是 10 至 19 歲的年輕人；而另一份調查指出，今年迄今的深偽受害者中，有 37% 是未成年。
只是在社群上分享個人臉部照片，竟要擔心會被拿去做成換臉色情片？南韓婦女團體「女性民友會」就指責，深偽性犯罪的嚴重性已構成國家危機，導致當地女性人心惶惶，日常生活已經失去安心感。
南韓警方對 Telegram 啟動立案前調查
在深偽性犯罪事件延燒後，南韓總統尹錫悅下令徹查並根除數位性犯罪傳播。8 月 29 日，執政黨也推動立法，將深偽性犯罪最高刑期從 5 年上調至 7 年。
9 月 2 日，南韓警察廳國家搜查本部長禹鐘壽宣布，警方以涉嫌幫助深偽性犯罪為由，針對Telegram啟動立案前調查。
禹鐘壽透露，Telegram 公司不積極配合調查，不單單是南韓警方會遇到的難題，其他國家也是如此。他們打算與法國偵查部門與多個國際組織展開合作，找到針對 Telegram 的偵察方法。
近日，法國當局已對 Telegram 創辦人杜洛夫提出多個重罪指控，包括 Telegram 涉嫌促成毒品交易、兒少性犯罪等其他有組織犯罪的行為。
在法國採取行動後，印尼政府正在收集 Telegram 上傳播非法內容的證據，並考慮封禁；而印度當局也展開調查，確認該平台是否違反法律規定；再來就是本次提到的南韓，已經有兩次大規模數位性犯罪透過 Telegram 傳播。
圖源：News.za南韓深偽色情猖獗，Telegram 出現多個犯罪群組
Telegram 應該對用戶濫用負責嗎？
《加密城市》此前報導，Telegram 表示平台遵守歐盟法規，杜洛夫本人也並未涉嫌犯罪，並聲稱平台要對用戶濫用行為負責，是一件荒謬的事。
不過，即便 Telegram 表示會主動監控平台公共內容，並使用 AI 工具處理用戶投訴，每天刪除了數百萬條違反平台條款的內容，似乎仍無法有效遏制濫用行為。
Telegram 創辦人遭指控一事，掀起了言論自由、用戶隱私與遏止犯罪之間的爭論，馬斯克、以太坊創辦人 Vitalik Buterin 等人都發表對言論自由的擔憂，但站在執法機關的角度來看，平台拒絕配合的行為增加了破案難度，並可能讓犯人更有恃無恐。
在台灣，知名社群平台Dcard就曾因用戶涉及詐騙、兒少等案件，遭到檢警持搜索票前往調閱資料。在保障用戶隱私權的前提下，Dcard 提供了有限的資料，協助檢調偵辦案件。
圖源：DcardDcard創辦人林裕欽
不過，另一個針對網路安全推出的《數位中介服務法》草案，則在有限制言論自由的質疑聲浪中被退回，代表台灣民眾還在尋找言論自由與網路安全之間的平衡。