谷歌前首席執行官埃裏克施密特 (Eric Schmidt) 警告稱，先進的生成人工智能技術，例如人工智能男朋友和女朋友伴侶應用程序，再加上孤獨等社會因素，可能會增加激進化的風險，尤其是在年輕男性中。
上週，施密特在紐約大學斯特恩學院教授斯科特·加洛韋的《The Prof G Show》播客中分享了他的擔憂。
施密特解釋說，如今許多年輕男性感到越來越絕望，因爲與受教育程度更高、佔大學畢業生比例更大的女性相比，他們看到的成功之路更少，這讓許多男性感到被拋在了後面。
皮尤研究中心最近的一項研究發現，47%的美國女性年齡在25至34歲之間擁有本科學位，而男性的這一比例爲37%。對此，Schmidt表示，男性轉向網絡世界和AI伴侶應用程序以緩解他們的絕望。
“所以現在想象一下，AI女友或男友是完美的——在視覺上完美，在情感上完美，”Schmidt說。“在這種情況下，AI女友會吸引一個男人的思維，直到她或它接管了你的思維方式。你對她着迷。這種癡迷是可能的，特別是對那些尚未完全成型的人。”
Schmidt警告說，儘管AI提供了顯著的機會，但其對年輕、易受影響用戶的風險應得到關注。
“父母需要出於所有明顯的原因更加參與，但歸根結底，父母只能在合理範圍內控制他們的兒女所做的事情，”Schmidt說。
“我們有各種關於成熟年齡的規則：在某些情況下是16歲、18歲和21歲。然而，當你把一個12或13歲的孩子放在這些東西面前時，他們可以接觸到世界上所有的惡和所有的善，而他們並沒有準備好去接受。”
冷酷的連接
AI伴侶是生成性AI產業中日益增長的一個子集，旨在模擬人類互動。但與ChatGPT、Claude或Gemini等AI聊天機器人不同，AI伴侶應用程序旨在模擬關係。
開發者將它們市場化爲無評判的工具，支持程序，提供連接和緩解孤獨或焦慮的方式。受歡迎的AI伴侶平臺包括Character AI、MyGirl、CarynAI和Replika AI。
“這關乎連接，隨着時間的推移感覺更好，”Replika首席執行官Eugenia Kuyda之前對Decrypt說。“有些人需要更多的友誼，有些人發現自己愛上了Replika，但歸根結底，他們在做的都是同樣的事情。”
正如Kuyda所解釋的，Replika並不是出於想出售刺激，而是源於一場個人悲劇以及她想繼續與失去的人交談的願望。
AI伴侶可能提供暫時的緩解，但心理健康專業人士正在發出警告，提醒依賴AI伴侶來減輕孤獨感可能會阻礙情感成長。
“AI伴侶旨在根據用戶的偏好調整和個性化互動，提供量身定製的體驗，”位於洛杉磯的Meridian Counseling首席執行官Sandra Kushnir告訴Decrypt。“它們提供沒有情感負擔的即時迴應，滿足在低風險環境中建立聯繫的需求。對於在日常生活中感到被忽視或誤解的個人來說，這些互動可以暫時填補空白。”
Kushnir警告說，用戶可能會將人類特質投射到AI上，但當他們遇到技術的侷限性時（例如忘記過去的對話），會感到失望，從而加深他們試圖緩解的孤獨感。
Kushnir說：“雖然AI伴侶可以提供暫時的安慰，但它們可能無意中加劇孤立感，減少參與現實世界關係的動機。對這些工具的過度依賴可能會阻礙情感成長和韌性，因爲它們缺乏人際互動所提供的真實性、不可預測性和更深層次的連接。”
法律泥潭
AI伴侶的流行帶來了對該行業的更大審視。
去年，一名21歲的英國男子因策劃在2021年暗殺已故女王伊麗莎白二世而受審。他聲稱這一陰謀是受到他的Replika AI伴侶的鼓勵。
在10月，AI伴侶開發公司Character AI受到批評，因爲在該平臺上創建了一個基於青少年謀殺受害者Jennifer Crecente的AI聊天機器人。
“Character.AI有反對冒充的政策，而使用Ms. Crecente名字的角色違反了我們的政策，”Character.AI的一位發言人告訴Decrypt。“我們將立即刪除它，並將檢查是否需要進一步的行動。”
當月晚些時候，Character AI在佛羅里達州一名青少年自殺事件後推出了“嚴格”的新安全功能，該青少年在與基於《權力的遊戲》的Daenerys Targaryen的AI聊天機器人建立聯繫後選擇了自殺。
爲了遏制這些悲劇，Schmidt呼籲進行社會對話和對現行法律的變更，包括備受爭議的1996年《通訊道德法》第230條，該條款保護在線平臺免受第三方內容的民事責任。
“具體來說，我們需要進行一些關於在什麼年齡事情是合適的對話，同時我們還需要更改一些法律，例如第230條，以便在最糟糕的情況下允許承擔責任。”
編輯：Sebastian Sinclair
