人工智能專家警告稱,人工智能死亡或死者數字化復活即將成爲現實。因此,必須對這一問題進行監管,以防止人們因其創造者和使用者的“鬼魂”而遭受心理傷害。
劍橋大學的科學家表示,這類服務在技術上可行且在法律上允許,可以創建聊天機器人,利用保存的與失散親人的對話“呼喚奶奶回來”,從而理解人們在聽到此類討論後的情緒。
研究表明,一些公司提供的服務類似於《黑鏡》中“馬上回來”的那一集,即聊天機器人利用死者留下的數字足跡來模仿死者的語言模式和性格特徵。
敦促安全法規保護數字尊嚴
該研究發表在《哲學與技術》雜誌上,列舉了一些公司使用死亡機器人的例子,比如以類似於已故親人的方式向人們宣傳產品,或通過聲稱已故的父母“與你同在”來使兒童受到精神創傷。
然而,論文指出,在所有情況下,不值得信賴的公司和魯莽的商業舉措都可能導致長期的心理傷害並侵犯死者的權利。
研究人員表示,日常互動伴隨着巨大的情感壓力。他們聲稱,這種情感支持也會阻礙悲傷過程,而悲傷是應對損失的自然方式。
道德雷區
劍橋大學利華休姆未來智能中心 (LCFI) 的 Katarzyna Nowaczyk-Basińska 博士是這項研究的共同作者之一,她表示:“生成式人工智能的快速發展意味着幾乎任何擁有互聯網接入和一些基本知識的人都可以讓已故的親人復活。”
人工智能的這個領域似乎是一個道德雷區。最重要的事情是確保死者的尊嚴不會被以盈利爲目的的服務(例如數字來世提供商)侵犯。主要問題可能來自那些通過廣告將其在線遺留基礎設施商業化的企業。
讓孩子參與這個過程尤其危險,因爲他們可能會面臨最壞的結果。對於那些希望安慰最近失去父母的孩子的父母來說,“死亡機器人”形式的陪伴可能很快就會成爲必需品。
對悲傷過程的影響
然而,沒有研究表明這種努力的適用性,這應該讓人考慮到它們可能產生的影響,這種影響可能是非常不愉快的,更不用說它可能會對正常的哀悼過程產生負面影響。
根據研究論文,“沒有任何重現服務可以證明允許兒童與‘死亡機器人’互動是有益的,或者至少不會傷害這個弱勢羣體。”
爲了確保死者的尊嚴和生者的心理健康,研究人員提出了一系列最佳做法,甚至可以制定法律來規範它們。
這些平臺需要“淘汰”死機器人的協議,將其交互功能限制爲僅限成年人,承認任何人工智能實體在全面運行中的侷限性,並對客戶保持高度透明。
全球影響力和多樣化應用
據研究人員稱,有些平臺可以用人工智能以較低的成本生成死者的圖像。例如,Project December 最初使用 GPT 模型,後來使用他們的系統,還有 Hereafter 等應用程序。
同樣,中國也有提供該研究中所指出的相同服務的同行。2021 年,Joshua Barbeau 使用 GPT-3 開發了一個以他已故女友的聲音說話的聊天機器人,引起了公衆的關注。2015 年,Eugenia Kuyda 將她已故朋友的短信變成了聊天機器人,進而讓位於最受歡迎的 AI 伴侶應用程序 Replika。
該技術也不僅限於聊天機器人。家譜網站 MyHeritage 在 2021 年推出了 Deep Nostalgia 功能,該功能可以根據用戶祖先的個人照片生成動畫視頻。該功能一經推出,該公司不得不承認許多用戶認爲它很恐怖。隨着這些技術的逐步進步,除了牢記道德以促進發展之外,別無選擇。