人工智能专家警告称,人工智能死亡或死者数字化复活即将成为现实。因此,必须对这一问题进行监管,以防止人们因其创造者和使用者的“鬼魂”而遭受心理伤害。
剑桥大学的科学家表示,这类服务在技术上可行且在法律上允许,可以创建聊天机器人,利用保存的与失散亲人的对话“呼唤奶奶回来”,从而理解人们在听到此类讨论后的情绪。
研究表明,一些公司提供的服务类似于《黑镜》中“马上回来”的那一集,即聊天机器人利用死者留下的数字足迹来模仿死者的语言模式和性格特征。
敦促安全法规保护数字尊严
该研究发表在《哲学与技术》杂志上,列举了一些公司使用死亡机器人的例子,比如以类似于已故亲人的方式向人们宣传产品,或通过声称已故的父母“与你同在”来使儿童受到精神创伤。
然而,论文指出,在所有情况下,不值得信赖的公司和鲁莽的商业举措都可能导致长期的心理伤害并侵犯死者的权利。
研究人员表示,日常互动伴随着巨大的情感压力。他们声称,这种情感支持也会阻碍悲伤过程,而悲伤是应对损失的自然方式。
道德雷区
剑桥大学利华休姆未来智能中心 (LCFI) 的 Katarzyna Nowaczyk-Basińska 博士是这项研究的共同作者之一,她表示:“生成式人工智能的快速发展意味着几乎任何拥有互联网接入和一些基本知识的人都可以让已故的亲人复活。”
人工智能的这个领域似乎是一个道德雷区。最重要的事情是确保死者的尊严不会被以盈利为目的的服务(例如数字来世提供商)侵犯。主要问题可能来自那些通过广告将其在线遗留基础设施商业化的企业。
让孩子参与这个过程尤其危险,因为他们可能会面临最坏的结果。对于那些希望安慰最近失去父母的孩子的父母来说,“死亡机器人”形式的陪伴可能很快就会成为必需品。
对悲伤过程的影响
然而,没有研究表明这种努力的适用性,这应该让人考虑到它们可能产生的影响,这种影响可能是非常不愉快的,更不用说它可能会对正常的哀悼过程产生负面影响。
根据研究论文,“没有任何重现服务可以证明允许儿童与‘死亡机器人’互动是有益的,或者至少不会伤害这个弱势群体。”
为了确保死者的尊严和生者的心理健康,研究人员提出了一系列最佳做法,甚至可以制定法律来规范它们。
这些平台需要“淘汰”死机器人的协议,将其交互功能限制为仅限成年人,承认任何人工智能实体在全面运行中的局限性,并对客户保持高度透明。
全球影响力和多样化应用
据研究人员称,有些平台可以用人工智能以较低的成本生成死者的图像。例如,Project December 最初使用 GPT 模型,后来使用他们的系统,还有 Hereafter 等应用程序。
同样,中国也有提供该研究中所指出的相同服务的同行。2021 年,Joshua Barbeau 使用 GPT-3 开发了一个以他已故女友的声音说话的聊天机器人,引起了公众的关注。2015 年,Eugenia Kuyda 将她已故朋友的短信变成了聊天机器人,进而让位于最受欢迎的 AI 伴侣应用程序 Replika。
该技术也不仅限于聊天机器人。家谱网站 MyHeritage 在 2021 年推出了 Deep Nostalgia 功能,该功能可以根据用户祖先的个人照片生成动画视频。该功能一经推出,该公司不得不承认许多用户认为它很恐怖。随着这些技术的逐步进步,除了牢记道德以促进发展之外,别无选择。