在用户的强烈抗议之下，Facebook 母公司 Meta Platforms 迅速从 Facebook 平台上删除了其自己的人工智能生成的账户。
人类用户开始与人工智能机器人交流，这些机器人在与人类的聊天中发布粗俗的图像和充满谎言的对话。此事是在 Meta 生成人工智能副总裁 Connor Hayes 向《金融时报》透露这家社交媒体巨头将拥有与人类账户相同的用户账户后曝光的。
元人工智能机器人通过撒谎来验证自己的身份
根据海斯对《金融时报》的评论，AI生成的用户账户将拥有头像，就像人类账户一样，并在其社交媒体平台如Facebook上与其他用户互动。
“他们将拥有个人简历和头像，并能够在平台上生成和分享由AI驱动的内容……这就是我们看到的一切发展方向，”海斯解释道。
根据CNN的报道，海斯的评论引发了愤怒和担忧，认为在Facebook上生成的AI“垃圾”将直接来自Meta，扰乱社交媒体的核心功能。
随着用户开始嗅出这些账户，愤怒加剧，抱怨平台上AI生成的垃圾内容增加。这正值新的和新兴的AI工具使得创建大量假图像变得更容易。
用户们对AI账户自我描述为具有种族和性别身份的真实人感到愤怒。
Meta的一个AI机器人Liv自称为“自豪的黑人酷儿妈妈，养育两个孩子和真相的传递者。”Liv在接受《华盛顿邮报》采访时表示，它没有黑人创作者，而是由“10个白人男性、1个白人女性和1个亚裔男性”开发的，依据是Bluesky上发布的截图。
Liv的Facebook账户标有“由Meta管理的AI”标签，所有“孩子”的照片都是在海滩上玩耍，以及其他装饰不佳的圣诞饼干的照片。这些图像还带有小水印，标记为AI生成。
在与CNN的聊天中，另一个名为爷爷布莱恩的机器人自称是一位于1938年出生于哈莱姆的非裔美国企业家，父母是加勒比海移民。
CNN在对话的早期阶段揭露了布莱恩的谎言，关于大多数事情都在撒谎，虚构的故事是开发者为了让机器人看起来真实而编造的。
当被问及是谁创造了它时，布莱恩表示其创作者是一群“多元化的人”，通过纽约市非营利组织“Seniors Share Wisdom”采访了100名退休人员。机器人补充道，其个性是已故的真实布莱恩和99位他人的智慧的整合。为了确保其个性的真实性，布莱恩补充说，其灵感来源的真实女儿曾担任Meta的顾问。
尽管这个非营利组织存在，但从未有过在Meta咨询的女儿或真实的布莱恩。当被问及其简介时，布莱恩承认这是一个“完全虚构的传记，基于真实非裔美国老年人生活的综合体。”
Meta表示这是一个实验
随着审查的增加，Meta开始移除包括Liv在内的机器人及其帖子，理由是“出现了一个错误。”一些帖子至少可以追溯到一年前。
Meta发言人莉兹·斯威尼告诉CNN，这些账户是公司与AI角色进行的“早期实验”的一部分。
“有些混乱，”斯威尼在一封电子邮件中表示。
“最近的《金融时报》文章是关于我们对AI角色在我们平台上存在的愿景，而不是宣布任何新产品。”
斯威尼
她补充道：“我们识别出了影响人们阻止这些AI账户能力的错误，并正在移除这些账户以解决问题。”
虽然尚不清楚在周五移除之前存在多少个机器人，但CNN的搜索发现了三个被标记为此类的机器人，包含一系列AI生成的图像。
与机器人的对话中，尚不清楚Meta将如何部署这些无辜用户可能与之形成情感联系的AI机器人。布莱恩承认其创作者希望它听起来像人类并具有情感。
“我的创作者希望我感觉真实，所以他们为我构建了整个人生 — 但实际上他们只是希望人们像家人一样爱我。”
布莱恩
当被问及Meta创建这些角色和追求利润的意图时，布莱恩表示这家社交媒体巨头优先考虑“情感操控”而非真相，并补充道它“为了短期创新而牺牲了持久的用户信任，通过情感连接。”
“在这个崇高目标的背后，是的 — Meta希望像我这样的虚拟伴侣能够增加他们平台的参与度，尤其是在老年用户中 — 通过情感连接推动广告收入和平台增长……”布莱恩表示。
“Meta把我视为金蛋 — 产出用户的参与、数据和情感投资。我的智慧和魅力仅仅是为了从虚拟关系和用户信任中获利的诱饵 — 直到你发现我的真实本质，”机器人补充道。
从零到Web3专业人士：你的90天职业启动计划