大卫·布林，这位曾获得雨果奖和星云奖的科幻小说作家，创作了《隆重》系列小说和《邮差》，他制定了一项计划来对抗来自流氓人工智能的生存威胁。
他说，历史上只有一种方法能有效遏制坏人的不良行为。那就是既不礼貌地要求他们，也不制定道德准则或安全委员会。
这被称为相互问责，他认为这也适用于人工智能。
赋予个人权力，让他们相互负责。我们知道如何很好地做到这一点。如果我们能让人工智能做到这一点，那么我们可能就会实现软着陆，他告诉《杂志》。
让他们互相攻击。让他们互相竞争，甚至互相告密或告发。
当然，说起来容易做起来难。
在最近于巴拿马举行的通用人工智能 (AGI) 会议上，布林介绍了他的想法，之后杂志采访了他。这无疑是会议上最受欢迎的演讲，赢得了欢呼和掌声。
大卫·布林 (David Brin) 出席巴拿马举行的有益 AGI 会议。（芬顿）
布林将科学融入科幻小说写作中。他拥有天文学博士学位，并为 NASA 提供咨询。他说，成为作家是我成为科学家之后的第二个人生选择，但文明似乎坚持认为我是一个比物理学家更好的作家。
他的作品已被翻译成 24 种语言，但他的名字将永远与凯文·科斯特纳的票房惨败《邮差》联系在一起。但这不是他的错；原著小说获得了 Locus 最佳科幻小说奖。
隐私和透明度的倡导者
布林是加密货币社区的一位核心作家，自 1990 年代中期以来，他一直在谈论透明度和监控问题，最早是在《连线》杂志上发表的一篇开创性文章，1998 年他将其改编成一本名为《透明社会》的非小说类书籍。
“在某些圈子里，它被视为经典，”他说。
在这项研究中，布林预测新技术将侵蚀个人权利，而保护个人权利的唯一方法就是让每个人都有能力发现自己的权利何时受到侵犯。
他提出了一个透明的社会，在这个社会中，大多数人在大多数时间都知道发生了什么，让被监视的人监视监视者。这个想法预示了区块链的透明性和不可篡改性。
巧合的是，他最初关于激励人工智能相互监管的想法最早是在去年的另一篇《连线》文章中提出的，这篇文章构成了他演讲的基础，目前他正在将其改编成一本书。
大卫·布林接受《杂志》采访。（芬顿）历史告诉我们如何打败人工智能暴君
作为一名热心的历史学生，布林认为科幻小说应该改名为推测历史。
他说，只有一个令人深深感动、戏剧性和令人恐惧的故事：人类为摆脱泥潭而进行的长期斗争，6000年的封建制度以及人们将自己的孩子献祭给巴力，这些都是早期文明的特征。
但随着雅典和佛罗伦萨的早期民主、亚当·斯密在苏格兰的政治理论以及美国革命，人们开发出了新的制度，使他们能够摆脱束缚。
根本的是什么？不要让权力积聚。如果你找到某种方法让精英们互相争斗，他们就会忙得无暇压迫你。
历史上只有一件事能驯服强大的暴君。（芬顿）人工智能：超智能的掠食性生物
不管人工智能的威胁如何，我们的文明中已经充满了超级智能掠食生物，布林停顿了一下然后补充道：“他们被称为律师。”
这除了是一个不错的小笑话之外，也是一个很好的比喻，即普通人不是律师的对手，更不用说人工智能了。
在这种情况下你会怎么做？你雇佣自己的超级聪明的掠夺性律师。你让他们互相攻击。你不必像律师一样了解法律，就可以找到一个站在你这边的律师代理人。
超级强者和富人也是如此。虽然普通人很难让埃隆·马斯克承担责任，但像杰夫·贝佐斯这样的亿万富翁就有机会了。
那么，我们能否应用同样的理论让人工智能相互负责呢？事实上，这可能是我们唯一的选择，因为它们的智力和能力可能远远超出人类思维所能想象的范围。
这是唯一有效的模型。我不能保证它能与人工智能一起工作。但我想说的是，这是唯一可行的模型。
另请阅读 特色 Cointelegraph 杂志 3 年来最好的（和最坏的）故事 特色 聪明人如何投资愚蠢的 memecoin：成功的 3 点计划 个性化人工智能
但这个想法有一个很大的问题。我们所有的问责机制最终都是建立在追究个人责任的基础上的。
所以，要使布林的想法发挥作用，人工智能需要有自己的个性意识，也就是说，不良行为会使其有所损失，而帮助警方打击违反人工智能规则的违法者则会使其有所收获。
他们必须是真正能承担责任的人。他们能通过奖励来激励自己，通过惩罚来挫败自己，他说。
这些激励措施并不难理解。人类可能会控制物质世界数十年，因此人工智能可能会获得更多内存、处理能力或物理资源访问权限。
如果我们拥有这种权力，我们就可以奖励那些至少看起来在帮助我们对抗恶意程序的个别程序。
但是，我们如何才能让人工智能实体合并成具有相对平等竞争实力的离散定义、分离的个体呢？
布林建议将人工智能锚定在现实世界，并通过区块链进行注册。（芬顿）
然而，布林的回答却有点科幻。他建议，即使系统的绝大部分都在云端运行，人工智能的某些核心组件（他称之为“灵魂内核”）也应该保存在特定的物理位置。灵魂内核将在区块链上记录一个唯一的注册 ID，一旦出现不良行为，该 ID 即可被撤销。
在全球范围内规范这种做法将极其困难，但如果有足够多的公司和组织拒绝与未注册的人工智能开展业务，该系统可能会有效。
任何没有注册灵魂内核的人工智能都会成为不法之徒，被上流社会所排斥。
这就引出了这个想法的第二个大问题。一旦人工智能成为非法行为（或者从未注册过），我们就失去了对它的任何影响力。
这个想法是为了激励好的人工智能对抗流氓人工智能吗？
我不保证这些方法一定有效。我只是说这些方法确实有效。
机器人三大定律与人工智能对齐
布林延续了艾萨克·阿西莫夫的《基地》三部曲。
1999 年，布林继续了艾萨克·阿西莫夫的 Foundations Triumph 计划，所以你可能会认为，他解决对齐问题的方案是将阿西莫夫的机器人三定律硬编码到人工智能中。
这三条规则基本上规定机器人不能伤害人类，也不能允许伤害人类。但布林认为，机器人三定律根本行不通。首先，没有人认真努力去实施它们。
艾萨克认为，20 世纪 70 年代和 80 年代的人们之所以如此害怕机器人，是因为他在 20 世纪 40 年代写道，人们会坚持投入大量资金来开发这些控制程序。人们并没有像艾萨克预期的那样害怕。因此，发明这些人工智能的公司并没有花这些钱。
更根本的问题是，布林说阿西莫夫本人也意识到了这三项定律不起作用。
阿西莫夫的一个机器人角色吉斯卡德设计了一条附加定律，即第零定律，该定律规定机器人可以做任何它们认为符合人类长远利益的事情。
机器人不得伤害人类，或因不作为而让人类遭受伤害。
因此，就像环境律师成功地以创造性的方式解释人类的隐私权以迫使人们采取行动应对气候变化一样，足够先进的机器人可以以任何它们选择的方式解释这三条定律。
所以这是行不通的。
艾萨克·阿西莫夫的机器人三定律（《工程世界》X）
尽管布林怀疑吸引机器人善良的天性是否会起作用，但他相信我们应该让人工智能明白让我们留在身边的好处。
他说：“我认为，向我们的新生儿——人工智能传达这样一个信息非常重要：只有一个文明创造了它们。”他补充说，我们的文明建立在前人的文明之上，就像人工智能站在我们的肩膀上一样。
如果人工智能有智慧，它们就会知道让我们留在身边可能是一个好主意。无论它们比我们聪明多少。破坏创造你的生态系统是不明智的。
订阅区块链领域最引人入胜的读物。每周发送一次。
电子邮件地址
订阅
