生成式人工智能的神奇之处在于，大多数人都不知道它是如何工作的。在某种程度上，甚至可以说没有人完全确定它是如何工作的，因为 ChatGPT 的内部工作原理可能会让最聪明的科学家感到困惑。这是一个黑匣子。我们并不完全确定它是如何训练的，哪些数据会产生哪些结果，以及在这个过程中哪些知识产权被践踏。这既是神奇的一部分，也是可怕的一部分。阿丽亚娜·斯普林 (Ariana Spring) 是今年 5 月 29 日至 31 日在德克萨斯州奥斯汀举行的共识节的演讲者。

如果有一种方法可以窥视黑匣子内部，从而清晰地了解人工智能是如何被控制、训练和生产的，那会怎样？这是 EQTY Lab 的目标（或目标之一），该实验室开展研究并创建工具，使人工智能模型更加透明和协作。例如，EQTY Lab 的 Lineage Explorer 可以实时查看模型的构建方式。

所有这些工具都是为了防止不透明性和集中化。EQTY Lab 研究主管 Ariana Spring 表示：“如果你不理解人工智能为什么做出这些决定，或者谁应该负责，就很难弄清楚为什么会产生有害的东西。所以我认为集中化——以及将这些秘密保存在黑匣子里——真的很危险。”

在她的同事 Andrew Stanco（财务主管）的陪同下，Spring 分享了加密如何创造更加透明的人工智能，这些工具如何被部署用于气候变化科学，以及为什么这些开源模型能够更具包容性、更能代表整个人类。

为了清晰起见，我们对采访内容进行了压缩和略微编辑。

EQTY Lab 的愿景和目标是什么？

Ariana Spring：我们正在开拓新的解决方案，以在人工智能领域建立信任和创新。生成式人工智能是目前的热门话题，也是最新兴的特性，因此这是我们关注的重点。

但我们也研究各种不同类型的人工智能和数据管理。我们真正依赖的是信任和创新。我们通过使用先进的加密技术来使模型更加透明，同时也更加协作。我们认为透明度和协作是创造更智能、更安全的人工智能的同一枚硬币的两面。

您能再多谈谈加密技术如何融入其中吗？因为您看到很多人说“加密技术和人工智能非常契合”，但这种理由往往停留在很高的水平。

Andrew Stanco：我认为人工智能和加密技术的交集是一个悬而未决的问题，对吧？我们发现，人工智能的秘密在于它是协作的；它有众多利益相关者。没有一个数据科学家可以制作一个人工智能模型。他们可以训练它，可以对其进行微调，但加密技术成为一种做某事的方式，然后拥有一种防篡改的方法来验证这件事是否发生过。

因此，在像 AI 训练这样复杂的过程中，拥有这些防篡改和可验证的证明（无论是在训练期间还是训练之后）确实很有帮助。它创造了信任和可见性。

Ariana Spring：我们的做法是，在 AI 生命周期和训练过程的每个步骤中，都会对发生的事情进行公证（或盖章）。这是与执行该操作的代理、人或机器相关联的去中心化 ID 或标识符。您有时间戳。使用我们的 Lineage Explorer，您可以看到我们所做的一切都是使用加密技术自动注册的。

然后我们在治理产品中使用智能合约。因此，如果满足或不满足 X 参数，则某个操作可以继续或不继续。我们拥有的工具之一是治理工作室，它基本上可以编程如何训练 AI 或如何管理 AI 生命周期，然后反映在下游。

您能否解释一下您正在构建什么类型的工具？例如，您构建工具和进行研究是为了帮助其他初创公司构建培训模型，还是您自己构建培训模型？换句话说，EQTY Labs 在这种环境中到底扮演什么角色？

Andrew Stanco：从某种意义上说，这是一种混合，因为我们的重点是企业，因为这将是从训练和治理的角度正确使用 AI 的首批重要领域之一。如果你深入研究这一点，那么我们需要有一个区域，开发人员（或该组织中的某个人）可以注释代码并说“好的，这就是发生的事情”，然后创建记录。它以企业为中心，重点是与开发人员以及构建和部署模型的人员合作。

Ariana Spring：我们还通过气候情报基金会训练了该模型。我们帮助训练了一个名为 ClimateGPT 的模型，这是一个针对气候的大型语言模型。这不是我们的主营业务，但我们已经完成了这个过程，并使用我们的技术套件来可视化这个过程。所以我们知道它是什么样的。

人工智能最让您兴奋的是什么？人工智能最让您害怕的是什么？

Andrew Stanco：说到兴奋，当你第一次与生成式人工智能互动时，感觉就像打开了模型中的闪电。当你第一次在 MidJourney 中创建提示，或者你第一次向 ChatGPT 提问时，没有人需要说服你，也许它很强大。我没想到现在还有这么多新东西，对吧？

那么恐怖呢？

安德鲁·斯坦科：我认为，从议程来看，这种担忧可能是共识会议中许多议题的潜台词。令人担忧的是，这些工具让现有的赢家挖掘更深层次的模式。这不一定是一项颠覆性技术，而是一项根深蒂固的技术。

还有阿丽亚娜，你的主要 AI 是兴奋还是恐惧？

Ariana Spring：我先从我的恐惧开始，因为我本来想说一些类似的东西。我会说集中化。我们已经看到了集中化与缺乏透明度相结合所带来的危害。例如，在过去 10 年到 15 年里，我们在社交媒体上看到了这一点。如果你不理解为什么人工智能会做出这样的决定，或者谁应该负责，那么就很难质问为什么会散布有害的东西。所以我认为集中化——以及将这些秘密保存在黑匣子里——真的很危险。

兴奋度怎么样？

最让我兴奋的是吸引更多人加入。在培训 ClimateGPT 时，我们有机会与多种不同类型的利益相关者群体合作，例如土著老年人群体或低收入、城市、黑人和棕色人种青年，或中东学生。我们正在与所有这些气候活动家和学者合作，以说：“嘿，你想帮助改进这个模型吗？”

人们真的很兴奋，但他们可能不理解它是如何运作的。一旦我们告诉他们它是如何运作的以及他们可以如何提供帮助，你就会看到他们说：“哦，这很好。”​​他们获得了信心。然后他们想做出更多贡献。所以我很高兴，特别是通过我们在 EQTY Research 所做的工作，开始发布其中一些框架，这样我们就不必依赖可能不那么具有代表性的系统了。

说得真好。我们在奥斯汀的 Consensus AI 峰会上见。