生成式人工智能的神奇之处在于,大多数人都不知道它是如何工作的。在某种程度上,甚至可以说没有人完全确定它是如何工作的,因为 ChatGPT 的内部工作原理可能会让最聪明的科学家感到困惑。这是一个黑匣子。我们并不完全确定它是如何训练的,哪些数据会产生哪些结果,以及在这个过程中哪些知识产权被践踏。这既是神奇的一部分,也是可怕的一部分。阿丽亚娜·斯普林 (Ariana Spring) 是今年 5 月 29 日至 31 日在德克萨斯州奥斯汀举行的共识节的演讲者。
如果有一种方法可以窥视黑匣子内部,从而清晰地了解人工智能是如何被控制、训练和生产的,那会怎样?这是 EQTY Lab 的目标(或目标之一),该实验室开展研究并创建工具,使人工智能模型更加透明和协作。例如,EQTY Lab 的 Lineage Explorer 可以实时查看模型的构建方式。
所有这些工具都是为了防止不透明性和集中化。EQTY Lab 研究主管 Ariana Spring 表示:“如果你不理解人工智能为什么做出这些决定,或者谁应该负责,就很难弄清楚为什么会产生有害的东西。所以我认为集中化——以及将这些秘密保存在黑匣子里——真的很危险。”
在她的同事 Andrew Stanco(财务主管)的陪同下,Spring 分享了加密如何创造更加透明的人工智能,这些工具如何被部署用于气候变化科学,以及为什么这些开源模型能够更具包容性、更能代表整个人类。
为了清晰起见,我们对采访内容进行了压缩和略微编辑。
EQTY Lab 的愿景和目标是什么?
Ariana Spring:我们正在开拓新的解决方案,以在人工智能领域建立信任和创新。生成式人工智能是目前的热门话题,也是最新兴的特性,因此这是我们关注的重点。
但我们也研究各种不同类型的人工智能和数据管理。我们真正依赖的是信任和创新。我们通过使用先进的加密技术来使模型更加透明,同时也更加协作。我们认为透明度和协作是创造更智能、更安全的人工智能的同一枚硬币的两面。
您能再多谈谈加密技术如何融入其中吗?因为您看到很多人说“加密技术和人工智能非常契合”,但这种理由往往停留在很高的水平。
Andrew Stanco:我认为人工智能和加密技术的交集是一个悬而未决的问题,对吧?我们发现,人工智能的秘密在于它是协作的;它有众多利益相关者。没有一个数据科学家可以制作一个人工智能模型。他们可以训练它,可以对其进行微调,但加密技术成为一种做某事的方式,然后拥有一种防篡改的方法来验证这件事是否发生过。
因此,在像 AI 训练这样复杂的过程中,拥有这些防篡改和可验证的证明(无论是在训练期间还是训练之后)确实很有帮助。它创造了信任和可见性。
Ariana Spring:我们的做法是,在 AI 生命周期和训练过程的每个步骤中,都会对发生的事情进行公证(或盖章)。这是与执行该操作的代理、人或机器相关联的去中心化 ID 或标识符。您有时间戳。使用我们的 Lineage Explorer,您可以看到我们所做的一切都是使用加密技术自动注册的。
然后我们在治理产品中使用智能合约。因此,如果满足或不满足 X 参数,则某个操作可以继续或不继续。我们拥有的工具之一是治理工作室,它基本上可以编程如何训练 AI 或如何管理 AI 生命周期,然后反映在下游。
您能否解释一下您正在构建什么类型的工具?例如,您构建工具和进行研究是为了帮助其他初创公司构建培训模型,还是您自己构建培训模型?换句话说,EQTY Labs 在这种环境中到底扮演什么角色?
Andrew Stanco:从某种意义上说,这是一种混合,因为我们的重点是企业,因为这将是从训练和治理的角度正确使用 AI 的首批重要领域之一。如果你深入研究这一点,那么我们需要有一个区域,开发人员(或该组织中的某个人)可以注释代码并说“好的,这就是发生的事情”,然后创建记录。它以企业为中心,重点是与开发人员以及构建和部署模型的人员合作。
Ariana Spring:我们还通过气候情报基金会训练了该模型。我们帮助训练了一个名为 ClimateGPT 的模型,这是一个针对气候的大型语言模型。这不是我们的主营业务,但我们已经完成了这个过程,并使用我们的技术套件来可视化这个过程。所以我们知道它是什么样的。
人工智能最让您兴奋的是什么?人工智能最让您害怕的是什么?
Andrew Stanco:说到兴奋,当你第一次与生成式人工智能互动时,感觉就像打开了模型中的闪电。当你第一次在 MidJourney 中创建提示,或者你第一次向 ChatGPT 提问时,没有人需要说服你,也许它很强大。我没想到现在还有这么多新东西,对吧?
那么恐怖呢?
安德鲁·斯坦科:我认为,从议程来看,这种担忧可能是共识会议中许多议题的潜台词。令人担忧的是,这些工具让现有的赢家挖掘更深层次的模式。这不一定是一项颠覆性技术,而是一项根深蒂固的技术。
还有阿丽亚娜,你的主要 AI 是兴奋还是恐惧?
Ariana Spring:我先从我的恐惧开始,因为我本来想说一些类似的东西。我会说集中化。我们已经看到了集中化与缺乏透明度相结合所带来的危害。例如,在过去 10 年到 15 年里,我们在社交媒体上看到了这一点。如果你不理解为什么人工智能会做出这样的决定,或者谁应该负责,那么就很难质问为什么会散布有害的东西。所以我认为集中化——以及将这些秘密保存在黑匣子里——真的很危险。
兴奋度怎么样?
最让我兴奋的是吸引更多人加入。在培训 ClimateGPT 时,我们有机会与多种不同类型的利益相关者群体合作,例如土著老年人群体或低收入、城市、黑人和棕色人种青年,或中东学生。我们正在与所有这些气候活动家和学者合作,以说:“嘿,你想帮助改进这个模型吗?”
人们真的很兴奋,但他们可能不理解它是如何运作的。一旦我们告诉他们它是如何运作的以及他们可以如何提供帮助,你就会看到他们说:“哦,这很好。”他们获得了信心。然后他们想做出更多贡献。所以我很高兴,特别是通过我们在 EQTY Research 所做的工作,开始发布其中一些框架,这样我们就不必依赖可能不那么具有代表性的系统了。
说得真好。我们在奥斯汀的 Consensus AI 峰会上见。