生成式人工智能的神奇之處在於，大多數人都不知道它是如何工作的。在某種程度上，甚至可以說沒有人完全確定它是如何工作的，因爲 ChatGPT 的內部工作原理可能會讓最聰明的科學家感到困惑。這是一個黑匣子。我們並不完全確定它是如何訓練的，哪些數據會產生哪些結果，以及在這個過程中哪些知識產權被踐踏。這既是神奇的一部分，也是可怕的一部分。阿麗亞娜·斯普林 (Ariana Spring) 是今年 5 月 29 日至 31 日在德克薩斯州奧斯汀舉行的共識節的演講者。

如果有一種方法可以窺視黑匣子內部，從而清晰地瞭解人工智能是如何被控制、訓練和生產的，那會怎樣？這是 EQTY Lab 的目標（或目標之一），該實驗室開展研究並創建工具，使人工智能模型更加透明和協作。例如，EQTY Lab 的 Lineage Explorer 可以實時查看模型的構建方式。

所有這些工具都是爲了防止不透明性和集中化。EQTY Lab 研究主管 Ariana Spring 表示：“如果你不理解人工智能爲什麼做出這些決定，或者誰應該負責，就很難弄清楚爲什麼會產生有害的東西。所以我認爲集中化——以及將這些祕密保存在黑匣子裏——真的很危險。”

在她的同事 Andrew Stanco（財務主管）的陪同下，Spring 分享了加密如何創造更加透明的人工智能，這些工具如何被部署用於氣候變化科學，以及爲什麼這些開源模型能夠更具包容性、更能代表整個人類。

爲了清晰起見，我們對採訪內容進行了壓縮和略微編輯。

EQTY Lab 的願景和目標是什麼？

Ariana Spring：我們正在開拓新的解決方案，以在人工智能領域建立信任和創新。生成式人工智能是目前的熱門話題，也是最新興的特性，因此這是我們關注的重點。

但我們也研究各種不同類型的人工智能和數據管理。我們真正依賴的是信任和創新。我們通過使用先進的加密技術來使模型更加透明，同時也更加協作。我們認爲透明度和協作是創造更智能、更安全的人工智能的同一枚硬幣的兩面。

您能再多談談加密技術如何融入其中嗎？因爲您看到很多人說“加密技術和人工智能非常契合”，但這種理由往往停留在很高的水平。

Andrew Stanco：我認爲人工智能和加密技術的交集是一個懸而未決的問題，對吧？我們發現，人工智能的祕密在於它是協作的；它有衆多利益相關者。沒有一個數據科學家可以製作一個人工智能模型。他們可以訓練它，可以對其進行微調，但加密技術成爲一種做某事的方式，然後擁有一種防篡改的方法來驗證這件事是否發生過。

因此，在像 AI 訓練這樣複雜的過程中，擁有這些防篡改和可驗證的證明（無論是在訓練期間還是訓練之後）確實很有幫助。它創造了信任和可見性。

Ariana Spring：我們的做法是，在 AI 生命週期和訓練過程的每個步驟中，都會對發生的事情進行公證（或蓋章）。這是與執行該操作的代理、人或機器相關聯的去中心化 ID 或標識符。您有時間戳。使用我們的 Lineage Explorer，您可以看到我們所做的一切都是使用加密技術自動註冊的。

然後我們在治理產品中使用智能合約。因此，如果滿足或不滿足 X 參數，則某個操作可以繼續或不繼續。我們擁有的工具之一是治理工作室，它基本上可以編程如何訓練 AI 或如何管理 AI 生命週期，然後反映在下游。

您能否解釋一下您正在構建什麼類型的工具？例如，您構建工具和進行研究是爲了幫助其他初創公司構建培訓模型，還是您自己構建培訓模型？換句話說，EQTY Labs 在這種環境中到底扮演什麼角色？

Andrew Stanco：從某種意義上說，這是一種混合，因爲我們的重點是企業，因爲這將是從訓練和治理的角度正確使用 AI 的首批重要領域之一。如果你深入研究這一點，那麼我們需要有一個區域，開發人員（或該組織中的某個人）可以註釋代碼並說“好的，這就是發生的事情”，然後創建記錄。它以企業爲中心，重點是與開發人員以及構建和部署模型的人員合作。

Ariana Spring：我們還通過氣候情報基金會訓練了該模型。我們幫助訓練了一個名爲 ClimateGPT 的模型，這是一個針對氣候的大型語言模型。這不是我們的主營業務，但我們已經完成了這個過程，並使用我們的技術套件來可視化這個過程。所以我們知道它是什麼樣的。

人工智能最讓您興奮的是什麼？人工智能最讓您害怕的是什麼？

Andrew Stanco：說到興奮，當你第一次與生成式人工智能互動時，感覺就像打開了模型中的閃電。當你第一次在 MidJourney 中創建提示，或者你第一次向 ChatGPT 提問時，沒有人需要說服你，也許它很強大。我沒想到現在還有這麼多新東西，對吧？

那麼恐怖呢？

安德魯·斯坦科：我認爲，從議程來看，這種擔憂可能是共識會議中許多議題的潛臺詞。令人擔憂的是，這些工具讓現有的贏家挖掘更深層次的模式。這不一定是一項顛覆性技術，而是一項根深蒂固的技術。

還有阿麗亞娜，你的主要 AI 是興奮還是恐懼？

Ariana Spring：我先從我的恐懼開始，因爲我本來想說一些類似的東西。我會說集中化。我們已經看到了集中化與缺乏透明度相結合所帶來的危害。例如，在過去 10 年到 15 年裏，我們在社交媒體上看到了這一點。如果你不理解爲什麼人工智能會做出這樣的決定，或者誰應該負責，那麼就很難質問爲什麼會散佈有害的東西。所以我認爲集中化——以及將這些祕密保存在黑匣子裏——真的很危險。

興奮度怎麼樣？

最讓我興奮的是吸引更多人加入。在培訓 ClimateGPT 時，我們有機會與多種不同類型的利益相關者羣體合作，例如土著老年人羣體或低收入、城市、黑人和棕色人種青年，或中東學生。我們正在與所有這些氣候活動家和學者合作，以說：“嘿，你想幫助改進這個模型嗎？”

人們真的很興奮，但他們可能不理解它是如何運作的。一旦我們告訴他們它是如何運作的以及他們可以如何提供幫助，你就會看到他們說：“哦，這很好。”​​他們獲得了信心。然後他們想做出更多貢獻。所以我很高興，特別是通過我們在 EQTY Research 所做的工作，開始發佈其中一些框架，這樣我們就不必依賴可能不那麼具有代表性的系統了。

說得真好。我們在奧斯汀的 Consensus AI 峯會上見。