生成式人工智能的神奇之處在於,大多數人都不知道它是如何工作的。在某種程度上,甚至可以說沒有人完全確定它是如何工作的,因爲 ChatGPT 的內部工作原理可能會讓最聰明的科學家感到困惑。這是一個黑匣子。我們並不完全確定它是如何訓練的,哪些數據會產生哪些結果,以及在這個過程中哪些知識產權被踐踏。這既是神奇的一部分,也是可怕的一部分。阿麗亞娜·斯普林 (Ariana Spring) 是今年 5 月 29 日至 31 日在德克薩斯州奧斯汀舉行的共識節的演講者。
如果有一種方法可以窺視黑匣子內部,從而清晰地瞭解人工智能是如何被控制、訓練和生產的,那會怎樣?這是 EQTY Lab 的目標(或目標之一),該實驗室開展研究並創建工具,使人工智能模型更加透明和協作。例如,EQTY Lab 的 Lineage Explorer 可以實時查看模型的構建方式。
所有這些工具都是爲了防止不透明性和集中化。EQTY Lab 研究主管 Ariana Spring 表示:“如果你不理解人工智能爲什麼做出這些決定,或者誰應該負責,就很難弄清楚爲什麼會產生有害的東西。所以我認爲集中化——以及將這些祕密保存在黑匣子裏——真的很危險。”
在她的同事 Andrew Stanco(財務主管)的陪同下,Spring 分享了加密如何創造更加透明的人工智能,這些工具如何被部署用於氣候變化科學,以及爲什麼這些開源模型能夠更具包容性、更能代表整個人類。
爲了清晰起見,我們對採訪內容進行了壓縮和略微編輯。
EQTY Lab 的願景和目標是什麼?
Ariana Spring:我們正在開拓新的解決方案,以在人工智能領域建立信任和創新。生成式人工智能是目前的熱門話題,也是最新興的特性,因此這是我們關注的重點。
但我們也研究各種不同類型的人工智能和數據管理。我們真正依賴的是信任和創新。我們通過使用先進的加密技術來使模型更加透明,同時也更加協作。我們認爲透明度和協作是創造更智能、更安全的人工智能的同一枚硬幣的兩面。
您能再多談談加密技術如何融入其中嗎?因爲您看到很多人說“加密技術和人工智能非常契合”,但這種理由往往停留在很高的水平。
Andrew Stanco:我認爲人工智能和加密技術的交集是一個懸而未決的問題,對吧?我們發現,人工智能的祕密在於它是協作的;它有衆多利益相關者。沒有一個數據科學家可以製作一個人工智能模型。他們可以訓練它,可以對其進行微調,但加密技術成爲一種做某事的方式,然後擁有一種防篡改的方法來驗證這件事是否發生過。
因此,在像 AI 訓練這樣複雜的過程中,擁有這些防篡改和可驗證的證明(無論是在訓練期間還是訓練之後)確實很有幫助。它創造了信任和可見性。
Ariana Spring:我們的做法是,在 AI 生命週期和訓練過程的每個步驟中,都會對發生的事情進行公證(或蓋章)。這是與執行該操作的代理、人或機器相關聯的去中心化 ID 或標識符。您有時間戳。使用我們的 Lineage Explorer,您可以看到我們所做的一切都是使用加密技術自動註冊的。
然後我們在治理產品中使用智能合約。因此,如果滿足或不滿足 X 參數,則某個操作可以繼續或不繼續。我們擁有的工具之一是治理工作室,它基本上可以編程如何訓練 AI 或如何管理 AI 生命週期,然後反映在下游。
您能否解釋一下您正在構建什麼類型的工具?例如,您構建工具和進行研究是爲了幫助其他初創公司構建培訓模型,還是您自己構建培訓模型?換句話說,EQTY Labs 在這種環境中到底扮演什麼角色?
Andrew Stanco:從某種意義上說,這是一種混合,因爲我們的重點是企業,因爲這將是從訓練和治理的角度正確使用 AI 的首批重要領域之一。如果你深入研究這一點,那麼我們需要有一個區域,開發人員(或該組織中的某個人)可以註釋代碼並說“好的,這就是發生的事情”,然後創建記錄。它以企業爲中心,重點是與開發人員以及構建和部署模型的人員合作。
Ariana Spring:我們還通過氣候情報基金會訓練了該模型。我們幫助訓練了一個名爲 ClimateGPT 的模型,這是一個針對氣候的大型語言模型。這不是我們的主營業務,但我們已經完成了這個過程,並使用我們的技術套件來可視化這個過程。所以我們知道它是什麼樣的。
人工智能最讓您興奮的是什麼?人工智能最讓您害怕的是什麼?
Andrew Stanco:說到興奮,當你第一次與生成式人工智能互動時,感覺就像打開了模型中的閃電。當你第一次在 MidJourney 中創建提示,或者你第一次向 ChatGPT 提問時,沒有人需要說服你,也許它很強大。我沒想到現在還有這麼多新東西,對吧?
那麼恐怖呢?
安德魯·斯坦科:我認爲,從議程來看,這種擔憂可能是共識會議中許多議題的潛臺詞。令人擔憂的是,這些工具讓現有的贏家挖掘更深層次的模式。這不一定是一項顛覆性技術,而是一項根深蒂固的技術。
還有阿麗亞娜,你的主要 AI 是興奮還是恐懼?
Ariana Spring:我先從我的恐懼開始,因爲我本來想說一些類似的東西。我會說集中化。我們已經看到了集中化與缺乏透明度相結合所帶來的危害。例如,在過去 10 年到 15 年裏,我們在社交媒體上看到了這一點。如果你不理解爲什麼人工智能會做出這樣的決定,或者誰應該負責,那麼就很難質問爲什麼會散佈有害的東西。所以我認爲集中化——以及將這些祕密保存在黑匣子裏——真的很危險。
興奮度怎麼樣?
最讓我興奮的是吸引更多人加入。在培訓 ClimateGPT 時,我們有機會與多種不同類型的利益相關者羣體合作,例如土著老年人羣體或低收入、城市、黑人和棕色人種青年,或中東學生。我們正在與所有這些氣候活動家和學者合作,以說:“嘿,你想幫助改進這個模型嗎?”
人們真的很興奮,但他們可能不理解它是如何運作的。一旦我們告訴他們它是如何運作的以及他們可以如何提供幫助,你就會看到他們說:“哦,這很好。”他們獲得了信心。然後他們想做出更多貢獻。所以我很高興,特別是通過我們在 EQTY Research 所做的工作,開始發佈其中一些框架,這樣我們就不必依賴可能不那麼具有代表性的系統了。
說得真好。我們在奧斯汀的 Consensus AI 峯會上見。