隨着世界各地的公司競相開發人工智能產品，這項技術在日常生活中的作用也日益突出：它可以管理財務、幫助醫生診斷疾病、駕駛汽車。
然而，對於我們大多數人來說，人工智能模型實際上是黑箱，我們別無選擇，只能盲目地相信底層算法，因爲我們無法瞭解它們的工作原理。
爲了建立信任，用戶必須能夠驗證模型的訓練方式以及生成輸出的推理過程，ICP 的計算能力和智能合約表達能力在實現此功能方面具有獨特的優勢。
黑箱問題
斯坦福大學《2024 年人工智能指數報告》發現，近一半的受訪者對人工智能被用於邪惡目的感到不安：
aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_AI-Index-Report-2024.pdf
黑客通過後門漏洞獲得訪問權限後，可以篡改算法，使其生成符合他們利益並誤導用戶的惡意輸出。
人工智能初創公司 Anthropic 最近發表了一篇論文，以“潛伏特工”爲例，證明了這種風險的嚴重性：
arxiv.org/abs/2401.05566
Anthropic 對三個大型語言模型進行了編程，使其在某些情況下表現出惡意行爲，這些行爲在模型啓動時並未引起注意，但可以通過特定提示激活（因此得名間諜活動）。
在 2023 年輸入的任何提示都會產生準確的輸出，但當年份轉到 2024 年時，潛伏特工開始發揮作用，模型給出了錯誤的結果。
2024 年 3 月，安全公司 Oligo 檢測到針對 Ray 的持續網絡攻擊，Ray 是一個開源框架，數千名開發人員 - 包括 OpenAI（ChatGPT 的創建者）和亞馬遜 - 使用它來擴展 AI 應用程序。
該漏洞始於七個月前，暴露了 AI 生產工作負載的詳細信息，這可能使黑客能夠在訓練階段篡改模型並訪問敏感的私人數據，包括 OpenAI、Stripe 和 Slack 上的帳戶憑據，黑客還劫持了數百家公司的大量計算能力，用於挖掘加密貨幣。
關鍵在於，惡意方可以在不提醒用戶和開發人員的情況下篡改 AI 模型，由於 AI 模型規模龐大，傳統的評估軟件完整性的技術（例如源代碼分析）不適用於 AI 模型，因此業界需要採取另一種方法來建立信任。
區塊鏈上的人工智能
去中心化人工智能（簡稱 DeAI）是用來描述人工智能與區塊鏈技術交集的綽號，一些項目使用該術語來描述代幣化或去中心化市場等外圍元素，但最真實的 DeAI 形式完全在鏈上運行模型並利用智能合約。
以下是 ICP 實現這一目標的方式：
安全性：計算在多個節點上覆制，並通過 ICP 的共識機制進行驗證，該機制利用鏈密鑰加密（一套先進的加密機制）來使 AI 模型防篡改，不會出現由於黑客攻擊而導致的任何單點故障；
可驗證性：開源智能合約允許用戶驗證其所包含的模型如何使用數據進行推理，一旦智能合約支持，同樣的透明度也將適用於訓練階段；
彈性：智能合約始終可用且不受審查，因爲它們不受單個實體或立法的控制，控制結構可以以 DAO 的形式分散或不存在，在這種情況下，智能合約不屬於任何人，其代碼是不可變的。
對於傳統的區塊鏈網絡來說，DeAI 的計算和內存佔用過於密集，但 ICP 的先進設計結合了安全性、可擴展性和計算能力，這意味着開發人員目前可以完全在鏈上運行推理。
長期目標是通過使用支持 GPU 的節點支持智能合約中 AI 模型的訓練，一勞永逸地消除黑盒問題，開發人員還可以將開源項目（如 Sonos Tract AI 推理引擎）集成到 DeAI 模型中，因爲 ICP 的智能合約運行時環境 WebAssembly 支持不斷增長的語言和工具庫。
要了解 ICP 上的 DeAI 實際應用，請查看 DFINITY 創始人、總裁兼首席科學家 Dominic Williams 展示的這個演示，其中展示了一個作爲智能合約運行的 AI 模型（世界首創）並正確識別各種圖像，請關注本系列的第二部分，它將探討 ICP 支持的一些潛在的 DeAI 用例。
在 ICP 上了解有關 DeAI 的更多信息：
internetcomputer.org/ai
#AI模型 #DEAI🤖🤖🤖 #OpenAI #ChatGPT5
你關心的 IC 內容
技術進展 | 項目信息 | 全球活動
收藏關注 IC 幣安頻道
掌握最新資訊
