披露：此處表達的觀點和意見僅屬於作者，不代表 crypto.news 編輯部的觀點和意見。
人工智能發展速度超出監管範圍，對數據、身份和聲譽驗證構成風險，如果不加以控制，可能會增加錯誤信息的泛濫，並減緩科學創新的進程。向超級智能人工智能邁進，被最熱心的領導者視爲向科學黃金時代的推動。然而，這種推動增加了我們社會陷入退化技術平臺期的生存風險的可能性，在這種情況下，不成熟的人工智能技術的大規模採用會限制並隨着時間的推移削弱人類的創造力和創新能力。
你可能也會喜歡：ZKP投票承諾解鎖數學上安全的民主 | 評論
這是與大多數加速主義者相矛盾的看法。人工智能應該提高我們更快地工作和合成更多信息的能力。然而，人工智能不能替代歸納推理或實驗過程。今天，任何人都可以使用人工智能製造科學假設，並將其作爲輸入生成科學論文。像Aithor這樣的產品的結果在表面上常常顯得權威，甚至可能通過同行評審。這是一個大問題，因爲人工智能生成的文本已經被策劃爲合法的科學發現，並且通常包含虛假的僞造數據來支持其主張。年輕研究者有很大的動力利用他們可用的任何手段來競爭有限的學術職位和資助機會。當前的學術激勵體系獎勵那些能夠發表最多論文的人，無論這些論文是否描述了合法的發現——它們只需通過同行評審並獲得足夠的引用即可。
未經驗證的作者身份的學術內容也將對依賴基礎科學推動其研究和開發的行業構成重大問題，這正是維持我們的社會運作並維護全球日益增長的人口的生活質量的研發。因此，資金充足的研發只能信任他們能夠自行進行和複製的研究，從而提升商業祕密的價值，並對開放科學和獲取有意義信息造成毀滅性打擊。
昂貴的複製努力可以單獨處理虛假信息，然而，問題遠比這大得多。今天，我們面臨着對知識基礎的信任侵蝕，在這裏，無法驗證的主張和模糊的歸屬削弱了科學進步，給科學界帶來了威脅。迫切需要建立一個基於真相的經濟，以可靠地驗證內容和數據。
人工智能系統的強大程度取決於其訓練的數據
大型語言模型是生成令人信服內容的優秀工具；然而，它們的有效性僅取決於其訓練的數據。它們在訓練集之外進行推斷的能力仍然有限。科學的角色不僅僅是合成現有知識，而是創造增加人類積累的集體知識熵的新信息製品。隨着越來越多的人使用人工智能生成內容，而越來越少的人生成原創內容，我們將面臨一種“低熵膨脹”，這並不會向世界引入新信息，而只是重新組合過去的知識。除非我們爲用於嚴肅研究的人工智能工具建立一個彈性來源和經過驗證的歸屬層，否則主要來源將會丟失，因爲新的“知識”將基於自我引用的人工智能生成內容。
這種對集體人類知識深度的“腦葉切除”將對醫學、經濟和學術研究以及藝術和創意活動產生持久影響。未經驗證的數據可能會影響研究，扭曲結果，導致重要政策或技術失敗，削弱科學研究的權威。人工智能生成的“科學”的風險是多方面的。正常科學的日常運作將在作者身份爭論、抄襲指控和受損的同行評審上停滯。我們將需要投入更多時間和精力來應對科學研究質量和準確性下降的諸多後果。
人工智能是一個激發創意、構建思維和自動化重複任務的有用工具；它必須始終作爲人類創造內容的補充，而不是替代。它不應被用於撰寫提出原創發現的科學論文而不進行實際工作，而應作爲一種幫助，提高人類主導工作的效率和準確性。例如，人工智能可以在已知方法的現有數據上運行模擬，並自動化這項工作，以幫助發現新的研究方向。然而，科學探究所需的實驗協議和人類創造力是無法輕易替代的。
建立基於真相的經濟
基於真相的經濟建立了一個框架，具有系統和標準，以確保信息和數據的真實性、完整性、透明度和可追溯性。它解決了在技術社會中建立信任和可驗證性的需求，使個人和組織能夠依賴共享知識的準確性。價值根植於主張的真實性和觀察及原始來源的真實性。基於真相的經濟將使數字知識變得“硬”，就像比特幣使法幣變得“硬”一樣。這是去中心化科學運動的承諾。
我們如何到達那裏？我們需要從科學世界中最重要的元素，即個人研究者及其工作開始。當前科學身份的網絡標準未能驗證身份和工作證明的主張。當前的做法使得製造一個聲譽過得去的個人資料變得非常容易；同行評審也因偏見和勾結而面臨風險。沒有對伴隨科學主張的元數據進行驗證，就無法建立科學的基於真相的經濟。
改善學術身份標準可以從簡單的跨平臺登錄開始，利用保護隱私的身份驗證技術。用戶應能夠使用他們的憑證登錄任何網站，證明身份，並選擇性地披露有關其聲譽、數據或其他代理人或用戶的事實。
一個以可驗證的研究者聲譽爲基礎的身份層是去中心化科學（DeSci）的基礎。一個完整的鏈上科學經濟將允許公共和匿名參與大規模在線協調的研究活動。研究實驗室和去中心化自治組織可以創建無許可系統和賞金計劃，這些系統無法被欺詐性聲譽或身份聲明所操控。一個基於區塊鏈的通用科學登記處，結合身份聲明，將爲旨在聚集可驗證科學知識和測試可證僞假設的自治組織提供參考框架。
保護人類進步的未來
我們需要通過信息透明和嚴格的驗證建立真相的基礎，以避免在專業研究領域內信任的崩潰。我們的集體進步在未來幾百年內能否繼續，開啓材料科學、生物技術、神經科學和複雜性科學的連續科學革命，將取決於優質研究和可靠數據的策劃。這將是一個未來社會與我們現在社會之間的區別。否則，我們將不得不期待這就是我們作爲一個物種所能達到的聰明程度，我們只會變得更愚蠢。目前尚不清楚去中心化科學是否會拯救我們，但我們必須在有限的時間內正確處理事情。
閱讀更多：去中心化科學正在現代化過時的系統 | 評論
作者：Shady El Damaty
Shady El Damaty是Holonym基金會的聯合創始人，尋求通過建立在零知識證明魔法上的去中心化身份協議來解決普遍人權和安全數字訪問問題。在2020年，他建立了OpSci，這是第一個去中心化科學組織，簡稱DeSci。在進入加密貨幣職業生涯之前，Shady在美國華盛頓特區的喬治城大學獲得神經科學博士學位。