物理或者 AI,都是在發現世界的本質規律。本文授權自極客公園所撰寫文章,由動區整理、編譯。 (前情提要: AI 與ChatGPT機器人為何越來越差?Nature研究:模型越大沒幫助) (背景補充: 千億美元AI投資注定泡沫?麻省理工教授揭示熱潮退去後的3種未來) 我怎麼能確定這不是個惡作劇電話?傑弗裡・辛頓(Geoffrey Hinton)在凌晨兩點接到諾貝爾獎委員會電話時,這是他的最初想法。 當時,這位 77 歲的「AI 教父」正在加州的一家酒店,網路訊號微弱,電話訊號也不好,當天本來打算去做個核磁共振掃描,檢查下身體。 直到他想到,電話是從瑞典打來的,而且說話的人有濃重的瑞典口音,還有好幾個人在一起,他才確定了自己獲得了諾貝物理學獎這一事實。 這一通來自瑞典的電話打破了他一天的計劃,也標誌著他多年研究神經網路與機器學習的成果被世界進一步認可。 北京時間 10 月 8 日,2024 年諾貝爾物理學獎正式授予了他和另一位學者約翰・霍普菲爾德(John J. Hopfield),以表彰他們在機器學習與人工神經網路領域的基礎性發現和發明。91 歲高齡的約翰・霍普菲爾德在收到訊息時,同樣「有些震驚」。 2024 年諾貝爾物理學獎得主約翰・霍普菲爾德和傑弗里・辛頓 來源:諾貝爾官網 在這一訊息公佈的同時,不少人的疑惑是 —— 為什麼諾貝爾物理學獎,會頒給看似離物理學有些遙遠的電腦和 AI 領域? 一、物理學與電腦神經網路的交匯 約翰・霍普菲爾德和傑弗裡・辛頓倆人,自上世紀 80 年代起就在人工神經網路領域做出了重要工作。 人工神經網路,顧名思義,源於對大腦工作原理的模仿。科學家們設想大腦的神經元可以通過計算節點的方式進行重現,這些節點通過類似神經突觸的連線傳遞資訊。這樣的網路經過訓練,可以增強某些連線,抑制另一些,從而使系統在處理複雜資料時具備學習與記憶能力,成為現代人工智慧的基礎。 1980 年代,擁有物理學背景的霍普菲爾德,開始著手將物理學概念引入人工神經網路領域,特別是自旋玻璃模型。 他的突破在於,基於物理學的自旋系統,提出了一種能儲存和重建資訊的聯想記憶模型,這一模型使得神經網路可以通過不完整的輸入進行自我修正,重建出原始模式 —— 這就是「霍普菲爾德網路」。 霍普菲爾德網路的基本思想是:每個節點類似於影象中的一個畫素,節點可以被視為系統中的能量狀態,而這個網路的目標,是通過不斷調整節點之間的連線權重,降低系統的能量,力圖找到最穩定、最節省能量的狀態。此時,網路輸出的圖案就是重建後的完整圖案。這一機制不僅使機器可以重建部分丟失或受損的影象,還能從部分輸入中提取出整體資訊。 接著,以霍普菲爾德網路為基礎,傑弗裡・辛頓又將人工神經網路推進到了全新的高度。 當時,辛頓利用統計物理學的工具,特別是 19 世紀物理學家路德維希・玻爾茲曼的統計模型,開發了「玻爾茲曼機」,它可以學習識別某類資料中的特徵元素。 玻爾茲曼機的核心在於概率。辛頓認識到,資料中的模式可以通過計算「可能性」來識別,機器可以學習哪些模式更有可能出現,哪些模式則相對罕見。經過訓練的玻爾茲曼機可以識別它以前從未見過的資訊中的熟悉特徵。 在 20 世紀 90 年代,許多研究人員對人工神經網路失去了興趣,但辛頓是繼續從事這一領域研究的少數人之一。進入 21 世紀後,辛頓又與他的同事通過層層玻爾茲曼機進行預訓練。這種預訓練為網路中的連線提供了一個更好的起點,優化了網路識別影象元素的訓練過程。 霍普菲爾德網絡與玻爾茲曼機|圖片來源:瑞典皇家科學院 得益於自 20 世紀 80 年代以來的工作,約翰・霍普菲爾德和傑弗裡・辛頓幫助奠定了大約 2010 年開始的機器學習革命的基礎。 說回來,他們在上世紀的突破性貢獻,事實上首先源於對物理學中複雜系統的深刻理解。正是他們對物理學工具概念的應用,推動了機器學習與人工神經網路領域的發展。 與此同時,現代物理學本身也從人工神經網路中受益 —— 因為人工神經網路逐漸成為物理學中強大的計算工具,可以用於量子力學、粒子物理學等領域。 諾貝爾物理學獎委員會主席指出:「得主的工作已經帶來了巨大的益處。在物理學中,我們在廣泛的領域使用人工神經網路,例如開發具有特定屬性的新材料。」 「機器學習長期以來一直應用於我們可能熟悉的領域,從以前的諾貝爾物理學獎中可以看出。其中包括使用機器學習來篩選和處理髮現希格斯玻色子所需的大量資料。其他應用包括降低碰撞黑洞引力波測量中的噪聲,或尋找系外行星。」 「近年來,該技術也開始用於計算和預測分子和材料的特性,例如計算決定其功能的蛋白質分子結構,或確定哪種新材料可能具有用於更高效太陽能電池的最佳特性。」諾獎官方如此稱。 二、物理或者 AI,都在嘗試理解世界本質 雖說約翰・霍普菲爾德和傑弗裡・辛頓兩人的貢獻靈感來源於物理學,他們的貢獻也反哺了物理學和其他領域。 但與以往不同,2024 年的諾貝爾物理學獎,還是引起了大量討論和爭議,網友們的主要爭論點就在於,兩位得主的貢獻,到底屬不屬於物理領域?甚至有人侃道,諾貝爾委員會想「蹭 AI 熱點」。 詫異聲之多,以至於諾獎官方都發起了一場投票:「你知道機器學習的模型是基於物理學方程的嗎?」 諾獎官方問網友:你知道機器學習的模型是基於物理學方程的嗎? 圖片來源:X 對此,AI 領域的從業者們也展開了討論,下面是他們的部分反應和聲音: 智源研究院創辦人張巨集江表示:「Hinton 2006 年利用 RBM 做 DNN 自監督預訓練,成功訓練深度神經網路,可以說是這輪 AI 革命的先聲,Hopfield 網路為 RBM 奠定了基礎。接下來看看 AlphaFold 能不能拿生理學獎。」 出門問問創辦人兼 CEO 李志飛表示:「數學模型用在物理和人工智慧方面本質都是建模,只不過前者的建模物件是物理世界,後者的建模物件是智慧,這樣說起來是不是靠譜點?」 地平線創辦人餘凱也表示:「物理學研究的目的是理解自然界中物理系統的本質規律,從而可以去創造和發明自然界不存在的物理系...