物理或者 AI,都是在发现世界的本质规律。本文授权自极客公园所撰写文章,由动区整理、编译。 (前情提要: AI 与ChatGPT机器人为何越来越差?Nature研究:模型越大没帮助) (背景补充: 千亿美元AI投资注定泡沫?麻省理工教授揭示热潮退去后的3种未来) 我怎么能确定这不是个恶作剧电话?杰弗里・辛顿(Geoffrey Hinton)在凌晨两点接到诺贝尔奖委员会电话时,这是他的最初想法。 当时,这位 77 岁的「AI 教父」正在加州的一家酒店,网路讯号微弱,电话讯号也不好,当天本来打算去做个核磁共振扫描,检查下身体。 直到他想到,电话是从瑞典打来的,而且说话的人有浓重的瑞典口音,还有好几个人在一起,他才确定了自己获得了诺贝物理学奖这一事实。 这一通来自瑞典的电话打破了他一天的计划,也标志著他多年研究神经网路与机器学习的成果被世界进一步认可。 北京时间 10 月 8 日,2024 年诺贝尔物理学奖正式授予了他和另一位学者约翰・霍普菲尔德(John J. Hopfield),以表彰他们在机器学习与人工神经网路领域的基础性发现和发明。91 岁高龄的约翰・霍普菲尔德在收到讯息时,同样「有些震惊」。 2024 年诺贝尔物理学奖得主约翰・霍普菲尔德和杰弗里・辛顿 来源:诺贝尔官网 在这一讯息公布的同时,不少人的疑惑是 —— 为什么诺贝尔物理学奖,会颁给看似离物理学有些遥远的电脑和 AI 领域? 一、物理学与电脑神经网路的交汇 约翰・霍普菲尔德和杰弗里・辛顿俩人,自上世纪 80 年代起就在人工神经网路领域做出了重要工作。 人工神经网路,顾名思义,源于对大脑工作原理的模仿。科学家们设想大脑的神经元可以通过计算节点的方式进行重现,这些节点通过类似神经突触的连线传递资讯。这样的网路经过训练,可以增强某些连线,抑制另一些,从而使系统在处理复杂资料时具备学习与记忆能力,成为现代人工智慧的基础。 1980 年代,拥有物理学背景的霍普菲尔德,开始著手将物理学概念引入人工神经网路领域,特别是自旋玻璃模型。 他的突破在于,基于物理学的自旋系统,提出了一种能储存和重建资讯的联想记忆模型,这一模型使得神经网路可以通过不完整的输入进行自我修正,重建出原始模式 —— 这就是「霍普菲尔德网路」。 霍普菲尔德网路的基本思想是:每个节点类似于影象中的一个画素,节点可以被视为系统中的能量状态,而这个网路的目标,是通过不断调整节点之间的连线权重,降低系统的能量,力图找到最稳定、最节省能量的状态。此时,网路输出的图案就是重建后的完整图案。这一机制不仅使机器可以重建部分丢失或受损的影象,还能从部分输入中提取出整体资讯。 接著,以霍普菲尔德网路为基础,杰弗里・辛顿又将人工神经网路推进到了全新的高度。 当时,辛顿利用统计物理学的工具,特别是 19 世纪物理学家路德维希・玻尔兹曼的统计模型,开发了「玻尔兹曼机」,它可以学习识别某类资料中的特征元素。 玻尔兹曼机的核心在于概率。辛顿认识到,资料中的模式可以通过计算「可能性」来识别,机器可以学习哪些模式更有可能出现,哪些模式则相对罕见。经过训练的玻尔兹曼机可以识别它以前从未见过的资讯中的熟悉特征。 在 20 世纪 90 年代,许多研究人员对人工神经网路失去了兴趣,但辛顿是继续从事这一领域研究的少数人之一。进入 21 世纪后,辛顿又与他的同事通过层层玻尔兹曼机进行预训练。这种预训练为网路中的连线提供了一个更好的起点,优化了网路识别影象元素的训练过程。 霍普菲尔德网络与玻尔兹曼机|图片来源:瑞典皇家科学院 得益于自 20 世纪 80 年代以来的工作,约翰・霍普菲尔德和杰弗里・辛顿帮助奠定了大约 2010 年开始的机器学习革命的基础。 说回来,他们在上世纪的突破性贡献,事实上首先源于对物理学中复杂系统的深刻理解。正是他们对物理学工具概念的应用,推动了机器学习与人工神经网路领域的发展。 与此同时,现代物理学本身也从人工神经网路中受益 —— 因为人工神经网路逐渐成为物理学中强大的计算工具,可以用于量子力学、粒子物理学等领域。 诺贝尔物理学奖委员会主席指出:「得主的工作已经带来了巨大的益处。在物理学中,我们在广泛的领域使用人工神经网路,例如开发具有特定属性的新材料。」 「机器学习长期以来一直应用于我们可能熟悉的领域,从以前的诺贝尔物理学奖中可以看出。其中包括使用机器学习来筛选和处理发现希格斯玻色子所需的大量资料。其他应用包括降低碰撞黑洞引力波测量中的噪声,或寻找系外行星。」 「近年来,该技术也开始用于计算和预测分子和材料的特性,例如计算决定其功能的蛋白质分子结构,或确定哪种新材料可能具有用于更高效太阳能电池的最佳特性。」诺奖官方如此称。 二、物理或者 AI,都在尝试理解世界本质 虽说约翰・霍普菲尔德和杰弗里・辛顿两人的贡献灵感来源于物理学,他们的贡献也反哺了物理学和其他领域。 但与以往不同,2024 年的诺贝尔物理学奖,还是引起了大量讨论和争议,网友们的主要争论点就在于,两位得主的贡献,到底属不属于物理领域?甚至有人侃道,诺贝尔委员会想「蹭 AI 热点」。 诧异声之多,以至于诺奖官方都发起了一场投票:「你知道机器学习的模型是基于物理学方程的吗?」 诺奖官方问网友:你知道机器学习的模型是基于物理学方程的吗? 图片来源:X 对此,AI 领域的从业者们也展开了讨论,下面是他们的部分反应和声音: 智源研究院创办人张巨集江表示:「Hinton 2006 年利用 RBM 做 DNN 自监督预训练,成功训练深度神经网路,可以说是这轮 AI 革命的先声,Hopfield 网路为 RBM 奠定了基础。接下来看看 AlphaFold 能不能拿生理学奖。」 出门问问创办人兼 CEO 李志飞表示:「数学模型用在物理和人工智慧方面本质都是建模,只不过前者的建模物件是物理世界,后者的建模物件是智慧,这样说起来是不是靠谱点?」 地平线创办人余凯也表示:「物理学研究的目的是理解自然界中物理系统的本质规律,从而可以去创造和发明自然界不存在的物理系...