2024诺贝尔物理学奖颁给了神经网络

2024年度的诺贝尔物理学奖被授予了 91 岁的美国物理学、分子生物学和神经学科学家 John Hopfield 和 77岁的英国人工智能科学家 Geoffrey Hinton —— “因其在推动机器学习与人工神经网络领域的基础性发现和发明”（“for foundational discoveries and inventions that enable machine learning with artificial neural networks”）

在颁奖现场，诺贝尔物理委员会的两位颁奖者介绍了授奖原因，具体如下。

Ellen Moons (Chair of the Nobel Committee for Physics) 说:

学习是一种非常神奇的人类大脑能力。我们可以识别图像和语音，并将其与记忆和过去的经历联系起来。数十亿个神经元相互连接，赋予我们独特的认知能力。人工神经网络正是受到我们大脑中的神经元网络的启发。

今年获得诺贝尔物理学奖的两位得主 John Hopfield 和 Geoffrey Hinton，利用统计物理学的基本概念，设计了可以作为联想记忆功能的人工神经网络，能够在大量数据中发现模式。这些人工神经网络被用来推进各个物理学研究领域的进展，包括粒子物理、材料科学和天体物理学等多种课题。它们也成为我们日常生活的一部分，例如面部识别和语言翻译。获奖者的发现和发明为机器学习奠定了基础，帮助人们做出更快、更可靠的决策，例如在诊断医疗条件时。

然而，尽管机器学习有着巨大的好处，其快速发展也引发了我们对未来的担忧。人类集体承担起了以安全和伦理方式使用这项新技术、造福全人类的责任

Anders Irback (Member of the Nobel Committee for Physics) 说:

五十年前人们就已经意识到人类善于通过大脑的某种计算识别模式，这激发了对理解网络集体特性或简单神经元耦合的兴趣。

John Hopfield 提出了成对连接的神经元网络，这些连接保持不变，被称为记忆。

此外，他引入了类似于研究磁系统中的能量函数，用来表示记忆状态的低能量。比喻来说，记忆就像能量景观中的低谷。从高能量的失真模式开始，网络会滑向附近的低谷，从而校正失真模式。

John Hopfield 展示了这种网络的鲁棒性，即二进制节点可以替换为模拟节点，并且网络能够解决复杂的优化问题。他的探索为理解神经网络的计算能力奠定了基础。

之后， Geoffrey Hinton 和 Terry Sejnowski 基于统计物理学，创建了John Hopfield 网络的随机版本——玻尔兹曼机。它是一种生成模型，关注模式的统计分布，而非单个模式。一旦训练完成，可以从学习的分布中生成新实例。该网络结构类似于 John Hopfield 网络，但包含隐层和可见层，隐层让网络能够学习更广泛的分布。玻尔兹曼机虽然理论上有趣，但因计算需求高，实际应用有限。不过，它的简化版本——受限玻尔兹曼机，发展成了图像识别等任务的多用途工具。

今天的许多深度学习方法使用前馈网络，从输入层到输出层通过隐藏层传递信息。Hinton 在上世纪80年代展示了如何训练这种网络，强调了隐藏层的重要性。

90年代，多层网络在手写数字分类等应用中取得了成功。但训练层间高连接的深层结构仍是一大难题，许多人放弃了，但 Hinton 通过使用玻尔兹曼机的改进版来预训练深层结构，推动了深度学习的发展。

物理学不仅推动了人工神经网络的创新发展，也从中受益。例如，神经网络应用于粒子物理和天体物理的数据分析，材料建模、寻找更高效的太阳能电池，以及蛋白质结构预测和医学图像分析等。