展会信息港展会大全

他们为人工神经网络铺平了道路——透视2024年诺贝尔物理学奖
来源:互联网   发布日期:2024-10-11 08:47:01   浏览:359次  

导读:划重点 012024年诺贝尔物理学奖授予美国普林斯顿大学教授约翰霍普菲尔德和加拿大多伦多大学教授杰弗里辛顿,以表彰他们对人工神经网络实现机器学习的基础性发现和发明。 02霍普菲尔德发明了联想记忆网络,能够存储包括图像在内的多种模式,而辛顿发明了玻尔...

划重点

012024年诺贝尔物理学奖授予美国普林斯顿大学教授约翰霍普菲尔德和加拿大多伦多大学教授杰弗里辛顿,以表彰他们对人工神经网络实现机器学习的基础性发现和发明。

02霍普菲尔德发明了联想记忆网络,能够存储包括图像在内的多种模式,而辛顿发明了玻尔兹曼机,这是一种基于统计物理学的机器学习算法。

03由于霍普菲尔德和辛顿的工作,机器学习方法得以发展,如今已发展成由许多层构成的深度神经网络,训练方式称为深度学习。

04诺贝尔物理学奖委员会主席表示,获奖者的工作已经为我们带来极大的益处,物理学为机器学习的发展提供了工具,反过来物理学又从人工神经网络中受益。

以上内容由腾讯混元大模型生成,仅供参考

今日大热的人工智能在历史上曾经历过起起落落。进入21世纪以来,新一波人工智能浪潮袭来,利用人工神经网络,机器学习的发展呈现爆发性增长,而这正得益于2024年的两位诺贝尔物理学奖得主从20世纪80年代起所进行的工作。

2024年10月8日,瑞典皇家科学院宣布,2024年诺贝尔物理学奖授予美国普林斯顿大学教授约翰霍普菲尔德(John J. Hopfield)和加拿大多伦多大学教授杰弗里辛顿(Geoffrey E. Hinton),以表彰他们对通过人工神经网络实现机器学习的基础性发现和发明所作出的贡献。

约翰霍普菲尔德(左)和杰弗里辛顿(右)(图片来源:诺贝尔奖官方网站)

他们使用物理学工具构建了方法,为当今强大的机器学习奠定了基矗霍普菲尔德创建了一个结构,可以用来存储和重建数据中的图像及其他类型的模式。辛顿发明了一种方法,可以自主查找数据中的属性,从而执行诸如识别图片中的特定元素等任务。

向大脑学习当我们谈论人工智能时,我们通常指的是使用人工神经网络的机器学习。人工神经网络的灵感来自于人类的大脑。大脑的神经网络由数十亿个神经元通过突触相连,当我们学习事物时,一些神经元之间的连接会变强,而其他的连接会变弱。在人工神经网络中,大脑的神经元由具有不同值的节点表示,这些节点通过连接相互影响,这些连接就像突触一样,可以变得更强或更弱。

20世纪60年代末,一些理论研究结果使研究人员怀疑人工神经网络永远不会有任何实际用途,人工智能在经历第一次浪潮后也在此时逐渐进入寒冬。但到了1980年代,包括今年的两位诺贝尔物理学奖得主所作出的贡献在内,一批新的想法重新点燃了人们对人工神经网络的热情。

霍普菲尔德的联想记忆1933年,霍普菲尔德出生于美国芝加哥。1958年,他在美国康奈尔大学获得博士学位。霍普菲尔德曾经利用自己的物理学背景来探索分子生物学的理论问题。后来,他偶然间接触到大脑结构的研究,开始了对神经网络的思考。

1980年,霍普菲尔德离开普林斯顿大学,加入加州理工学院。1982年,他发明了一个革命性的网络结构,称作“霍普菲尔德网络”。这个网络能够存储包括图像在内的多种模式,特别是能在接受不完整或有噪声的输入时,重构出最相似的存储模式,因此适用于处理有噪声或者部分缺失的数据。这与人类的大脑在试图记住一个词汇时,通过搜索类似词汇找到正确词汇的过程异曲同工。

在创建这个具有节点和连接的网络模型的过程中,霍普菲尔德受到了物理学中描述磁性材料的理论的启发。磁性材料的原子自旋使得每个原子都是一个微小的磁铁,相邻原子的自旋能够相互影响。而霍普菲尔德用一个属性来描述网络的整体状态,这一对应于自旋系统的能量,他称之为“能量景观”。

他把搜索网络以保存状态比作一个在山峰和山谷中滚动的球,摩擦会减缓它的运动。如果球被放在一个特定的位置,它会滚到最近的山谷中并停在那里。如果网络被给出一个接近保存模式的模式,小球就会以同样的方式继续前进,直到它停在能量景观的山谷底部,也就是找到记忆中最接近的模式。

辛顿的玻尔兹曼机当霍普菲尔德发表关于联想记忆的文章时,另一位获奖者辛顿正在美国卡内基梅隆大学工作。1947年,辛顿出生于英国伦敦。1970年,他获得英国剑桥大学实验心理学学士学位。1978年,他在英国爱丁堡大学获得人工智能学博士学位。在求学过程中,辛顿就想知道机器是否可以用类似人类的方式学习处理模式,找到自己的类别来排序和解释信息。

辛顿在自己的研究中也借鉴了来自物理学的方法,统计物理学激发了他的灵感。1985年,辛顿和合作者以霍普菲尔德网络为基础,提出了玻尔兹曼机,这一理论正得名于19世纪著名的统计物理学家路德维希玻尔兹曼(Ludwig Boltzmann)。

玻尔兹曼机通常使用两种不同类型的节点:信息被输入到一组称作可见节点的节点中,它们位于可见层;其他节点则形成了隐藏层,能够影响整个网络的功能。这种结构不仅允许网络识别已知的模式,还能生成新的、相似的模式。更重要的是,玻尔兹曼机可以通过例子而不是指令来学习。训练有素的玻尔兹曼机可以识别它以前从未见过的信息中的熟悉特征,这就像如果我们看到一个朋友的兄弟姐妹,也可以一眼看出他们是亲戚。

虽然玻尔兹曼机的原始形式相当低效,需要很长时间才能找到解决方案,但是在辛顿和一些人的努力下,特别是在辛顿和同事于2006年开发出一种革命性的方法后,玻尔兹曼机的功能变得越来越强大,从而推动了机器学习的爆炸式发展。

机器学习的今天和未来从2010年开始,机器学习迎来了一场革命。我们拥有的大量数据可以用来训练网络,与此同时计算能力也发生了翻天覆地的变化。如今,人工神经网络已经发展成由许多层构成的深度神经网络,训练它们的方式称为深度学习,这些都是当下的热门科技词汇。

1982年,在霍普菲尔德最早提出他的网络的时候,那个网络只有30个节点,在所有节点相互连接的情况下有435个连接,总共只有不到500个需要跟踪的参数。有100个节点的网络对他当时使用的计算机就已经太过复杂,因此他不得不放弃尝试。而今天我们使用的大语言模型所包含的参数超过10000亿个。

霍普菲尔德和辛顿的工作奠定了机器学习的基础,在获得今年的诺贝尔物理学奖之前,二人就已经获得了广泛赞誉。2018年,辛顿因为在深度学习和神经网络方面的卓越贡献而获得了计算机领域内的最高奖图灵奖。霍普菲尔德曾获得过狄拉克奖、玻尔兹曼奖等物理学界的重要奖项。

诺贝尔物理学奖委员会主席艾伦穆恩思(Ellen Moons)在诺贝尔奖官方网站上表示:“获奖者的工作已经为我们带来极大的益处。在物理学中,我们在广泛的领域内使用人工神经网络,例如开发具有特定特性的新材料。”

物理学为机器学习的发展提供了工具,反过来正如穆恩思所说,物理学又从人工神经网络中受益。观察此前的诺贝尔物理学奖,我们可以发现机器学习的应用,包括筛选和处理发现希格斯玻色子所需的大量数据、减少来自碰撞黑洞的引力波测量中的噪声以及更有效地寻找系外行星。而机器学习在科学研究中更广泛的应用包括在预测蛋白质结构和设计新材料方面发挥重要作用。

2024年诺贝尔物理学奖奖励两位人工神经网络领域内的先驱,展示了物理学思想会对其他领域的发展带来多么巨大的影响。人工智能是我们这个时代的主题词,将会深刻改变技术、产业和我们的生活。今年的诺贝尔物理学奖也将成为人工智能发展历史上的一个里程碑,鼓舞更多科学家以跨学科思维去解决人类面对的诸多挑战。

南方周末特约撰稿 鞠强

责编 朱力远

赞助本站

人工智能实验室
AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港