作者/彭文辉
编辑/绿萝
机器学习和基础学科交叉在近年受到越来越多的关注。能够从大量数据中学习的 AI，是否能够像人类一样，从数据中发现规律？当神经网络被用于解决物理问题时，是否有可能学习到物理知识？
近日，来自加拿大蒙特利尔大学的研究人员给出了肯定的回答。该工作在研究 AI 如何完成翼型气动系数预测任务过程中，发现了神经网络在训练过程中学习空气动力学物理定律的证据。
计算翼型气动系数是空气动力学中的关键任务之一，该任务通常由计算流体力学方法完成。近年来，机器学习的快速发展为计算流体力学带来了新的机遇。为了进一步提高计算效率和预测精度，
研究人员提出了一种神经网络模型空间单元卷积神经网络（Element Spatial Convolution Neural Network ，ESCNN），用于预测翼型升力系数。ESCNN 的输入为翼型坐标和攻角，输出为升力系数，其架构如图 1 所示。
图 1：ESCNN模型架构。
相较于现有 SOTA 模型，ESCNN 减少了两个数量级的参数，但取得了更高的预测精度。为了调查该神经网络如何实现高精确预测，研究人员对训练中的 ESCNN 进行调查：他们追踪了图 1 中的全连接层，并记录了其中神经元 [f1,......fn] 在训练过程中的进化过程，如图 2 所示。
图 2：全连接层在训练中的进化过程。
他们发现了两个有趣的现象：（1）随着训练过程进行，该全连接层最终收敛为一个正弦波形曲线；（2）在进化过程中，该全连接层的第一个神经元 f1 和最后一个神经元 fn 始终保持数值大小一致。
库达条件（Kutta condition）是空气动力学中的基本物理定律之一：翼型尾部的上下涡流强度必须相等，以保证气体平滑流过翼型，即 ，如图 3 所示。全连接层在进化过程中这种 f1=fn 的自我约束是神经网络学习到库达条件的证据。
图 3：层流中的翼型涡量分布。
另一方面，随着训练进行，为什么全连接层会收敛成为类正弦曲线？研究人员计算并对比了翼型的涡强分布和全连接层的神经元数值，发现他们是高度相关的，如图4 所示。这是神经网络学习到物理量涡强的证据。
图 4：收敛的全连接层和翼型涡强分布对比。
涡强有正有负，如果通过 ReLU 激活函数来限制全连接层神经元只输出非负值（图5 所示），神经网络能否依然学到涡强分布？
图 5：ReLU限制的全连接层进化过程。
研究人员发现了另一现象：虽然 ReLU 只限制了神经元输出非负数（图 5c），神经网络在进化过程中会自动限制正数域的输出区间，以获得更好的对称性（图5def）。为什么神经网络偏好对称性，对称性有什么意义？
研究人员从训练翼型数据中提取了一些随机样本：不同翼型形状不同，但翼型坐标的间隔分布基本对称（图 6 所示）。这是神经网络学习到翼型几何特性的证据。
图 6：翼型随机样本坐标间隔分布。
该工作提出了一种用于预测翼型升力系数的神经网络，相较于现有 SOTA 模型减少两个数量级的参数，但实现了更高预测精度。在研究神经网络如何进行推理的过程中，研究人员发现了神经网络自学库达条件，翼型涡强分布和几何对称性的证据。
该工作表明神经网络可以从数据中学习并提取物理定律，用于物理任务的神经网络有可解释性。
人工智能×[ 生物 神经科学 数学 物理 材料 ]
「ScienceAI」关注人工智能与其他前沿技术及基础科学的交叉研究与融合发展。
欢迎关注标星，并点击右下角点赞和在看。
