本文是一篇土木工程论文，本文使用PINN的方法对工程问题中的偏微分方程进行了研究。尽管做出了了一些有希望的结果，但是由于神经网络参数过多，以及物理驱动方法中训练数据的不确定性，目前仍然不能提出一些规范性的结论来发展这个领域。
第一章 绪论
1.1 研究背景及意义
深度学习的概念出现于2006年，它是机器学习中的一类方法，通过数据集训练神经网络来进行学习。其灵感来源于人脑的神经网络，通过接收外界信息进行分析和学习。在深度学习中，神经网络根据需要求解的问题被设置成不同的层数。对于复杂的问题，会出现非常深层次的神经网络，因此Hinton[1]等学者称其为“深度”学习。通过给定一组或多组输入数据，深度学习能够训练神经网络来预测结果，这使其在图像识别、自然语言处理、语音技术等拥有充足的训练数据的方向取得了显著的发展。图1-1展示了深度学习在两个方向上的应用。
目前，这种方法也逐渐开始应用于工程问题的求解中。在解决工程问题时，由于目标模型的连续性，所研究对象常常与时间、空间上的多个变量相关，其基本思路都可以归结成求解能够代表此工程问题的PDE。对于这些问题，如果PDE的解析解难以获得，可能需要用到一些数值解法来进行计算。有限元法、有限差分法和有限体积法是其中比较常用的数值解法[2]，这些方法的核心思想是将工程问题中需要求解的计算区域离散为独立的网格单元，并在每个单元上近似未知量，将偏微分方程转化为代数方程近似求解，最终解决此类工程问题。然而，这些传统方法还存在一些不足之处。例如在网格划分阶段，为了衡量网格的效果，需要一直进行人机交互来进行调整和优化，来满足模拟的精度要求。当求解复杂的工程问题时，还可能碰到需要求解偏微分方程组的情况，这些方程的迭代求解会占用很多计算资源。
1.2 国内外研究现状
近年来，随着可供训练的数据越来越充足、计算机性能的提升以及算法的优化改进，深度学习被越来越多的运用在偏微分方程的求解上，尤其适用于求解复杂的偏微分方程问题。这都归功于神经网络的普遍近似能力。
1989年，Hornik[5]和Chen[6]提出了神经网络的万能逼近定理，它为使用神经网络求解偏微分方程提供了理论支持。这个定理证明了只要包含非线性激活函数的隐藏层构成的前馈神经网络的结构足够复杂，它便可以近似任何从一个有限维空间到另一个有限维空间的Borel可测函数。Malek等[7]提出了一种混合神经网络模型，可用于求解高阶微分方程，该模型使用了Nelder-Mead方法来构造常微分方程的封闭解，它在微分方程的初始/边界问题上的模拟效果不错。Mall等[8]提出了一套回归算法，它通过构造满足边界条件的损失项和神经网络模型来研究了神经元数量和初值对预测解精度的影响。然而，这些方法仅适用于常微分方程的求解。
1994年，Dissanayake和Phan-Thien[9]将偏微分方程的求解问题转化为无约束最小化问题，并将算法用于求解泊松方程和非线性热传导方程，打开了使用神经网络求解偏微分方程的大门。之后，Lagaris等[10]提出了一种基于神经网络的模型，适用于不规则边界的情况。这种模型使用了多层感知机和径向基神经网络，可以用来拟合复杂的边界，在二维、三维偏微分方程上取得了较不错的预测准确率。Aarts和Van[11]将表征不同阶微分算子的单隐层前馈网络联合起来，共同训练来求解偏微分方程；Ramuhalli等[12]将有限元模型嵌入到神经网络中，提出了有限元神经网络。由于当时多层前馈神经网络模型的局限性，早期方法只能求解简单的偏微分方程，因此基于深度学习的偏微分方程求解方法没引起足够的重视。
第二章 深度学习(Deep Learning)的理论及应用
2.1 深度学习基本原理
深度学习是一种机器学习方法，其核心是神经网络。它由多个神经层组成，每层都有多个节点（神经元）。数据将在输入层（Input Layer）被接受，然后传输到隐藏层（Hidden Layer）。在隐藏层中，神经元会接收来自上一层的输入，通过权重和偏差的线性处理和激活函数的非线性处理，将数据传递到下一层的节点上。数据在经过隐藏层的处理后最终由输出层（Output Layer）输出。然后根据实际的问题与需要来定义误差，再通过反向传播算法优化节点处的各个参数。一直重复这个过程，直到这个误差在我们认可的范围之内，此时就可以认为神经网络训练完成了。
本文采用的PINN方法也属于深度学习方法中的一种，为了更加全面的展现这种算法的思路和框架，在本章中就深度学习的基本理论进行介绍和概括，包括以下几个方面：神经网络的结构、激活函数、损失函数、正则化方法、反向传播算法以及随机梯度下降法。
2.2 深度学习的基本理论知识
2.2.1 神经网络的结构
最基本的神经网络由输入层、隐藏层和输出层按照一定的顺序连接而成[30]。它们的职能分别对应着接收信息、处理信息和输出信息。根据实际需求，隐藏层可以被设计出不同的层数和神经元数量，层与层之间的神经元也可以通过不同的方式连接。隐藏层多元的构造使其可以输出几乎任何想要输出类型，每个输出单元对应于某一特定的分类，即网络输出给外部系统的结果值。图2-1是一个输入为二维，输出为一维的全连接神经网络的示意图：
下面分别对神经网络的输入层、隐藏层和输出层的功能和设计方法进行简要介绍：
（1）输入层：神经网络的输入层是神经网络的第一层，也是与外部环境直接交互的接口。输入层的主要作用是接收来自外部的输入数据，将这些数据转换为神经网络能够处理的格式，并将其传递给下一层的隐藏层。输入层通常包含多个神经元，每个神经元负责接收一个输入特征。这些输入特征可以是图像的像素值、文本的词向量等。一般而言，输入层的神经元不会进行数据的处理。
在构建神经网络时，输入层的大小取决于数据的特征数。例如，对于一个包含100个像素的图像，每个像素点都是独立的特征，输入层大小将是100。输入层的大小也可以与任务有关。例如，对于语音识别任务，输入层的大小将取决于语音信号的采样率和时间长度[31]。通常情况下，输入层的大小越大，网络的拟合能力越强，但同时也会增加网络的计算复杂度。
第三章 使用PINN对Burgers方程的求解 ................... 26
3.1 神经网络的编写与训练....................................... 26
3.2 训练结果的处理与优化....................................... 29
第四章 使用PINN对Cook Panel问题的求解 ................ 33
4.1 使用有限元软件Abaqus进行计算 ............................. 33
4.2 控制方程与边界条件的建立................................... 34
第五章 结论与展望 .............................. 54
5.1 主要结论.................... 54
5.2 研究展望................... 55
第四章 使用PINN对Cook Panel问题的求解
4.1 使用有限元软件Abaqus进行计算
为了展现PINN方法的优劣之处，决定使用发展的比较成熟的有限元方法与之进行比较。此外，使用有限元法获得的结果也可以为PINN模型提供改进的方向。因此在这一节中，决定先选用Abaqus软件来计算Cook Panel问题。
建立与图4-1尺寸完全相同的物理模型，并添加上荷载和约束条件；划分网格时的近似全局尺寸从4开始减小，寻找收敛的数据作为最后的模拟数据。如表4-1所示，在近似全局尺寸=2时，有限元模拟的效果已接近收敛。
第五章 结论与展望
5.1 主要结论
本文重点在于将深度学习的方法引入到工程问题偏微分方程的求解当中。 通过编写PINN神经网络，训练并优化网络中的各个参数得到网络模型。在本文所做的两个算例之中，验证了这种方法的在处理工程问题上的可行性并总结了这种方法的优缺点。一是通过流体动力学中的一个重要方程：Burgers方程来验证PINN的方法求解偏微分方程的可行性；二是求解一个没有解析解的平面弹性力学问题：Cook Panel问题。使用PINN方法求解这个问题，并与传统的数值解法进行对比，分析两种方法在求解效率和精度上的优劣。在上述工作中得出以下结论：
（1）对于输出为一维的问题，本文使用PINN的方法编写神经网络对Dirichlet边界条件下的Burgers方程进行计算，并不断优化网络参数，最终训练出了一个与该方程解析解相差无几的预测模型。这展示了PINN网络在求解偏微分方程上的可行性与发展潜力，即在知道工程问题的物理规律后（控制方程、边界条件等物理信息），可以使用物理驱动算法来求解工程问题。PINN方法可能成为工程问题偏微分方程的求解中一条新的道路。
（2）对于输出为二维的问题：Cook Panel问题，本文使用PINN方法编写神经网络，并使用几种可能提升精度的方法对网络进行了优化。从对一个小正方形单元的训练中受到启发，提出了对大尺度模型处理的方法，最终获得了Cook Panel的变形预测模型。将这个过程与使用有限元软件求解的过程进行对比，得出的结论是：PINN方法与发展成熟的有限元方法对比起来，还有很大的提升空间。至少在当前还不能成为偏微分方程的经典数值解法的替代品。但作为一种新兴的解法，PINN具有不错的发展潜力。
参考文献（略）
