MOM：基于纳米压痕和梯度塑性模型结合神经网络和遗传算法预测材料的拉伸行为

hdy

材料弹塑性性能的测量对结构设计和工程评价至关重要。获取材料本构模型参数的传统方法通常包括单轴拉伸和压缩试验。而纳米压痕技术由于具有精确的位置控制、高分辨率的负载控制、精确的位移测量和无损检测能力，在测量材料的硬度和弹性模量等各种力学性能方面具有显著优势。然而，传统的J2流塑性理论由于不能准确地解释尺寸效应，这限制了其在微观尺度上准确描述材料力学性能的能力。而应变梯度塑性理论包含对应变梯度效应的考虑，使其更适合捕捉材料纳米压痕中观察到的压痕尺寸效应。来自西南交通大学的朱达炫等人，采用低阶应变梯度塑性模型（CMSG），结合纳米压痕试验提出了一种将长短期记忆神经网络模型与遗传算法相结合的反演方法。采用CMSG本构模型进行有限元模拟，生成用于训练和验证神经网络模型的数据集，结合遗传算法完成了对材料本构模型参数的确定。将模拟结果与纯铜的纳米压痕和单轴拉伸实验结果进行对比，验证了方法的有效性。

研究团队的主要研究思路是：通过使用二维轴对称压痕模型，结合CMSG本构开展大规模的有限元模拟，并将模拟结果作为训练机器学习模型的数据库；其次，对机器学习模型进行训练、验证和测试，获得具有较好预测性能的神经网络模型；接着，将机器学习模型和遗传算法进行耦合，基于纳米压痕实验的曲线形貌参数，通过全局寻优的方式完成对材料本构模型参数的确定；最终，使用通过反演确定的材料本构模型参数开展纳米压痕和单轴拉伸有限元模拟并与实验结果进行对比，进而验证方法的有效性。具体的求解材料本构模型参数流程如图1所示：

图1基于纳米压痕实验确定材料本构模型参数的逆分析流程图

在机器学习模型的选择上面，研究团队选择了长短期记忆（LSTM）人工神经网络模型。研究团队选择CMSG本构模型中的材料参数σy、n、k和E作为神经网络模型的输入特征，压痕曲线形状参数C、Wp/Wt和S作为神经网络模型的输出特征。另外，神经网络模型的神经元结构如图2所示：

图2 LSTM神经网络单元结构

由于神经网络模型的作用是将材料的本构模型参数映射到纳米压痕曲线形貌参数，而针对纳米压痕的曲线形貌参数反演材料的本构模型参数是一个逆向的过程。因此，研究团队使用了将神经网络模型与遗传算法相结合的方式，完成了基于纳米压痕载荷-位移曲线数据，反演材料的本构模型参数。

在结果与讨论部分，研究团队首先介绍了开展纳米压痕试验的二维轴对称有限元模型，如图3所示：

图3 二维轴对称有限元模型

另外，研究团队针对有限元模型的敏感性做了进一步的分析，分别针对不同尺寸的单元网格，摩擦系数以及泊松比进行了探究，结果如图4所示，最终确定了有限元模型相关参数取值。

图4 不同（a）网格尺寸（b）摩擦系数（c）泊松比对纳米压痕有限元模拟结果的影响

另外，研究团队指出，在实际的纳米压痕实验中采用的是Berkovich压头。为了进一步说明使用二维轴对称有限元模型的合理性和可靠性，研究团队分别使用三维Berkovich压头和圆锥压头的有限元模型进行了研究，结果如图5所示。结果表明，采用二维轴对称有限元模型去反映真实的含三维Berkovich压头的纳米压痕实验是合理且准确的。

图5 三维Berkovich压头、圆锥压头和二维轴对称模型纳米压痕载荷-位移曲线对比

另外，研究团队对神经网络模型进行了训练、验证和测试，其中，在训练和验证过程中NMSE的变化情况如图6所示。

图6训练和验证过程中NMSE的变化情况

为了证明经过训练和验证的神经网络模型具有较好的预测效果和泛化能力，研究团队选择30个测试集，对比了使用神经网络计算获得的纳米压痕形貌预测值以及通过有限元模拟获得的曲线形貌参数真实值。对比结果如图7所示：   

图7纳米压痕曲线形貌参数的预测效果（a）C（b）Wp/Wt（c）S           

为了获得纳米压痕载荷-位移曲线数据，研究团队针对纯铜材料开展了15次纳米压痕实验，并将平均的压痕响应曲线作为实验的真实响应。另外，为了验证通过反演获得的材料参数的准确性，对纯铜试样开展单轴拉伸试验并获取了对应的应力-应变响应曲线，结果如图8所示。

图8（a）纳米压痕载荷-位移实验数据（b）单轴拉伸实验工程应力-工程应变曲线

基于纳米压痕的实验数据，提取对应的载荷-位移曲线形貌参数，使用耦合LSTM神经网络模型的遗传算法进行寻优，单独执行20此遗传算法，最后获得了20组反演的本构模型参数，结果如图9所示：

图9遗传算法寻优（a）σy（b）n（c）k（d）E反演结果分布

选择20组中评价值最低的一组作为反演的纯铜本构模型参数结果，并开展纳米压痕有限元模拟和单轴拉伸有限元模拟。将结果与实验真实响应进行对比，如图10所示，结果表明，研究团队的反演框架在确定材料本构模型参数方面是合理且有效的：

图10实验和有限元模拟对比结果（a）纳米压痕（b）单轴拉伸

另外，为了说明在使用纳米压痕的载荷-位移曲线数据反演对应材料参数时，考虑应变梯度的重要性，研究团队采用传统J2塑性流动理论，重新通过开展大规模的有限元模拟，获得了对应的数据库，并获得了一个新的神经网络模型。将模型与遗传算法进行耦合，通过反演获得了在不考虑塑性应变梯度下的材料本构模型参数，并与实验结果进行对比，结果如图11所示。结果表明，使用传统J2塑性流动理论反演的本构模型参数开展的有限元模拟，与实验之间存在较大的偏差。这也证明了在使用纳米压痕的载荷-位移曲线数据反演材料参数时，使用CMSG本构模型的合理性和必要性。

图11有限元模拟和实验结果对比（a）纳米压痕（b）单轴拉伸      

另外，研究团队为了证明其方法的普适性和推广性，针对Kim等[1]人不同温度退火铜膜的纳米压痕实验进行了本构模型参数的反演，并将反演的结果回代到有限元模型中，获得了对应的纳米压痕和单轴拉伸模拟结果。并且还计算了纳米压痕有限元模拟和实验真实结果的曲线形貌参数相对误差，结果如图12所示：

图12有限元和实验结果对比（a）纳米压痕载荷-位移曲线（b）单轴拉伸真应力-真应变曲线（c）纳米压痕曲线形貌参数相对误差

总结：

研究团队采用LSTM神经网络模型与遗传算法相结合的方法，基于纳米压痕实验确定了CMSG本构模型参数。通过将有限元模拟和实验结果进行比较，验证了该方法的准确性，并进一步说明了在纳米压痕中考虑等效塑性应变梯度的重要性。主要结论如下：

(1)采用的LSTM神经网络模型在训练和验证阶段均具有快速收敛性。所有压痕的曲线形貌参数决定系数都超过0.99，表明神经网络模型在预测纳米压痕形状参数方面具有较高的预测精度。

(2)提出的方法可用于完成纯铜材料参数的确定。曲线形状参数的模拟结果与实验结果的相对误差小于5%。利用反演方法确定的材料参数进行单轴拉伸模拟，与实验结果相近。

(3)有限元模拟与实验数据对比分析的结果表明，基于传统J2塑性流动理论所确定的1微米深度纳米压痕材料单轴拉伸行为并不准确。说明利用CMSG模型，基于纳米压痕载-荷位移曲线数据确定材料参数是必要的。

(4)为了验证方法的普适性，研究团队对400°C和800°C下退火电镀铜膜的纳米压痕实验进行了分析。将纳米压痕和单轴拉伸的有限元模拟结果与实验结果进行了对比分析，证明了方法的普适性。