Ceradata的个人博客分享 http://blog.sciencenet.cn/u/Ceradata

博文

小试、中试到产品转移过程的迁移机器学习建模

已有 263 次阅读 2026-10-14 13:05 |个人分类:研究|系统分类:科研笔记

材料研发和其他领域产品研发一样,都需要进行配方、工艺条件的小样探索研究,在获得一定数据的基础上,放大到中试或产品级研究,进一步获取接近产品或产品级制备数据。全过程的数据具有小样数据量大、变量范围广,而大样数据量少、变量范围相对较小的特征。小样到大样往往受各种条件限制,无法按照小样最佳条件进行工艺平移,即便是控制主要工艺条件一致,但由于设备的放大导致一些不可控因素与小样不同。所以,往往小样的经验难以直接指导、预测大样性能调控。如何充分利用小、中、大样的数据,构建既能充分利用系统、大量的小样数据的规律信息,又能适应大样制备过程变化的影响的数学模型,是产品研发过程中机器学习建模的重要课题。

一个产品的性能一定与众多因素有关,如配方、工艺方法、工艺条件等等,小样研究必然要对各因素进行大量、系统的宽范围的探索研究,对小样的数据,可以通过因素分析等确定关键因素,并通过svr等机器学习算法建立小样性能与各因素之间的多元非线性模型,由于小样数据量大、完整,这部分建模工作问题不大。但是该模型往往无法直接正确预测大样性能,而需要将小样获得的系统规律迁移到大样,用小样到大样的主要变化因素作为修正特征,选用适当的算法获得新的模型,这就是所谓迁移学习模型。

最简单的算法是特征增强法,就是将小模型的特征,加上大小样变化的特征的所有数据一起建立一个新的非线性模型,但是,这样数据不足以突出小样系统信息的迁移,要加入小样模型的性能预测值,作为迁移模型的输入特征,算法可以选用svr等。一般这样的迁移模型的训练残差较小,模型的决定系数R2也较大,也就是说模型训练特性很好。该模型是多元非线性模型,非线性模型的外推预测的可靠性一般是很低的。虽然大试样的配方、工艺参数一般不会超出小试样的变量范围,大试样性能预测似乎不是外推,但是该模型训练数据中大试样的数据量少,且特征范围较窄,因此,预测大试样性能时如果输入特征值超出大试样训练数据的范围,也属于外推预测,这时的预测值误差较大,或基本限制在大试样训练数据的性能范围内,完全不能达到小样规律的全域迁移,这是非线性迁移模型的核心问题。

外推预测性能好的模型是线性模型,如果基于小模型的预测,建立小试样到大试样主要影响物理机制的线性修正模型,可以解决上述迁移模型某些维度数据范围较小的外推的问题,这就是物理约束迁移算法基本思想。例如,陶瓷材料烧结过程是影响小试样与大试样性能差异的主要过程,该过程即使关键工艺参数烧结温度和保温时间一致,由于试样尺寸的增大,或窑炉尺寸的增大,传热条件的差异,烧成结束后的冷却速度会有明显差异,这种差异会导致冷却过程产生的残余应力和冷却过程较高温区的时间有差异,高温区时间差异可能导致析晶、相变等差异,从而导致性能的变化。物理约束学习首先要确定物理过程的相关可测特征,如特征尺寸、炉温冷却速率等,考虑特征量与主要物理过程影响的正比或反比关系,如高温历史时间与冷却速率成反比,则取冷却速率的倒数作为建模特征变量。如果不能确定各可获得特征变量的作用,可以用计算协方差矩阵查看小模型预测性能的残差与各特征的方差值,接近于0,则可忽略该特征,正负值说明正负相关。然后,建立小模型预测残差与各相关特征的多维线性模型,并根据模型各特征拟合置信度,调整特征,迭代优化模型。这样大试样迁移模型包括小试样的性能预测加上物理约束模型线性修正,可以解决大试样外推预测的问题。

物理约束线性修正只考虑了几个大小试样工艺差异的新特征变化的修正,虽然,外推特性好,大试样的性能预测误差RMSE降低,但是,由于没有考虑这些过程特征与小模型中原特征的交互作用,该修正后依然存在问题,特别是模型决定系数R2会很低,甚至出现负值。为了解决这一问题可以采用上述2种迁移算法的混合算法进行修正。

混合迁移就是在物理线性修正的基础上,对该修正的残差采用特征增强学习进一步修正,由于特征增强学习是对所有特征的非线性模型,通过该修正,迁移模型既具有很好的工艺迁移外推性能,又充分体现各特征的非线性交互作用,模型预测精度和可解释性都大幅提高,R2甚至可能达到0.9以上。

迁移模型是在系统的因素(自变量)与性能(因变量)数据模型的基础上,对基础模型预测性能的残差作为应变量与迁移特征变量或所有特征变量及基础性能预测值的修正模型构成,修正模型可以是不同算法的互补的多个模型。不同的算法可以分别解决迁移过程的不同问题。



https://blog.sciencenet.cn/blog-3659757-1556574.html

上一篇:2个0:5到7:5奇迹的感叹




    
收藏 IP: 114.243.119.*| 热度|

1 宁利中

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-10-16 09:07

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部