我们在农药残留消解动态研究中经常涉及到指数方程以及相关系数的整理,一点看法整理如下
问题一:
方程C=Coe-kt
通过excel 得到的R2并是不是通常所说的相关系数,而是可决系数。如果要得到相关系数(
correlation coefficient,r),需要对R2开方。但这时要注意,r是有正负之分的,在农药残留消解动态中,农药残留浓度是随着时间延长而降低的,即呈负相关,所以R2开方后应取负值。
问题二:
对于r的评价也应在统计学基础上进行,根据相关系数显著性检验表,如果消解试验中有5-8个可用数据,在95%或99%置信水平上,相关系数标准如下
95 99
5 0.8783 0.9587
6 0.8114 0.9172
7 0.7545 0.8745
8 0.7067 0.8343
如果结果低于这些值,相关性就很差了。显然,此时的半衰期就不应该采用方程(T0.5=In2/k)进行计算了。一般可采用直接从数据点连线图上读出半衰期。
问题三:
对于指数方程模拟时初始点的选取,有几种做法会导致结果有很大差异:
1 模拟曲线不过测定初始点,此时若模拟得到的初始值与测定初始值差距较大,计算得到的半衰期与实际情况差异也会很大。
2 模拟曲线强制过测定初始点,一般情况下通过计算得到的半衰期与实际差距较小。但这种情况把测定初始值对指数曲线的贡献被人为扩大了,也有一定缺陷。
如何选择,是仁者见仁,智者见智了。
我们的做法:
1 对于线性方程的模拟,一般不过原点,但如果模拟得到的初始值与实际初始值差距较大,则强制曲线过测定初始值。
2 强制后得到的模拟曲线相关系数,如果大于统计表值,则计算得到半衰期,否则采用图中读数的办法,而不是计算。
https://blog.sciencenet.cn/blog-535802-419631.html
下一篇:
科研小组发表SCI文章,供小组内部交流