RNAse的个人博客分享 http://blog.sciencenet.cn/u/RNAse

博文

极大似然拟合步骤

已有 3286 次阅读 2014-7-11 14:31 |个人分类:数据处理|系统分类:科研笔记

如果已知一个变量x = {x1, x2, ... xn}符合概率密度分布函数f(x|p),p 是待拟合参数,那么可以构造负对数似然函数 L(p) = -sum(log (f(xi)), 求出使L(p)最小时的pu,即为待拟合参数估计值。


关于求L(p)的最小值:对于不太复杂的函数,用simplex search算法+随机化拟合起始值可以暴力求得L(p)的最小值。



现在的问题是置信区间怎么求?


方法一:

构造对数似然函数的Fisher信息矩阵F(P)ij = - $\partial$ 2L(p)/( $\partial$ pi $\partial$ pj),然后求该矩阵在P = Pu时的值(解析解或数值解),然后判断是否正定。若正定,则对数似然函数在P = Pu为极大值点,Fisher信息矩阵的逆就是协方差矩阵。

这个方法对于比较复杂的函数有时候会得不到结果。


方法二:

自助法(bootstrapping) :多次有放回重采样原数据样本,然后分别拟合得到多组拟合参数。这些拟合参数的方差可以作为原拟合参数方差的估计。




http://blog.sciencenet.cn/blog-704151-810844.html


1 Vetaren11

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2020-1-20 14:42

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部