lijiankou的个人博客分享 http://blog.sciencenet.cn/u/lijiankou

博文

广义线性模型

已有 6595 次阅读 2013-7-21 00:14 |个人分类:机器学习|系统分类:科研笔记|关键词:模型| 模型

广义线性模型是经典线性模型的推广,因此要了解广义线性模型,我们先看一下经典线形模型。给定一个预测值y,经典线性模型假设y是由两部分组成,一部分是随机成分,另一部分是确定成分。对于随机成分而言,假设y是随机变量Y的观测值,并且Y的均值是。对于确定成分而言,我们假设服从如下关系:


  x是输入变量,w是相应的参数

  对于随机的部分,我们通常会假设随机变量的误差是独立且方差恒定,例如会假设误差服从高斯分布。一个完整的经典线性模型如下:

  那么如何对该模型进行推广呢?仔细观察会发现,该模型中假设随机部分的均值是,对于高斯分布,这样假设是没有问题的,可以是任意实数,对于一般线性拟合这样的假设也是合理的。但是对于特定的分布,这样的假设不再合理,因为它们的均值有明显的区间范围,如泊松分布,要求均值大于0,二项式分布要求均值在[0,1]区间内。因此,现在的任务就是如何将一个固定区间映射到实数域,链结函数完成了这个任务。

综上所述,广义线性模型是均值在任意实数区间到指定区间的推广,关键部分是链结函数,它将任意给定分布的区间映射到实数域。最后,给出广义线性模型的主要组成部分:

  1.分布函数f(指数)

  2. 线性预测子

  3. 链接函数 

  分布函数是随机成分,线性预测子是确定成分,链接函数完成了均值区间的映射。

 


参考资料:

1 machine learning a probabilistic perspective 作者: Kevin P. Murphy

2 Generalized Linear Model 作者: P. McCullagh / John A. Nelder  出版社: Chapman and Hall/CRC

3   维基百科




http://blog.sciencenet.cn/blog-520608-709883.html

上一篇:朴素贝叶斯分类器
下一篇:贝叶斯模型比较

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2020-1-23 06:45

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部