沉默的树分享 http://blog.sciencenet.cn/u/jiangqiuhua 做自己喜欢做的事!

博文

Explaining away理解

已有 7556 次阅读 2015-5-12 10:24 |个人分类:统计学习|系统分类:科研笔记| DBN, away, wake-sleep, Exaplaining

Explaining away是理解DBN的一个关键概念。

直观的解释是:证据增加并不使得事件不确定性减少。

如果:

$P(B|A)

就是Explaining away现象。

在该基础上,我们可以推导出:

$P(B)

推导如下:

假设,

          $P(A,B)=P(A)P(B)-k$ ,其中 $0\leq k\leq P(A)P(B)$ 。

从而,

          $P(B|A)=P(B)-\frac{k}{P(A)}$

          $P(B|\bar{A})=P(B)+\frac{k}{P(\bar{A})}$

因此,

          $P(B|A)\leq P(B)\leq P(B|\bar{A})$
在多层神经网络的Wake-Sleep算法中,由于表示分布 $Q(\alpha|d)$ 是因子形式分布,生成分布 $P(\alpha|d)$ 是因子形式分布 $P(d|\alpha)$ 的后验分布,因此可能存在Explaining away现象,即:

$P(\alpha_{1},\alpha_{2}...\alpha_{n}|d)\neq P(\alpha_{1}|d)P(\alpha_{2}|d)...P(\alpha_{n}|d)$
从而使得q(a|d)难以匹配p(a|d),增大了学习误差。



https://blog.sciencenet.cn/blog-110554-889475.html

上一篇:DBN的理解
下一篇:Win7安装theano,调试logistic_sgd.py
收藏 IP: 61.237.229.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-1 21:13

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部