|||
Explaining away是理解DBN的一个关键概念。
直观的解释是:证据增加并不使得事件不确定性减少。
如果:
$P(B|A)
就是Explaining away现象。
在该基础上,我们可以推导出:
$P(B)
推导如下:
假设,
$P(A,B)=P(A)P(B)-k$ ,其中 $0\leq k\leq P(A)P(B)$ 。
从而,
$P(B|A)=P(B)-\frac{k}{P(A)}$
$P(B|\bar{A})=P(B)+\frac{k}{P(\bar{A})}$
因此,
$P(B|A)\leq P(B)\leq P(B|\bar{A})$
在多层神经网络的Wake-Sleep算法中,由于表示分布 $Q(\alpha|d)$ 是因子形式分布,生成分布 $P(\alpha|d)$ 是因子形式分布 $P(d|\alpha)$ 的后验分布,因此可能存在Explaining away现象,即:
$P(\alpha_{1},\alpha_{2}...\alpha_{n}|d)\neq P(\alpha_{1}|d)P(\alpha_{2}|d)...P(\alpha_{n}|d)$
从而使得q(a|d)难以匹配p(a|d),增大了学习误差。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-21 19:10
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社