Explaining away理解

蒋秋华 2015-5-12 10:24

Explaining away是理解DBN的一个关键概念。 直观的解释是：证据增加并不使得事件不确定性减少。 如果： 就是Explaining away现象。 在该基础上，我们可以推导出： 推导如下： 假设， ，其中 。 从而， & ...

个人分类: 统计学习|7540 次阅读|没有评论

DBN的理解

热度 1 蒋秋华 2015-5-10 09:49

由于对概率论和信息论的基础太差，使得DBN的学习费了很长时间。好在有google学术的帮助，查找论文方便多了，使得自己能够不断地继续下去。 DBN的学习一般都是从Hinton的论文A Fast Learning Algorithm for Deep Belief Nets开始。如果没有相关的背景知识，不知道问题的来由，这篇论文读起来是相当费劲的。 下面我将自己 ...

个人分类: 统计学习|20613 次阅读|1 个评论 热度 1

RBM原理的理解

热度 1 蒋秋华 2015-3-22 11:04

网络上资料关于深度学习的入门，好多都是从RBM开始，如果没有一定的相关背景知识的话，这些资料让人看得很是摸不着头脑！我是主要参考了Asja Fischer和Christian Igel的介绍性论文《An Introduction to Restricted Boltzmann Machines》进行学习。大家可以从google学术中下载（网上知道的，真的很方便）。 下面是我整理的 ...

个人分类: 统计学习|28936 次阅读|1 个评论 热度 1

PLDA模型的理解

热度 1 蒋秋华 2014-2-25 09:45

基于Rickjin的LDA数学八卦，自己花了点心思，将PLDA的理解整理如下。 PLDA模型的理解20140220.docx

个人分类: 统计学习|9228 次阅读|2 个评论 热度 1

MCMC方法的理解

热度 4 蒋秋华 2014-2-16 23:51

经过3天的琢磨，终于对MCMC方法有了深入的理解。因为博客写起公式不方便，所以用word文件记录下来。 MCMC的理解20140215.docx

个人分类: 统计学习|23286 次阅读|6 个评论 热度 4

广义拉格朗日函数的理解（二）

热度 1 蒋秋华 2013-11-1 12:13

第二步来证明： (1) 由于原始问题和对偶问题均有最优值，所以可分别假设 那么，对于任意 下式成立， (2) 对于任意 下式成立， (3) 所以， (4) 因此，(1)式成立。

个人分类: 统计学习|4843 次阅读|1 个评论 热度 1

本页有 4 篇博文因作者的隐私设置或未通过审核而隐藏