科学方法与感悟分享 http://blog.sciencenet.cn/u/penghx

博文

什么是贝叶斯网络?

已有 21196 次阅读 2009-3-11 18:03 |个人分类:模式识别与人工智能|系统分类:科研笔记| 贝叶斯网络

转载地址记不清了,请多包涵!!

1. 贝叶斯网络是一种概率网络,它是基于概率推理的图形化网络,而贝叶斯公式则是这个概率网络的基础。贝叶斯网络是基于概率推理的数学模型,所谓概率推理就是通过一些变量的信息来获取其他的概率信息的过程,基于概率推理的贝叶斯网络(Bayesian network)是为了解决不定性和不完整性问题而提出的,它对于解决复杂设备不确定性和关联性引起的故障有很的优势,在多个领域中获得广泛应用。
2. 贝叶斯网络又称信度网络,是Bayes方法的扩展,目前不确定知识表达和推理领域最有效的理论模型之一。从1988年由Pearl提出后,已知成为近几年来研究的热点.。一个贝叶斯网络是一个有向无环图(Directed Acyclic Graph,DAG),由代表变量节点及连接这些节点有向边构成。节点代表随机变量,节点间的有向边代表了节点间的互相关系(由父节点指向其后代节点),用条件概率进行表达关系强度,没有父节点的用先验概率进行信息表达。节点变量可以是任何问题的抽象,如:测试值,观测现象,意见征询等。适用于表达和分析不确定性和概率性的事件,应用于有条件地依赖多种控制因素的决策,可以从不完全。不精确或不确定的知识或信息中做出推理。
3. 贝叶斯网络建造
贝叶斯网络的建造是一个复杂的任务,需要知识工程师和领域专家的参与。在实际中可能是反复交叉进行而不断完善的。面向设备故障诊断应用的贝叶斯网络的建造所需要的信息来自多种渠道,如设备手册,生产过程,测试过程,维修资料以及专家经验等。首先将设备故障分为各个相互独立且完全包含的类别(各故障类别至少应该具有可以区分的界限),然后对各个故障类别分别建造贝叶斯网络模型,需要注意的是诊断模型只在发生故障时启动,因此无需对设备正常状态建模。通常设备故障由一个或几个原因造成的,这些原因又可能由一个或几个更低层次的原因造成。建立起网络的节点关系后,还需要进行概率估计。具体方法是假设在某故障原因出现的情况下,估计该故障原因的各个节点的条件概率,这种局部化概率估计的方法可以大大提高效率。
贝叶斯网络具有如下特性:
1。贝叶斯网络本身是一种不定性因果关联模型。贝叶斯网络与其他决策模型不同,它本身
是将多元知识图解可视化的一种概率知识表达与推理模型,更为贴切地蕴含了网络节点
变量之间的因果关系及条件相关关系。
2。贝叶斯网络具有强大的不确定性问题处理能力。贝叶斯网络用条件概率表达各个信息要
素之间的相关关系,能在有限的,不完整的,不确定的信息条件下进行
学习和推理。
3。贝叶斯网络能有效地进行多源信息表达与融合。贝叶斯网络可将故障诊断与维修决策
相关的各种信息纳入网络结构中,按节点的方式统一进行处理,能有效地按信息的相关
关系进行融合。
目前对于贝叶斯网络推理研究中提出了多种近似推理算法,主要分为两大类:基于仿真方法和基于搜索的方法。在故障诊断领域里就我们水电仿真而言,往往故障概率很小,所以一般采用搜索推理算法较适合。就一个实例而言,首先要分析使用那种算法模型:
a.)如果该实例节点信度网络是简单的有向图结构,它的节点数目少的情况下,采用贝叶斯网络的精确推理,它包含多树传播算法,团树传播算法,图约减算法,针对实例事件进行选择恰当的算法;
b.)如果是该实例所画出节点图形结构复杂且节点数目多,我们可采用近似推理算法去研究,具体实施起来最好能把复杂庞大的网络进行化简,然后在与精确推理相结合来考虑。

 

 

 

在日常生活中,人们往往进行常识推理,而这种推理通常是不准确的。例如,你看见一个头发潮湿的人走进来,你可能会认为外面下雨了,那你也许错了;如果你在公园里看到一男一女带着一个小孩,你可能会认为他们是一家人,你可能也犯了错误。在工程中,我们也同样需要进行科学合理的推理。但是,工程实际中的问题一般都比较复杂,而且存在着许多不确定性因素。这就给准确推理带来了很大的困难。很早以前,不确定性推理就是人工智能的一个重要研究领域。尽管许多人工智能领域的研究人员引入其它非概率原理,但是他们也认为在常识推理的基础上构建和使用概率方法也是可能的。为了提高推理的准确性,人们引入了概率理论。最早由Judea Pearl于1988年提出的贝叶斯网络实质(Bayesian Network)上就是一种基于概率的不确定性推理网络。它是用来表示变量集合连接概率的图形模型,提供了一种表示因果信息的方法。当时主要用于处理人工智能中的不确定性信息。随后它逐步成为了处理不确定性信息技术的主流,并且在计算机智能科学、工业控制、医疗诊断等领域的许多智能化系统中得到了重要的应用。

贝叶斯理论是处理不确定性信息的重要工具。作为一种基于概率的不确定性推理方法,贝叶斯网络在处理不确定信息的智能化系统中已得到了重要的应用,已成功地用于医疗诊断、统计决策、专家系统等领域。这些成功的应用,充分体现了贝叶斯网络技术是一种强有力的不确定性推理方法

一、贝叶斯网络定理

贝叶斯网络是一种概率网络,它是基于概率推理的图形化网络,而贝叶斯公式则是这个概率网络的基础。让我们先来看一看贝叶斯基本公式:

  1. 条件概率

     

    图片点击可在新窗口打开查看图片点击可在新窗口打开查看是两个事件,且图片点击可在新窗口打开查看,称

    图片点击可在新窗口打开查看

    为在事件图片点击可在新窗口打开查看发生的条件下事件图片点击可在新窗口打开查看发生的条件概率。

  2. 联合概率

     

    图片点击可在新窗口打开查看图片点击可在新窗口打开查看是两个事件,且图片点击可在新窗口打开查看,它们的联合概率为:

    图片点击可在新窗口打开查看

  3. 全概率公式

     

    设试验图片点击可在新窗口打开查看的样本空间为图片点击可在新窗口打开查看图片点击可在新窗口打开查看图片点击可在新窗口打开查看的事件,图片点击可在新窗口打开查看图片点击可在新窗口打开查看,…,图片点击可在新窗口打开查看为E的一组事件,满足:①图片点击可在新窗口打开查看;②图片点击可在新窗口打开查看图片点击可在新窗口打开查看,…,图片点击可在新窗口打开查看互不相容;③图片点击可在新窗口打开查看图片点击可在新窗口打开查看。则有全概率公式:

    图片点击可在新窗口打开查看

  4. 贝叶斯公式

     

根据1、2和3,很容易推得众所周知的贝叶斯公式:

图片点击可在新窗口打开查看

二、贝叶斯网络的拓扑结构

贝叶斯网络是一个具有概率分布的有向弧段(DAG)。它是由节点和有向弧段组成的。节点代表事件或变量,弧段代表节点之间的因果关系或概率关系,而弧段是有向的,不构成回路。

图1所示为一个简单的贝叶斯网络模型。它有5个节点图片点击可在新窗口打开查看和5个弧段图片点击可在新窗口打开查看组成。图中没有输入的A1节

点称为根节点,一段弧的起始节点称为其末节点的母节点,而后者称为前者的子节点。

图片点击可在新窗口打开查看

图1 简单的贝叶斯网络模型

贝叶斯网络能够利用简明的图形方式定性地表示事件之间复杂的因果关系或概率关系,在给定某些先验信息后,还可以定量地表示这些关系。网络的拓扑结构通常是根据具体的研究对象和问题来确定的。目前贝叶斯网络的研究热点之一就是如何通过学习自动确定和优化网络的拓扑结构。

三、条件独立性假设

条件独立性假设是贝叶斯网络进行定量推理的理论基础。有了这个假设,就可以减少先验概率的数目,简化计算和推理过程。

贝叶斯网络的条件独立性假设的一个很重要的判据就是著名的分隔定理(d-separation)。我们先来看看这个定理。

设A、B、C为网络节点中三个不同的子集,当且仅当A与C间不存在以下情况的路径时,我们称B隔离了A和C,记为<A|B|C>D:

  1. 所有含有聚合弧段的节点或其子节点是B的元素;

     

  2. 其它节点不是B的元素。

     

同时满足以上两个条件的路径称作激活(active)路径,否则叫作截断(blocked)路径。这个判据指出,如果B隔离了A和C时,那么可以认为A与C是关于B条件独立的,即:

图片点击可在新窗口打开查看

四、先验概率的确定和网络推理算法

有了条件独立性假设就可以大大简化网络推理计算。但是,与其他形式的不确定性推理方法一样,贝叶斯网络推理仍然需要给出许多先验概率,它们是根节点的概率值和所有子节点在其母节点给定下的条件概率值。

这些先验概率,可以是由大量历史的样本数据统计分析得到的,也可由领域专家长期的知识或经验总结主观给出的,或者根据具体情况事先假设给定。

与其它算法一样,贝叶斯网络推理算法大致也可分为精确算法和近似算法两大类。

理论上,所有类型的贝叶斯网络都可以用精确算法来进行概率推理。但Cooper指出,贝叶斯网络中的精确概率推理是一个N-P难题。对于一个特定拓扑结构的网络,其复杂性取决于节点数。所以,精确算法一般用于结构较为简单的单联网络(Single connected)。对于解决一般性的问题,我们不希望它是多项式次复杂。因而,许多情况下都采用近似算法。它可以大大简化计算和推理过程,虽然它不能够提供每个节点的精确概率值。



https://blog.sciencenet.cn/blog-227347-219725.html

上一篇:如何判断国际会议是否被EI收录
下一篇:英文文章的写作、投稿程序
收藏 IP: .*| 热度|

0

发表评论 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-9-24 04:30

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部