贝叶斯( Reverend Thomas Bayes 1702-1761 )学派奠基性的工作是贝叶斯的论文 “关于几率性问题求解的评论”。或许是他自己感觉到它的学说还有不完善的地方,这一论文在他生前并没有发表,而是在他死后,由他的朋友发表的。自从著名的数学家拉普拉斯( Laplace P. S. )用贝叶斯的方法导出了重要的 “相继律”,贝叶斯的方法和理论逐渐被人理解和重视起来。但由于当时贝叶斯方法在理论和实际应用中还存在很多不完善的地方,因而在十九世纪并未被普遍接受。
二十世纪初,意大利的菲纳特( B. de Finetti )以及英国的杰弗莱( Jeffreys H. )都对贝叶斯学派的理论作出重要的贡 献。第二次世界大战后,瓦尔德( Wald A. )提出了统计的决策理论,在这一理论中,贝叶斯解占有重要的地位; 信息论的发展也对贝叶斯学派做出了新的贡献。 1958 年英国最悠久的统计杂志 Biometrika 全文重新刊登了贝叶斯的论文, 20 世纪 50 年代,以罗宾斯( Robbins H. )为代表,提出了经验贝叶斯方法和经典方法相结合,引起统计界的 广泛注意,这一方法很快就显示出它的优点,成为很活跃的一个方向。 n 贝叶斯网络最早是由Judea Pearl于1988年提出的。 80 年代贝叶斯网络主要用于专家系统的知识表示, 90 年代进一步研究可学习的贝叶斯网络,用于数据挖掘和机器学习。近年来,贝叶斯网络的研究和应用涵盖了人工智能的大部分领域,包括因果推理、不确定性知识表达、模式识别和聚类分析等。 目前,贝叶斯网络以其独特的不确定性知识表达形式、丰富的概率表达能力、综合先验知识的增量学习特性而成为数据挖掘领域中最为引人注目的焦点之一。 n 贝叶斯网络是表示变量间概率依赖关系的有向无环图,网络中每个节点对应于问题领域中每个变量,每条边表示变量间的概率依赖关系,同时每个节点都对应着一个条件概率分布表(CPT) ,指明了该节点与父节点之间概率依赖的 数量关系。