基于模拟退火的贝叶斯网络结构学习算法 BibTex
作者：
单位： 大连理工大学计算机科学与工程系;大连理工大学计算机科学与工程系;大连理工大学计算机科学与工程系 大连 116023;大连 116023;大连 116023
关键词： 贝叶斯网络;结构学习;模拟退火算法;最大信息熵;约束函数
出处： 计算机科学 2004 年 10期
基金： 国家科技部973专项,2001CCA00700
全文链接： 查看全文>>
摘要：
贝叶斯网络的学习可分为结构学习和参数学习。基于模拟退火的结构学习算法是一种以搜索最高记分函数为原则的智能优化方法。本文以KL距离、相互信息以及最大相互信息为基础,通过附加合适的约束函数降低学习搜索的复杂度,提出一种附加约束的最大熵优化函数作为模拟退火算法的能量优化函数,并结合贝叶斯网络结构学习的特点设计了适合模拟退火的变量表示和邻近值产生机制。通过与其他用于结构学习的模拟退火算法,以及遗传和进化算法比较分析,结果表明本文中提出的基于模拟退火的贝叶斯网络结构学习算法在时间和精度上都具有较好的效果。
正文快照：
1引言 贝叶斯网络是根据各个变量之间的概率关系,使用图论方法表示变量集合的联合概率分布的图形模型。该模型是一个有向无环图,结点代表论域中的变量,有向弧代表变量的关系,变量之间的关系强弱由结点与其父结点之间的条件概率来表示。通过贝叶斯网络可以准确地反映实际应用中
An Algorithm for Bayesian Networks Structure Learning Based on Simulated Annealing
Author： ZHANG Shao-Zhong WANG Xiu-Kun DING Hua (Department of Computer Science;Dalian University of Technology;Dalian 116023)
Keywords： Bayesian networks, Structure learning, Simulated annealing algorithm, Maximum information entropy,Restrained function
Abstract：
The automated creation of Bayesian networks can be separated into two tasks, Structure learning, which consists of creating the structure of the Bayesian networks from the collected data, and parameter learning, which consists of calculating the numerical parameters for a given structure. We present a simulated annealing algorithm for structure learning in Bayesian networks and propose a score function for optimization based on maximum mutual information entropy with odditional restriction. The entropy is based on KL distance, mutual information and maximum mutual information. We also propose a denotative form for variable and give a mechanism for generating contiguous data. Some experimentation on other simulated annealing and genetic or Evolutionary algorithms are given. The result indicates that the simulated annealing algorithm based MMI-L that we propose has more efficiency and precisely in cost and precision than others.
