展会信息港展会大全

一种基于PSO的BP神经网络训练方法
来源:互联网   发布日期:2011-09-02 13:29:14   浏览:4509次  

导读:一种基于PSO的BP神经网络训练方法,计算机网络论文,论文,免费论文...

 您现在的位置: 周口新闻网—论文频道 >> 计算机论文 >> 计算机网络 >> 正文

一种基于PSO的BP神经网络训练方法
来源:热点论文    [ 2009-3-20 18:48:31 ]    作者:郭聪莉  朱莉…    编辑:论文

间的随机数。              8) end for      9) for i=1:1:m     10) 按式(1)计算 ;按式(2)计算 ;     11) end for     12) end while     13) 以所得权值阈值为初始值用BP算法对网络进行训练    上述流程中,1)到12)用标准PSO算法对权值和阈值进行训练,13)对PSO输出的权值和阈值作为初始值用BP算法训练网络(MATLAB中有集成的训练函数)。另外,,其中 是第I个粒子的位置;V= ,其中 是第I个粒子的速度; 是m个粒子迄今搜索到的最优适应值,其对应的粒子位置矩阵是p= ; 是粒子群迄今搜索到的最优适应值,对应的最优粒子位置是 ,粒子数m选定为30个。 3  结果分析     本实例中随机选取机输入和输出矩阵,如:p=[0 0 0 0 0;1 0 0 0 1;0 1 0 0 1; 0 0 1 0 0; 0 0 0 1 0];t=[0 0 0 0; 1 0 0 0; 0 1 0 0; 0 0 1 0; 0 0 0 1]。由于P是五行的矩阵,所以网络输入层的神经元个数为:5个,T为五行矩阵,故输出层神经元个数为:5个 ,隐含层神经元个数为:6个。     首先观察一下PSO算法中的适应值(fitness)的变化过程,图1中,实线表示适应值的平均值,虚线表示是最优适应值。从图中可以看出适应值迅速的选择过程。 图1  fitness的变化过程曲线   转贴于 热点论文网 http://www.lwhot.cn  图2为用PSO—BP算法和BP算法在训练误差精度为0.002的情况下的误差演化曲线:(a)为PSO—BP算法训练误差演化曲线,所用时间是20.422000s。(b)为常用BP算法训练误差演化曲线,对权值的训练采用的是梯度下降法,所用时间是27.172000s。从图中可以看到:PSO—BP算法的迭代次数远远小于BP算法,并且训练时间也缩短了。

(a)  


                                                                    (b) 图2 
    为了充分说明实验结果,笔者做了多次反复实验,实验结果如下表:在训练误差精度为0.002的情况下,十次试验中PSO—BP算法的平均迭代次数远小于BP算法,收敛时间较接近。 算法 次数 BP算法 PSO—BP算法 迭代次数 收敛时间 迭代次数 收敛时间 1 1587 35.797000 717 19.547000 2 1051 23.172000 794 33.390000 3 917 18.281000 683 27.813000 4 809 16.282000 879 33.265000 5 1323 33.125000 1097 30.218000 6 2146 43.766000 931 26.046000 7 1161 23.641000 568 17.391000 8 530 14.687000 736 25.782000 9 1415 26.750000 869 27.625000 10 1227 24.172000 953 29.422000 平均值 1216.6 25.967300 822.7 27.04990


 

4  结论     本次试验中对BP算法和PSO—BP算法进行了对比试验,试验结果证明:PSO—BP算法优于BP算法。具体表现在:学习算法的收敛速度有所提高;BP算法中的局部极小问题常令学习结果不满意,PSO的全局优化能力使问题得到解决。 参考文献 [1]Martin T.Hagan , Howard B.Demuth, Mark H.Beale,著,戴葵,等译.《神经网络设计》.机械工业出版社,2002年9月 [2]徐丽娜 编著.《神经网络控制》.电子工业出版社,2003年2月 [3]高隽 编著.《人工神经网络原理及仿真实例》.机械工业出版社,2003年8月 [4]Zbigniew Michalewicz ,David B.Fogel 著,曹宏庆,李艳,董红斌,吴志健,译.《如何求解问题——现代启发式方法》.中国水利水电出版社,2003年2 月 [5]阳明盛,熊西文,林建华,编著.《MATLAB基础及数学软件》.大连理工大学出版社,2003年8月 [6]Tom M.Mitchell,著,曾华军,张银奎 等译.《机器学

上一页  [1] [2] [3] 下一页

  • 【 】 【 】【 】【 】
  • 下一篇论文: 基于IOCP的局域网监控系统
  •  

    赞助本站

    人工智能实验室
    AiLab云推荐
    展开

    热门栏目HotCates

    Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港