内容简介
本书主要讲述神经网络的基本概念,介绍实用的网络模型、学习规则和训练方法。全书分19章,内容涵盖神经元模型和网络结构、感知机学习规则、有监督的Hebb学习、Widrow—Hoff学习算法、反向传播算法及其变形、联想学习、竞争网络、Grossberg网络、自适应谐振理论和Hopfield网络。书中注重对数学分析方法和性能优化的讨论,强调神经网络在模式识别、信号处理以及控制系统等实际工程问题中的应用。同时本书包含大量例题、习题,并配有基于MATLAB软件包的“神经网络设计演示”程序。本书可以作为大学高年级本科生或一年级研究生的神经网络课程教材,也可供从事相关研究工作的科技人员参考。
目录
第1章 绪论
1.1 目的
1.2 历史
1.3 应用
1.4 生物学的启示
参考文献
第2章 神经元模型和网络结构
2.1 目的
2.1 理论和实例
2.2.1 符号
2.2.2 神经元模型
2.2.3 网络结构
2.3 小结
2.4 例题
2.5 结束语
习题
第3章 一个说明性实例
3.1 目的
3.2 理论和实例
3.2.1 问题描述
.3.2.2 感知机
3.2.3 hamming网络
3.2.4 hopfield网络
3.3 结束语
习题
第4章 感知机学习规则
4.1 目的
4. 2 理论和实例
4.2.1 学习规则
4.2.2 感知机的结构
4.2.3 感知机学习规则
4.2.4 收敛性证明
4.3 小结
4.4 例题
4.5 结束语
参考文献
习题
第5章 信号和权值向量空间
5.1 目的
5.2 理论和实例
5.2.1 线性向量空间
5.2.2 线性无关
5.2.3 生成空间
5.2.4 内积
5.2.5 范数
5.2.6 正交性
5.2.7 向量展开式
5.3 小结
5.4 例题
5.5 结束语
参考文献
习题
第6章 神经网络中的线性变换
6. 1 目的
6.2 理论和实例
6.2.1 线性变换
6.2.2 矩阵表示
6.2. 3 基变换
6.2. 4 特征值和特征向量
6.3 小结
6.4 例题
6.5 结束语
参考文献
习题
第7章 有监督的hebb学习
7.1 目的
7.2 理论和实例
7.2.1 线性联想器
7.2.2 hebb规则
7.2.3 仿逆规则
7.2.4 应用
7.2.5 hebb学习的变形
7.3 小结
7.4 例题
7.5 结束语
参考文献
习题
第8章 性能曲面和最优点
8.1 目的
8.2 理论和实例
8.2.1 泰勒级数
8.2.2 方向导数
8.2.3 极小点
8.2.4 优化的必要条件
8.2.5 二次函数
8.3 小结
8.4 例题
8.5 结束语
参考文献
习题
第9章 性能优化
9.1 目的
9.2 理论和实例
9.2.1 最速下降法
9.2.2 牛顿法
9.2.3 共扼梯度法
9.3 小结
9.4 例题
9.5 结束语
参考文献
习题
第10章 widrow-hoff学习算法
10.1 目的
10.2 理论和实例
10.2.1 adaline网络
10.2.2 均方误差
10.2.3 lms算法
10.2.4 收敛性分析
10.2.5 自适应滤波
10.3 小结
10.4 例题
10.5 结束语
参考文献
习题
第11章 反向传播
11.1 目的
11.2 理论和实例
11.2.1 多层感知机
11.2.2 反向传播算法
11.2.3 例子
11.2.4 反向传播
11.3 小结
11.4 例题
11.5 结束语
参考文献
习题
第12章 反向传播算法的变形
12.1 目的
12.2 理论和实例
12.2.1 bp算法的缺点
12.2.2 bp算法的启发式改进
12.2.3 数值优化技术
12.3 小结
12.4 例题
12.5 结束语
参考文献
习题
第13章 联想学习
13.1 目的
13.2 理论和实例
13.2.1 简单联想网络
13.2.2 无监督的hebb规则
13.2.3 简单的识别网络
13.2.4 instar规则
13.2.5 简单回忆网络
13.2.6 outstar规则
13.3 小结
13.4 例题
13.5 结束语
参考文献
习题
第14章 竞争网络
14.1 目的
14.2 理论和实例
14.2.1 hamming网络
14.2.2 竞争层
14.2.3 生物学意义上的竞争层
14.2.4 自组织特征图
14.2.5 学习向量量化
14.3 小结
14.4 例题
14.5 结束语
参考文献
习题
第15章 grossberg网络
15.1 目的
15.2 理论和实例
15. 2.1 生物学的启发:视觉
15.2.2 基本非线性模型
15.2.3 两层竞争网络
15.2.4 与kohonen规则的关系
15.3 小结
15.4 例题
15.5 结束语
参考文献
习题
第16章 自适应谐振理论
16.1 目的
16. 2 理论和实例
16.2.1 自适应谐振概述
16.2.2 第一层
16.2.3 第二层
16.2.4 调整子系统
16.2.5 学习规则:l1-l2
16.2.6 学习规则:l2-l1
16.2.7 art1算法小结
16.2.8 其他art体系结构
16.3 小结
16.4 例题
16.5 结束语
参考文献
习题
第17章 稳定性
17.1 目的
17.2 理论和实例
17.2.1 递归网络
17.2.2 稳定性概念
17.2.3 lyapunov稳定性定理
17.2.4 单摆例子
17.2.5 lasdlle不变性定理
17.3 小结
17.4 例题
17.5 结束语
参考文献
习题
第18章 hopfield网络
18.1 目的
18.2 理论和实例
18.2.1 hopfield模型
18.2.2 lyapunov函数
18.2.3 增益效应
18.2.4 hopfield网络设计
18.3 小结
18. 4 例题
18.5 结束语
参考文献
习题
第19章 结束语
19.1 目的
19.2 理论和实例
19.2.1 前馈和联想网络
19.2.2 竞争网络
19。2.3 动态联想存储器网络
19.2.4 神经网络的经典基础
19.2.5 参考书目和杂志
19.3 结束语
参考文献
附录a 文献目录
附录b 符号
附录c 软件
索引
译者序
本书全面、系统地介绍了神经网络系统的相关知识。主要内容包括:神经元模型和网络结构,感知机学习规则,有监督的Hebb学习,Widrow—Hoff学习算法,反向传播神经网络,反向传播算法的变形,联想学习,竞争网络,Grossberg网络,自适应谐振理论以及Hopfield网络等。重点是对这些神经网络的数学分析、训练方法、性能优化,以及神经网络在模式识别、信号处理以及控制系统等工程实践问题中的应用。
本书在叙述神经网络每个特定的主题之前,都会有一些相关材料的介绍和数学基础知识的讨论,使读者能够由浅入深地学习。书中每一章都由“目的”、“理论和实例”、“小结”、“例题”、“结束语”、“参考文献”和“习题”等部分组成。“理论和实例”部分是各章的主体部分,包含神经网络结构和算法的基本思想,以及相应的说明实例。“小结”部分列出每一章的重要公式和概念,为读者归纳出一章的核心内容。每章的“例题”部分占用大量篇幅,给出详细说明关键概念的应用实例。
本书是为高年级本科生或一年级研究生编写的神经网络课程教材,也可供从事相关研究工作的科技人员参考。本书附有使用软件包MATLAB的多种“神经网络设计演示”(Neural Network Design Demonstration )程序。另外,和本书配套的有教学投影胶片和习题答案,为实施课程的教学提供便利。
参加本书翻译工作的人员有戴葵、宋辉、谭明峰、防洪毅、沈立、刘芳、王蓉晖、王蕾、赵学秘、李宗伯等同志。本书的翻译,由于时间仓促,难免还存在不少不足之处,恳请广大读者给予批评指正。
译 者
2002年3月