5.7 阅读材料

• Haykin是很好的神经网络教科书，Bishop则偏重机器学习和模式识别。神经网络领域的主流期刊有neural computation，neural networks，IEEE transactions on Neural and Learning Systems。主要的国际学术会议有国际神经信息处理系统会议（NIPS），和国际神经网络联合会议（IJCNN，区域性国际会议主要有欧洲神经网络会议（ICANN）和亚太神经网络（ICONIP）
• M -P 神经元模型使用最为广泛，但是还有一些神经元模型也受到关注，如考虑到了电位脉冲发送时间不仅仅是累积电位的脉冲神经元模型。
• BP算法是由Werbos提出来，此后Rummelhart重新发明。BP算法实质上是LMS算法的推广。LMS试图将网络的输出均方误差最小化，可用于神经元激活函数可微的感知机学习。将LMS推广到由非线性可微神经元组成的多层前馈网络，就得到了BP算法。因此BP算法亦称为广义 设个吗规则
• Mackay在贝叶斯框架下提出了自动确定神经网络正则化参数的方法，Gori 和 Tesi对BP的局部极小化问题进行了详细的讨论。Yao 综述了利用以遗传算法为代表的演化计算技术来生成神经网络的研究工作。对BP算法的改进由大量的研究，例如为了提速，可在训练过程中自适应缩小学习率，即先使用较大的学习率然后再逐步的减小。
• 关于RBF（radial basis function ）网络训练过程可以参阅Schwenker介绍了ART族算法，SOM网络在聚类，高维数据可视化，图像分割等方面有广泛的应用。可参阅Kohonen综述了深度学习方面的研究进展。
• 神经网络是一种按难以解释的黑箱模型，但是已有的一些工作尝试改善神经网络的可解释性，主要途径是从神经网络抽取已于理解的符号。