郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布!
ABSTRACT
人工神经网络在模式识别、控制、机器人技术和生物信息学等领域已经成为一种强大的处理工具。它们的广泛应用鼓励研究人员通过研究生物大脑来改进人工神经网络。近年来,神经研究取得了显著进展,并不断揭示出生物神经元的新特征。新技术现在可以更详细地捕捉大脑内部活动的时间变化,并有助于澄清大脑活动与对给定刺激的感知之间的关系。这一新知识催生了一种新型的人工神经网络,即脉冲神经网络(SNN),它更忠实地利用生物特性,提供更高的处理能力。本文对近年来在脉冲神经元学习方面的研究进展进行了综述。首先回顾了SNN学习算法的生物学背景。然后介绍了学习算法的重要组成部分,如神经元模型、突触可塑性、信息编码和SNN拓扑结构。然后,对单脉冲和多脉冲SNN的最新学习算法进行了评述。此外,本文还回顾了深度脉冲神经网络,并讨论了SNN领域的挑战和机遇。
1. Introduction
人脑是一个非常复杂的系统,由大约900亿个神经元构成(Azevedo et al., 2009)。它的结构是由数万亿个相互连接的突触组成的。信息在神经元之间通过称为脉冲的电脉冲传递。突触前神经元向接收神经元发送的脉冲效应取决于连接这两个神经元的突触强度。神经元间的突触强度和连接方式对神经系统的信息处理能力有重要影响。大脑解决复杂问题的处理能力激发了许多研究者去研究它的处理功能和学习机制。人工神经网络(ANN)作为解决复杂问题的一种强大而灵活的计算手段,是对大脑处理功能进行研究的结果。
人工神经网络受到生物神经系统的启发,并成功地应用于各种应用(Hinton et al., 2012;Hinton, Osindero & Teh, 2006;Hinton & Salakhutdinov, 2006)。然而,与它们的生物对应物(Pham, Packianather & Charles, 2008)相比,它们的高度抽象性和捕捉生物神经元复杂的时间动力学的能力,导致了ANN的一个新领域,其重点放在更具生物合理性的神经元模型上,称为脉冲神经网络(SNN)。由于SNN能够捕捉生物神经元的丰富动态,再现和整合不同的信息维度,如时间、频率和相位,因此它提供了一种很有前途的计算范式,并有可能在大脑中模拟复杂的信息处理(Brette et al., 2007;Gerstner & Kistler, 2002;Hodgkin & Huxley, 1952; Izhikevich, 2004, 2006;Kasabov, Dhoble, Nuntalid & Indiveri, 2013;Maass & Zador, 1999)。SNN还具有处理大量数据和使用脉冲序列进行信息表示的潜在能力(Kasabov et al., 2013)。此外,SNN适合在低功耗硬件上实现。
人们普遍认为,尖峰(即脉冲或动作电位)代表神经元电压的短暂和突然增加,用于神经元之间的信息传递(Gerstner&Kistler,2002)。在计算神经科学界,通过尖峰来编码信息仍然是一个争论的问题。此前,人们认为大脑通过峰值速率编码信息(Masquelier&Deco,2013)。然而,神经生物学的研究发现表明,大脑中的高速处理不能仅通过速率编码方案来完成(Brette,2015)。研究表明,人的视觉处理可以在不到100毫秒的时间内利用多层神经元(从视网膜到颞叶)完成识别任务。每个神经元大约需要10毫秒的处理时间。因此,时间窗口太小,无法进行速率编码(Thorpe,Delorme,&Van Rullen,2001;Vreeken,2003)。电鱼电感觉系统(Heiligenberg,1991)和回声定位蝙蝠听觉系统(Kuwabara&Suga,1993)中的快速信息处理是生物神经系统中高速信息处理的另一个例子。高速处理任务可以使用精确的尖峰计时来执行(Vreeken,2003)。此外,在刺激的速率编码中触发如此多的峰值需要相当多的能量和资源。此外,在一小群尖峰神经元中,尖峰的精确计时具有更高的信息编码能力(Paugam Moisy&Bohte,2012)。因此,很明显,单个尖峰的精确计时,而不仅仅是尖峰的数量或发射率,很可能传递信息。