作者:李国齐等 来源:《IEEE模式分析与机器智能汇刊》 发布时间:2023/2/14 14:02:26
选择字号:
科学家提出注意力脉冲神经网络

 

近日,中国科学院自动化所脑图谱与类脑智能实验室研究员李国齐与西安交通大学教授赵广社合作,在IEEE Transactions on Pattern Analysis and Machine Intelligence(TPAMI)上,发表了题为Attention Spiking Neural Networks的研究论文。该工作将注意力机制融入百万级规模脉冲神经网络,在ImageNet-1K数据集上首次取得了与传统人工神经网络相当的性能,且理论能效为同等结构人工神经网络的31.8倍。这一方法在显著提升任务性能的同时能够大幅降低网络能量消耗,为低功耗神经形态系统的发展提供了新思路。

近年来,以传统人工神经网络为代表的深度学习在一些任务上展现出接近或超越人类的能力。在取得这些成就的同时,人类付出了海量的能耗代价。而人脑能够以极低地能耗高效完成相同或更复杂的任务。如何使得机器智能像人脑一样高效工作是科学家孜孜以求的目标。基于脉冲神经网络的神经形态计算提供了极具吸引力的传统人工智能的低能耗替代方案。脉冲神经元模拟了生物神经元中的复杂时空动态,其表达能力在理论上强于现有的人工神经元。同时,脉冲神经元继承了生物神经元中的脉冲通信方式,这是脉冲神经网络实现低功耗的关键。一方面,在神经形态系统中只需要执行低能耗的突触加法;另一方面,事件驱动特性使得只有脉冲神经元发放脉冲时神经形态系统才会触发计算。因此,如何以低脉冲发放率实现高任务性能是神经形态计算中的重要问题。人脑可以自然而有效地在复杂场景中找到重要信息,被称为注意力机制。注意力机制被广泛应用于深度学习,并取得显著效果。然而,在神经形态计算领域的应用仍颇具挑战性。

为了将注意力机制融入脉冲神经网络中,需要考虑三个基础问题。一是脉冲神经网络高能效的关键是以脉冲通信为基础的事件驱动特性,注意力机制不能破坏这种特性。二是脉冲神经网络应用场景广泛,需要有多样性的设计以保证其在各种场景中的有效性。三是二进制脉冲通信使得深度脉冲神经网络易出现由梯度消失或爆炸带来的性能退化问题,注意力机制的加入至少不应加剧退化问题。

如图1所示,人脑中注意力的功能实现主要体现在对不同脑区或神经元脉冲发放的调节。受此启发,该研究通过注意力机制来优化脉冲神经网络内部的膜电势分布,关注重要特征并抑制不必要的特征,进而起到调节脉冲发放的作用。网络架构如图2所示。进一步,为了使注意力脉冲神经网络适应于各种应用场景,如图3所示,该研究融合了时间、通道和空间三个维度,以学习“何时”“什么”“哪里”是重要的。

图1.大脑在多层级结构上存在注意力机制

图2.多维度注意力脉冲神经网络,注意力机制被用来调节膜电势分布

图3.时间、通道、空间维度注意力机制示意图

科研团队在基于事件的动作识别数据集以及静态图像分类数据集ImageNet-1K上对提出的多维度注意力脉冲神经网络进行实验。实验表明,注意力模块的加入帮助脉冲神经网络在性能上有显著提升,网络中的脉冲数量也能降低,从而降低模型能耗。在DVS128 Gait数据集上,多维度注意力模块能够使得原始脉冲神经网络降低81.6%的脉冲发放,同时带来4.7%的性能提升(表1)。在ImageNet-1K数据集上,注意力脉冲神经网络首次取得了与传统人工神经网络相当的性能,且理论能效为同等结构人工神经网络的31.8倍(表2)。

表1.在DVS128 Gesture/Gait上结果性能对比

表2.在ImageNet-1K上结果性能对比

该研究还提出了新的可视化方法用来分析为何所提出的注意力模块能够在降低脉冲发放的同时提升网络性能。如图4、图5所示,加入了注意力机制的脉冲神经网络在专注重要信息的同时,能够抑制不重要的背景噪声信息(特征图中的每个像素点代表一个神经元发放率。颜色越红代表发放率越大;越蓝代表发放率越小)。而在所有的特征图中,噪声特征图或神经元中的脉冲发放率均较高。因此,抑制噪声信息能够显著降低网络中的脉冲发放。

图4.Gait数据集中的案例分析

图5.DVS128 Gait数据集中的脉冲响应;注意力机制能够显著抑制背景噪声

进一步,该研究通过块动态等距理论证明将所提出的注意力模块加入到深度脉冲神经网络中仍能实现动态等距。也就是说,注意力模块在深度脉冲神经网络中不会引起性能退化。

综上,本工作探索了如何在脉冲神经网络中使用注意力机制,发现了通过将注意力机制作为辅助模块插入到脉冲神经网络中能够在大幅降低网络脉冲发放的同时显著提升任务性能。通过可视化原始和注意力脉冲神经网络的脉冲响应可知,注意力机制可帮助原始网络在专注重要信息的同时抑制噪声信息,而噪声通道或神经元中包含大量的脉冲。因此,在基于脉冲神经网络的神经形态计算中,能够实现像人脑一样以更低的能耗获得更好的性能。

研究工作得到北京市杰出青年科学基金、国家自然科学基金重点项目、联合基金项目区域创新发展联合基金等的支持。北京大学、清华大学的科研人员参与研究。(来源:中国科学院自动化研究所)

相关论文信息:https://doi.org/10.1109/TPAMI.2023.3241201

 

特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
冰表面长啥样?原子级分辨图像揭晓答案 北方中纬高频雷达网发布首批科学探测结果
“双星计划”:开启中国空间科学新纪元 河西走廊内陆河出山径流研究揭示新趋势
>>更多
 
一周新闻排行
 
编辑部推荐博文