10月19日,记者从位于广东深圳的鹏城实验室获悉,该实验室田永鸿团队与中国科学院自动化研究所研究员李国齐合作构建并开源深度脉冲神经网络学习框架“惊蜇”,可提供全栈式的脉冲深度学习解决方案,将促进脉冲深度学习领域的研究和应用。相关研究成果发表在《科学·进展》上。
脉冲神经网络被誉为第三代神经网络,因其既是神经科学中研究大脑原理的基本工具,又具有稀疏计算、事件驱动、超低功耗的特性备受关注。
鹏城实验室网络智能研究部副主任、北京大学深圳研究生院信息工程学院院长田永鸿介绍,由于传统脉冲神经网络框架更多地关注生物可解释性,致力于构建精细脉冲神经元并仿真真实生物神经系统,并不支持自动微分,无法充分利用GPU的大规模并行计算能力,也缺乏对神经形态传感器和计算芯片的支持,因此难以用于脉冲深度学习任务。
为解决上述问题,鹏城实验室田永鸿团队构建并开源了脉冲神经网络深度学习框架“惊蜇”,可提供全栈式的脉冲深度学习解决方案,支持神经形态数据处理、深度脉冲神经网络构建、替代梯度训练、人工神经网络转换脉冲神经网络、权重量化和神经形态芯片部署等功能。
“‘惊蜇’框架具有简单易用、扩展性强、超高性能等优势。”田永鸿介绍,“鹏城云脑”大科学装置在框架开发过程中提供了充足的算力保障。