NCE编辑优选:基于脉冲神经网络的有限状态机通用稳定模拟

文章介绍
通讯作者:
- 邓磊,清华大学,精密仪器系、类脑计算研究中心
- 郭浩,太原理工大学,计算机科学与技术学院
研究背景:
有限状态机(FSM)是离散状态系统的核心模型,但其依赖显式状态分解,难以建模复杂黑盒系统且易引发状态爆炸问题。人工神经网络虽擅长处理连续系统,但其连续状态与FSM的离散逻辑不兼容,导致长时稳定性和精确性不足。现有基于离散时间循环神经网络(DTRNNs)的方法因连续密集状态向量与FSM离散稀疏逻辑冲突,存在时间稳定性差、编码复杂等局限。受生物脉冲神经网络(SNNs)启发,该文提出离散时间脉冲循环神经网络(DTSRNNs),充分利用SNN的离散脉冲特性,并结合one-hot编码增强状态可区分性,解决传统DTRNNs模拟FSM时存在的局限性问题。通过构建随机FSM数据集开展系统性实验,验证了DTSRNNs在长序列任务中的稳定性和抗噪性优势,揭示其通过学习隐含长期模式提升鲁棒性的机制,为高精度和高稳定时序系统建模提供新范式。
研究方法:
该研究提出离散时间脉冲循环神经网络(DTSRNN),充分利用SNN的离散脉冲特性,结合one-hot编码增强状态向量的稀疏性和可区分性,将脉冲神经元的离散脉冲动力学特性与FSM的离散状态转移逻辑紧密结合。模型采用双层循环结构(如图a所示),基于泄漏积分发放(LIF)神经元实现状态更新,并构建随机FSM数据集系统评估性能,涵盖不同输入规模、状态复杂度及噪声干扰场景。训练中采用时空反向传播算法优化网络参数,结合均值平方误差损失函数,通过准确率、转移准确率和衰退周期综合量化模型能力。
实验表明,结合SNN和one-hot编码能够显著提升模型对复杂FSM的模拟能力,DTSRNN在时间稳定性与抗干扰性上优于传统离散时间循环神经网络(DTRNN),其衰退周期显著延长且在高噪声环境下仍保持稳定输出。图b展示了不同模型在噪声干扰下的状态转移结果,DTSRNN模型相比传统的DTRNN模型有着显著的纠错机制,可通过膜电位记忆机制捕获FSM的长期依赖模式,有效抑制状态漂移,而DTRNN因依赖短期状态转移易受错误累积影响。成果创新在于首次将脉冲神经动力学与FSM离散特性深度融合,提出系统性评估框架,揭示了SNN在时序建模中的内在稳定机制,为复杂控制系统的精准仿真及噪声环境下的鲁棒应用提供了理论支撑与方法突破。

作者介绍

邓磊 副教授
清华大学
- 邓磊,清华大学精密仪器系、类脑计算研究中心,副教授、博士生导师,国家高层次青年人才,IEEE Senior Member。从事类脑智能技术研究超过12年,在Nature、Nature Communications、PIEEE、IEEE TPAMI、IEEE JSSC、ICML、ICLR等发表论文100余篇,包含4篇封面论文和5篇ESI高被引论文,谷歌学术引用10000余次,获授权发明专利30余项。担任Frontiers in Neuroscience期刊副主编、中国人工智能学会脑机融合与生物机器智能专委会委员、中国认知科学学会计算神经工程专委会委员和多个国际会议分论坛主席和程序委员会委员。曾入选ScholarGPS全球前0.05%顶尖学者和Elsevier全球前2%顶尖科学家榜单、金国藩青年学子奖、北脑青年学者、吴文俊人工智能优秀青年奖和MIT TR 35 China等,代表性成果曾获中国科学十大进展、世界互联网领先科技成果、北京市自然科学一等奖、中国计算机学会技术发明一等奖和日内瓦国际发明展金奖等奖项。

郭浩 教授
太原理工大学
- 郭浩,太原理工大学计算机科学与技术学院,教授、博士生导师,人工智能系主任。担任中国计算机学会高级会员、山西省计算机学会第九届理事会监事、山西省专家学者协会信息分会理事,入选山西省首批“三晋英才”支持计划青年优秀人才、山西省科技厅首批“科技副总”、山西省晋城市第二批科技特派员、山西省专家学者协会零壹智库特聘专家。
期刊介绍

- 2023年影响因子:5.8 Citescore: 5.9
- Neuromorphic Computing and Engineering(NCE)是一本涵盖多个学科领域、采用开放获取(OA)形式出版的期刊。NCE期刊将神经形态系统的硬件和计算方面结合在一起,读者群覆盖工程、材料科学、物理、化学、生物学、神经科学和计算机科学等领域,跨越学术界和产业界的各个群体。在NCE期刊上发表的研究需针对神经形态系统和人工神经网络领域做出及时而重要的贡献。