摘要:近日,浙江大学潘纲教授和林芃研究员首次实现了一种基于新型类脑器件、可以实现多种复杂编码方式的人工神经元,弥补了以往神经元单元硬件部署开销大及仿生功能单一等不足。
近日,浙江大学潘纲教授和林芃研究员首次实现了一种基于新型类脑器件、可以实现多种复杂编码方式的人工神经元,弥补了以往神经元单元硬件部署开销大及仿生功能单一等不足。
图 | 从左到右:林芃、潘纲、肖宇、刘毅泽、张碧华、陈鹏(来源:课题组)
在神经元的设计上,课题组提出了利用快慢子动力学交互实现复杂神经编码的硬件设计思路来构建神经元单元,用快慢子变量模拟不同离子通道的动态行为,可以在较小的硬件开销下实现不同的脉冲发放形式。
在硬件实现上,课题组提出两种类脑器件的异构集成方法,利用 Mott 忆阻器高效脉冲发生能力及电化学随机存储器(ECRAM,Electrochemical Random - Access Memory)精确状态调控能力,高效实现了人工神经元单元不同放电模式间的便捷切换。相较于以往神经元研究需要更改电路元件或电路刺激来实现多样化发放,其具有仿生度高、功能丰富可调、硬件开销低等显著优势。
在神经元的功能验证上,课题组展示了动态行为更加丰富的发放模式对于神经网络准确率与工作效率的同步优化。
总的来说,本次成果突破了以往复杂神经元电路发放行为难以重构的难题,为脑启发计算系统的实现提供了一种新颖的硬件解决方案。
本次工作涉及到一个神经元电路单元的设计,在功能和性能方面展现出一些优势,研究团队将致力于实现这类神经元单元的规模化集成,构建具备神经网络高效部署与运行能力的类脑芯片,将其广泛用于边缘计算、脑机接口、类脑计算系统等场景中,实现对环境信息的实时感知和智能处理,提高系统的智能化水平,推动人工智能技术的发展。
如何在芯片中实现复杂神经编码模式的调整?
多年来,研究团队致力于类脑计算技术的研究。当前,利用新型类脑器件比如忆阻器来模拟生物神经元与突触单元,是解决类脑计算算法高效部署运行的关键技术。
在以往的工作中,该团队研发了多种面向不同神经网络功能加速的人工突触器件 [1-4]。在神经元器件研究方面,国内外进展还较初步,但也面临着多方面的挑战。
传统的类脑芯片上通常依赖于互补金属氧化物半导体(CMOS,Complementary Metal - Oxide - Semiconductor)电路模拟神经动力学特性,包括实现一些复杂神经元模型比如 Hodgkin-Huxley 模型。
虽然这样也能模拟生物神经元中多样化的放电模式,但是由于晶体管缺乏本征的神经动力学特性,其电路结构十分复杂,硬件开销太大,阻碍了在硬件系统中大规模的集成应用。
另一方面,简化的神经元模型比如 Leaky-integrate-fire 模型,它的实现开销相对较小,但是脉冲发放模式单一,计算能力又会受到制约。
在这种情况下,研究团队开始探索底层器件和硬件设计上的创新来实现高效复杂神经元电路。在工作开展之后,他们又发现虽然现有复杂神经元电路可以实现不同的脉冲发放模式,但是这要求对硬件的元器件进行参数修改(如电容、电阻值)或替换,这种参数修改在芯片制备完成后是很难实现的,所以在芯片中实现复杂神经编码模式的调整又是一个新的挑战。
在这样的背景下,课题组开始了关于本次神经元的研究,期望为脑启发计算系统的高效硬件部署提供支持。
成功展示神经元电路的发放性能
通过梳理神经元单元设计的挑战与创新点,研究团队意识到要突破当前神经元设计的瓶颈,就必须从神经元电路的核心器件入手,最终制定了这篇论文的大概思路。
在课题确定之后,该团队展开了最为关键的器件选型与设计阶段。期间经过反复筛选和对比,最终选择了 Mott 忆阻器和 ECRAM 这两种新型的类脑器件,以便能从不同的角度模拟生物神经动力学特性。
进一步地,课题组受到经典快-慢神经元电路分析方法的启发,设计了一种异构集成的可重构高阶神经元电路架构。
然而,新器件的研究还需伴随着大量的重复实验,期间他们不断地调整器件加工制备参数。
期间,如何用简单的电路开发能实现多种复杂神经编码的神经元,这个问题一直困扰着研究团队。后来,他们接触到神经元模型中快-慢变量分析方法,这让其受到极大的启发。
于是,他们将这一思想融入到电路设计,通过加入一组快慢电容巧妙实现了神经元电路两个尺度动态行为的交互,这不仅产生了复杂的脉冲编码行为,并且所搭建的电路具备良好的性能。
总之,经过多次针对器件性能与电路设计的优化,研究团队成功展示了这种神经元电路的发放性能,证明其不仅仿生度高、功能丰富且可调,并能大大降低硬件开销。
日前,相关论文以《生物可信的可重构尖峰神经元用于神经形态计算》(Bio-plausible reconfigurable spiking neuron for neuromorphic computing)为题发表在 Science Advances[5]。
浙江大学博士生肖宇和博士生张碧华以及本科生刘毅泽是共同一作,浙江大学潘纲教授、林芃研究员与西湖大学孔玮研究员担任共同通讯作者。
图 | 相关论文(来源:Science Advances)
目前,本次工作只是一个基于单器件的研究,仅仅展现了一些原型验证,还无法直接运用到类脑计算中。
眼下,该团队正在开展更加深入的工作,重点是实现这样器件的规模化集成,当然这也充满许多挑战。
首先,需要提高器件的性能,通过进一步改进器件材料和制备工艺,优化 Mott 忆阻器和 ECRAM 的器件能力,提高器件的稳定性和可靠性,满足规模化集成要求。
其次,在大规模集成过程中,还得考虑不同单元间的互联访问,需要结合软件算法的运行特点设计集成架构。
通过上述努力,研究团队希望在接下来的一两年间研制出类脑芯片,将其用于实际场景之中,真正实现类脑计算高效部署运行。
来源:东窗史谈一点号