|
|
|
|
|
较GPU提速高达478.18倍,首款毫秒级神经动力学芯片问世 |
|
|
想要让一块芯片,像大脑的神经网络一样解构、重建、处理一个复杂的数学任务,至少需要十几分钟,而我国科学家提出的最新研究成果,有望将这个时间大大缩短至毫秒级。
7月2日,北京大学深圳研究生院信息工程学院院长杨玉超团队,联合中国科学院上海微系统与信息技术研究所研究员宋志棠团队等在《科学》发表最新研究成果。研究团队首次提出了一种毫秒级神经动力学系统芯片,将神经动力学系统的单步运算时延压缩至2.12毫秒。
该芯片采用40纳米制程,较当前最先进的专用加速器实现3.82至36.27倍速度提升,以及11.75至24.73倍功耗降低;在脑皮层表面重建等高保真脑建模任务中,较英伟达GPU提速达50.38至478.18倍。
这一成果不仅将原本需要离线运行的复杂建模方法推向毫秒级实时在线操作,也为下一代脑机接口、脑数字孪生、神经导航和神经退行性疾病智能诊疗提供了全新的硬件底座。
部分作者实验室合影(从左到右:蔡磊、杨玉超、张腾)。研究团队供图
半个世纪的“数据搬运”困局
大脑是自然界最复杂的动力学系统之一。脑机接口要实时解析神经状态,医学影像要高精度重建脑皮层,都依赖对连续神经形态和动态过程的快速建模。
而神经动力学系统,指的是让机器像大脑一样,能够实时建模和理解物理世界的计算框架,它将神经系统的表达能力和微分方程中的连续演化机制相结合,在物理世界建模、计算成像等领域应用前景广阔。
然而,神经动力学系统自1980年初次提出以来,始终面临一个核心挑战:如何在保持高精度连续建模能力的同时,实现低延迟实时计算?
“主要的原因是计算量太大了。”论文通讯作者杨玉超解释道。传统的计算框架(冯·诺依曼架构)中,存储器和处理器是分开的,在计算过程中,数据就像“运快递”一样,要在存储器和处理器之间来回搬运。
而基于传统计算框架的神经动力学系统,在计算过程中,需要反复进行积分运算、误差控制,并根据误差调整步长,步长太大就会导致结果不稳,步长太小则会导致算不完,需要不断循环、判断和迭代。成为实时高保真脑建模的核心瓶颈。神经动力学系统在计算过程中,产生的海量数据变量,需要在存储器与处理器之间频繁搬运,进一步放大了延迟和能耗,成为实时高保真脑建模的核心瓶颈。
神经动力学芯片首次实现毫秒级运行
针对这一难题,研究团队另辟蹊径,从忆阻器器件的物理特性找到了突破口。
相变存储器是忆阻器的一种,它有一种独特的“电导漂移”现象——在特定的时间窗口内,其电导变化是可预测、可精准调控的。他们敏锐地抓住了这一物理特性,将其与神经动力学系统中的自适应积分过程建立对应关系,使器件本身的电导演化不再只是存储状态的变化,而成为可被精确利用的原位计算过程。
“通俗地讲,原本需要复杂数字电路反复执行的运算、缓存访问、数据搬运等工作,现在交给了器件自身的物理规律去‘跑’。”杨玉超说道。
基于这一发现,团队提出细粒度可控电导演化机制,将有效积分步长直接编码为相变存储器的电导状态,并利用器件自身物理演化完成自适应步长搜索。原本需要由数字电路反复计算、比较和判断的步长选择过程,被转化为阵列中的原位物理计算过程。
这一设计突破了神经动力学系统半个世纪以来精度与延迟相互制衡的核心瓶颈。通过“可控存内计算”机制,从根本上减少了读写、乘法器、加法器、缓存访问和数据搬运需求,使神经动力学系统的关键计算过程被压缩到毫秒级。
与此同时,团队进一步利用相变存储器的多级电导调控能力,构建高密度存内计算阵列,将神经网络权重存储和矩阵运算统一映射到器件阵列中。自适应步长搜索和神经网络矩阵运算这两类核心计算,被统一集成到相变忆阻器物理系统中,形成了从器件、算法到架构协同设计的“可控存内计算”的新范式
基于这一范式,团队研制出了全球首个基于相变忆阻器的毫秒级神经动力学系统芯片。该芯片采用40纳米工艺制造,存内计算与步长漂移阵列总面积为0.28平方毫米,并配备编程脉冲生成电路、模数转换器等外围电路。芯片运行频率为50兆赫兹,单步积分仅需9级流水,极大降低了延迟,最终实现2.12毫秒的神经动力学单次迭代计算时延,首次将神经动力学硬件系统运行时间推进到毫秒级时代。
实验结果显示,在执行相同神经动力学运算时,该系统较当前最先进的专用加速器(ASIC)实现3.82至36.27倍速度提升,以及11.75至24.73倍功耗降低。在脑皮层表面重建等高保真脑建模任务中,较英伟达GPU(NVIDIA A100 GPU)提速达50.38至478.18倍。
为脑机接口、脑疾病诊疗带来新思路
研究团队将将该芯片用于大脑白质与脑灰质皮层表面的实时重建以及三维流形网格生成。结果表明,该系统能够生成平滑、闭合、拓扑一致的脑皮层表面,准确刻画复杂皮层褶皱结构,并有效抑制传统神经网络方法中常见的自相交和非流形伪影。重建结果在对称表面平均距离和豪斯多夫距离等指标上均显示出优势,满足高保真脑结构建模要求。
“这一突破对脑机接口有重要启示。”杨玉超表示,未来脑机接口不仅需要读取神经信号,更需要实时理解大脑状态、预测神经动力学演化,并根据反馈进行闭环调控。高保真脑建模能够以毫秒级速度运行,有望为脑机接口提供个体化、动态化、可解释的脑状态模型,使脑机系统从简单信号识别走向实时脑状态建模与智能交互。
《科学》杂志同期针对该工作发表的观点评述文章指出,该平台能够以毫秒级的延迟执行高精度计算,为临床影像、机器人和具身智能领域的实时计算奠定了道路。
在医学场景中,该技术也有望支撑脑数字孪生、术中神经导航、脑皮层实时重建和神经退行性疾病辅助诊断。对于阿尔茨海默症、帕金森病等疾病而言,脑结构和脑功能的细微变化往往具有重要临床价值。该项研究可在低功耗硬件上快速完成高保真脑建模,为脑疾病早筛、病程监测和个性化干预提供新的技术路径。
相关论文信息:https://www.science.org/doi/10.1126/science.aee6277
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。