作者:计红梅 来源:中国科学报 发布时间:2024/4/18 18:46:06
选择字号:
11.5 亿个神经元!英特尔发布大型神经拟态系统Hala Point

 

4月17日,英特尔发布了代号为Hala Point的大型神经拟态系统。该系统基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑人工智能(AI)领域的前沿研究,解决目前AI在效率和可持续性等方面遇到的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,支持分布在 140544 个神经形态处理内核上的11.5 亿个神经元和 1280 亿个突触,将神经元容量提高了10倍以上,性能提高了12倍。

英特尔研究院神经拟态计算实验室总监Mike Davies 表示:“目前,AI模型的算力成本正在持续上升。行业需要能够规模化的全新计算方法。为此,英特尔开发了Hala Point,将高效率的深度学习和新颖的类脑持续学习、优化能力结合起来。我们希望使用Hala Point的研究能够在大规模AI技术的效率和适应性上取得突破。”

据介绍,Hala Point基于神经拟态处理器Loihi 2打造。Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在 140544 个神经形态处理内核上的多达 11.5 亿个神经元和 1280 亿个突触,最大功耗仅为 2600 瓦。Hala Point还包括 2300 多个嵌入式 x86 处理器,用于辅助计算。

在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5 PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。 

据悉,在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。

  ?

Hala Point的神经元容量相当于猫头鹰的大脑。英特尔供图 

Hala Point在主流AI工作负载上也展现出了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPU和CPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。

目前,Hala Point仍是一个旨在改进未来商用系统的研究原型。英特尔预计该研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。

 

 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
听导师的话,毕业论文答辩这样准备 大规模基因研究重绘开花植物的生命之树
彭慧胜院士团队把“充电宝”做成衣服 缓解肠易激综合征  饮食比服药更有效
>>更多
 
一周新闻排行
 
编辑部推荐博文