作者:Stefano Ambrogio 来源:《自然》 发布时间:2023/8/28 16:42:03
选择字号:
模拟AI芯片将语音识别能效提升14倍

 

美国IBM研究实验室的科学家报告了一种能效为传统数字计算机芯片14倍的人工智能(AI)模拟芯片。这一芯片在语音识别上的效率超过了通用处理器,该技术或能打破当前AI开发中因对算力性能和效率的需求而遇到的瓶颈。相关研究近日发表于《自然》。

随着AI技术的崛起,对能源和资源的需求也随之上升。在语音识别领域,软件升级极大提升了自动转写的准确率,但由于在存储器与处理器之间移动的运算数量不断增加,硬件无法跟上训练和运行这些模型所需的数以百万计的参数。

研究人员提出的一个解决办法是使用“存内计算”(CiM,或称模拟AI)芯片。模拟AI系统通过直接在它自己的存储器内执行运算来防止低效,而数字处理器需要额外时间和能源在存储器和处理器之间移动数据。模拟AI芯片预计能极大提升AI计算的能效;但对此的实际演示一直缺乏。

IBM研究实验室的Stefano Ambrogio和同事开发了一个14纳米的模拟芯片,在34个模块中含有3500万个相变化内存单元。研究团队用两个语音识别软件在语言处理能力上测试了该芯片的效率,这两个软件分别是一个小网络和一个大网络,并在自然语言处理任务上与行业标准进行对比。小网络的性能和准确率与当前的数字技术相当。对于更大的模型来说,该芯片能达到每秒每瓦12.4万亿次运算,系统性能估计最高能达到传统通用处理器的14倍。

该研究在小模型和大模型中同时验证了模拟AI技术的性能和效率,支持其有望成为数字系统的商业可行的替代选择。(来源:中国科学报 冯维维)

用来制造模拟AI芯片的300毫米晶圆。 图片来自:Ryan Lavine

14纳米模拟AI芯片在检测板上。图片来自:Ryan Lavine

研究者手上拿着的14纳米模拟AI芯片。 图片来自:Ryan Lavine

相关论文信息:https://doi.org/10.1038/s41586-023-06337-5

 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
科学家描绘低质量系外行星大气逃逸新图象 第一颗被证实有大气层的行星出现了
听导师的话,毕业论文答辩这样准备 大规模基因研究重绘开花植物的生命之树
>>更多
 
一周新闻排行
 
编辑部推荐博文