1月29日,平头哥官网上线一款名为“真武810E”的AI训推一体芯片,宣告阿里自研的并行处理器(PPU)正式亮相。据透露,对比关键参数,“真武”PPU的整体性能超过了英伟达A800,与英伟达H20相当。
据平头哥官网介绍,“真武”PPU采用自研并行计算架构和片间互联技术,配合全栈自研软件栈,实现软硬件全自研。其内存为96G HBM2e,片间互联带宽达到700 GB/s,可应用于AI训练、AI推理和自动驾驶。阿里巴巴已将“真武”PPU大规模用于千问大模型的训练和推理,并结合阿里云完整的AI软件栈进行深度优化,为客户提供一体化产品和服务。
据了解,阿里巴巴正打造AI超级计算机“通云哥”,它同时拥有自研芯片平头哥、阿里云以及“千问”开源模型,能在芯片架构、云平台架构和模型架构上协同创新,从而实现对大模型的高效率训练和调用。
“真武”PPU的正式亮相,背后是平头哥在芯片领域多年积累。阿里巴巴2009年创建阿里云,2018年成立平头哥芯片公司,2019年启动大模型研究,经过长达17年的战略投入和垂直整合,终于实现“通云哥”全栈AI的完整布局。
据悉,“真武”PPU已在阿里云实现多个万卡集群部署,服务了国家电网、中国科学院、小鹏汽车、新浪微博等400多家客户。
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。