作者:朱汉斌 来源:中国科学报 发布时间:2023/9/26 13:18:55
选择字号:
鹏城实验室发布“鹏城·脑海”通用AI大模型

 

近日,中国工程院院士、鹏城实验室主任高文在2023华为全联接大会上正式发布了“鹏城·脑海”(PengCheng Mind)通用AI大模型,以国产化基座大模型为新一代AI大模型发展构筑新基点。据悉,本次发布的是以中文为核心的“鹏城·脑海”基础版,将在OpenI启智社区向全社会开源。

“鹏城·脑海”通用AI大模型以稠密型架构实现2000亿参数,依托“鹏城云脑II”国产化AI算力平台进行全程预训练,采用了MindSpore昇思国产化深度学习框架,完善了大规模并行训练策略、底层算子性能和容错机制,显著提升了国产算力平台的训练效率,并构建了一套涵盖中文、英文及50余个“一带一路”共建国家及地区语种的多样化语料数据集和数据质量评估工具集。

  ?

高文介绍“鹏城·脑海”通用AI大模型。鹏城实验室 供图

“‘鹏城·脑海’的发布是国产AI大模型全新的起点。”高文表示,在广东省和深圳市的统一部署下,在中国外文局、华为、腾讯等战略合作伙伴的联合支持下,鹏城实验室贯穿国产算力+自主大模型创新链,聚焦AI核心器件、算力设施、模型算法、训练系统等关键环节,持续推进“鹏城·脑海”大模型核心技术攻关。

据高文介绍,鹏城实验室正同步研制“中国算力网”(China Computing Network,C2Net)全国一体化算力协同计算调度平台,以深圳为总调度中心,已汇聚全国协同算力达3E规模。“鹏城·脑海”大模型将进一步依托“中国算力网”接入的协同算力,以“算力网算力调度+模型赋能”相结合的方式,携手国家新一代AI公共算力平台。

“我们将陆续发布‘鹏城·脑海’大模型进阶版、专业版等各个阶段的版本,持续满足我国不断增长的数字化转型需求。”高文说,鹏城实验室将牵头成立“鹏城·脑海”开源联合体,广泛联合企业、高校和科研院所,通过这一全新的开源群智合作模式,“一揽子”提供覆盖压缩、部署、微调与价值对齐等环节的模型工具。

 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
“双星计划”:开启中国空间科学新纪元 河西走廊内陆河出山径流研究揭示新趋势
金星缺水的原因,找到了? 科学家描绘低质量系外行星大气逃逸新图象
>>更多
 
一周新闻排行
 
编辑部推荐博文