在算力紧缺的背景下，如何提升大模型训练和推理的效率，并降低成本，是当下业界关注的焦点。11月23日，腾讯披露，腾讯混元大模型背后的自研机器学习框架Angel再次升级，大模型训练效率提升至主流开源框架的2.6倍，千亿级大模型训练可节省50%算力成本。

硬件资源利用率一直是影响国产大模型技术发展和实用性的重要前提。面向大模型训练，腾讯自研了机器学习训练框架AngelPTM，针对预训练、模型精调和强化学习等全流程进行加速和优化。AngelPTM采用最新的FP8混合精度训练技术，结合深度优化后的4D并行和ZeROCache机制优化存储，可兼容适配多款国产化硬件，能够以更少的资源和更快的速度训练更大的模型。

据介绍，升级后的Angel支持单任务万卡级别超大规模训练，进一步提升腾讯云HCC大模型专属算力集群的性能和效率。HCC高性能计算集群是腾讯云今年4月面向大模型发布的专属算力平台，其性能是前代产品的3倍。

同时，Angel还提供了从模型研发到应用落地的一站式平台，支持用户通过API接口或精调等方式快速调用腾讯混元大模型能力，加速大模型应用构建。腾讯会议、腾讯新闻、腾讯视频等超过300个腾讯产品及场景均已接入腾讯混元内测。

 目前，相关能力已通过腾讯云对外开放。基于升级后的Angel机器学习框架，腾讯云TI平台可提供更优的训练和推理加速能力，并支持客户用自己的数据一站式训练精调，基于腾讯混元大模型打造专属智能应用。

2023年9月，腾讯自研的实用级大模型腾讯混元正式亮相并通过腾讯云开放。腾讯混元拥有超千亿参数规模，预训练语料超 2 万亿 tokens，聚合了腾讯在预训练算法、机器学习平台和底层算力资源多个层面的自研技术积累，并在应用中持续迭代。