近日,美团宣布LongCat-Flash-Chat正式发布,在Github、Hugging Face 平台开源。LongCat-Flash采用创新性混合专家模型(MoE)架构,总参数560B,激活参数18.6B-31.3B,实现了计算效率与性能的双重优化。
据相关负责人介绍,LongCat-Flash在层间铺设跨层通道,使MoE的通信和计算能很大程度上并行,极大提高了训练和推理效率。配合定制化的底层优化,LongCat-Flash在30天内完成高效训练,并在H800上实现单用户100+tokens/s的推理速度。针对智能体能力,LongCat-Flash自建了Agentic评测集指导数据策略,并在训练全流程进行了全面的优化,包括使用多智能体方法生成多样化高质量的轨迹数据等,实现了优异的智能体能力。
此外,通过系统优化,LongCat-Flash在H800上达成了100token/s的生成速度,在保持极致生成速度的同时,输出成本低至5元/百万token。
今年以来,美团AI进展频传,发布了AI Coding Agent工具NoCode、AI经营决策助手袋鼠参谋等。公司负责人表示,美团AI战略会建立在三个层面:AI at work、AI in products以及Building LLM,此次模型开源是其Building LLM进展的首度曝光。
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。