蚂蚁百灵发布Ling-3.0-Flash,124B参数激活仅5.1B

大模型之家讯 7月24日,蚂蚁百灵发布新一代原生混合推理模型Ling-3.0-Flash。该模型总参数量124B,单次计算仅激活5.1B,在推理、指令遵循及长文本处理上对标参数规模达2至3倍的行业领先模型。技术层面,Ling-3.0-Flash采用混合注意力架构,以5:1比例交替堆叠KDA线性注意力层与MLA层,专家激活比例压缩至1/64。模型已扩展超10000个真实交互训练环境,集群级分级缓存将首字延迟降低60%-80%。该模型已上线OpenRouter限时免费一周,后续将正式开源。

上一篇:

发表回复

登录后才能评论