OPPO联合联发科技共建大模型端侧化部署方案,基于AndesGPT的新小布将开启新一轮公测

大模型之家讯 10月11日,OPPO宣布与联发科技合作共建轻量化大模型端侧部署方案,通过采用4位量化技术,实现精度不掉点效果下端侧化性能更优,共同推动 AndesGPT 大语言模型和多模态大模型在端侧逐步落地。

OPPO联合联发科技共建大模型端侧化部署方案,基于AndesGPT的新小布将开启新一轮公测

AndesGPT 作为OPPO自主训练的生成式用户专属大模型。该模型以“端云协同”为基础架构设计思路,推出从10亿至千亿多种不同参数规模的模型规格,实现在本地与云端协同运作的效果。

AndesGPT 对大模型端侧推理引擎进行算子融合与优化,使得结果生成速度大于人类正常阅读速度,从而能更好满足用户需求。目前,AndesGPT 已经入选 C-Eval 全球中文榜单,并以 79.9 高分登该榜榜首。

OPPO联合联发科技共建大模型端侧化部署方案,基于AndesGPT的新小布将开启新一轮公测

同日,基于AndesGPT大模型打造的全新小布助手开启新一轮公测,全新小布助手对传统语音助手进行内核级升级,为用户带来更智能的体验。在知识与问答方面,通过引入高质量的知识图谱、QA问答数,并结合对预训练和指令精调技术的优化,显著提升了大语言模型知识与百科能力的覆盖面和准确性。

OPPO联合联发科技共建大模型端侧化部署方案,基于AndesGPT的新小布将开启新一轮公测

今年9月,AndesGPT登上SuperCLUE榜单,在十大基础能力排行榜的“知识与百科”能力测试中得到98.33的高分,大幅度领先其他大模型,仅次于GPT4排名国内第一,并在“角色扮演能力”测试中排名前三。

OPPO联合联发科技共建大模型端侧化部署方案,基于AndesGPT的新小布将开启新一轮公测

自2020年起,OPPO已启动AI大模型相关技术的探索与实践,曾获得大规模知识图谱问答KgCLUE行业评测的第一名,中文自然语言理解CLUE第一名。未来,AndesGPT将持续加持OPPO智能助手小布的AI能力,为用户带来更好的使用体验,并逐步应用于更多OPPO核心产品中。

11月16日,ColorOS 14 将于OPPO开发者大会中亮相,AndesGPT更多元化的应用场景或将同步发布,敬请期待。

原创文章,作者:志斌,如若转载,请注明出处:http://damoai.com.cn/archives/1263

(0)
上一篇 2023年10月10日
下一篇 2023年10月11日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注