大模型之家讯 当地时间4月10日,Meta宣布推出了自主研发的最新版本芯片MTIA v2,该芯片是Meta专门为AI训练和推理工作设计的定制芯片系列之一。与去年五月发布的第一代AI推理加速器MTIA v1相比,新版本芯片在性能上有显著提升,并专为Meta旗下社交软件的排名和推荐系统而设计。分析人士指出,Meta的目标是降低对英伟达等芯片厂商的依赖。
新款MTIA芯片采用台积电的5nm工艺制造,拥有更多的处理核心,并将拥有256MB的片上内存,频率为1.3GHz。Meta的早期测试结果显示,新芯片的性能是一代版本的三倍。为了支持新芯片,Meta开发了一个大型机架式系统,最多可容纳72个加速器,提高了时钟频率并降低了功耗。
尽管名为“Meta训练与推理加速器”,但MTIA实际上专注于推理任务,即在生产过程中运行AI模型。Meta在博客文章中表示,MTIA是公司“长期计划的重要组成部分”,旨在为Meta的服务中使用AI构建基础设施。
Meta强调,新芯片系统运行的软件堆栈与MTIA v1非常类似,加快了团队的部署速度,并与为MTIA v1开发的代码兼容。截至目前的测试结果表明,MTIA芯片可以处理各种复杂度的排名和推荐模型,并具有高度的效率。
此举与其他科技巨头推出自研芯片的趋势相一致。市场研究机构CFRA的分析师表示,这些公司正在面临成本上的压力,需要靠自研芯片来加以缓解。尽管这些芯片对于公司来说是“必要的”,但它们在性能上可能无法追上英伟达等厂商最新产品的水平。
原创文章,作者:志斌,如若转载,请注明出处:http://damoai.com.cn/archives/4649