寒序科技发布全新国产LPU推理芯片架构,目标2000+ Tokens/s

大模型之家讯 9月1日,国内首家MRAM计算公司寒序科技正式公布uHBM®与uLPU™推理计算架构。该架构将Persistent MRAM与矩阵向量计算集成在同一颗Compute-Memory Die内,实现模型权重长期驻留,每轮Decode仅需激活向量流入Die内完成权重读取和矩阵向量乘,首代架构In-Die Read Bandwidth设计值达24 TB/s。产品路线从uHBM®扩展至uLPU™-Tray再到uLPU™-Rack,端侧形态面向Qwen-VLA等具身模型目标>2000 Tokens/s。验证芯片已流片回片并完成24小时稳定运行。

上一篇:

下一篇:

发表回复

登录后才能评论