寒序科技公布 MRAM 推理产品路线,首代 uHBM 片内带宽设计 24 TB/s

寒序科技公布 MRAM 推理产品路线,首代 uHBM 片内带宽设计 24 TB/s

国内首家 MRAM 磁计算公司寒序科技公布 uHBM 与 uLPU 推理计算架构,首代 uHBM 片内读带宽设计值 24 TB/s,uLPU 面向 4B 多模态模型提出超 2000 Tokens/s Decode 目标,并披露从芯片到 2U Tray 及 Rack 的产品路线。

其方案将模型权重驻留在 Persistent MRAM 阵列、同片完成矩阵-向量运算,减少权重重复搬运;SpinPU-ED01 验证芯片已通过第三方检测和 24 小时稳定运行验证。

mp.weixin.qq.com

在花频道 · 茶馆水群 · 投稿通道

0 评论

发表评论

您是本站第34680名访客 今日有14篇新文章/评论