您的位置：首页 > 新闻中心 > 社会 > 正文

年代秀

小米玄戒O100推倒内存墙：实现真正的近存计算_我的网站

原来是美男

A | 8月24日消息，今天下午，小米除了发布玄戒O3之外，还带来了玄戒O100，一款大模型专用的AI加速芯片，更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。

北京时间4月21日，国际米兰在意甲第33轮的比赛中客场遭遇博洛尼亚读秒绝杀，最终0-1不敌对手，他们的积分也被排名第二的那不勒斯追平，赛后西蒙尼-因扎吉出席了新闻发布会。玄戒O100通过先进的3D堆叠工艺，实现了1.22TB/s的超高带宽，这一速度是目前主流旗舰手机的16倍之多，可以让移动端设备的AI性能实现质的突破。玄戒O100与玄戒O3是AI终端的“最佳CP”，最高可以实现本地AI推理速度高达330Tokens/s。

B |

本场比赛第94分钟，博洛尼亚左路发出界外球，比塞克禁区内头球解围失误让球落到了后门柱，奥尔索利尼抓住机会用一记精彩的左脚凌空侧钩完成了读秒绝杀。
关于比赛

“这是一场势均力敌的比赛。

C | 两支球队踢得很胶着，两队的门将几乎都没有受到太多考验。卡洛斯-奥古斯托和恩多耶各有一次机会，除此之外场上的机会就不多了。 传统计算架构下，计算单元与存储单元物理分离，数据必须在两者之间反复搬运。

D | 但内存数据通路受限于物理引脚数量，遇到了增长瓶颈。当AI算力以指数级增长时，内存访问速度与算力之间已经严重脱节，成为性能的关键阻碍，业界称之为“内存墙”。玄戒O100，则是小米“推倒内存墙”的破局之法。我们在比赛中付出了巨大的努力，但本可以有更好的表现。最后的事件对我们不利。如果我们能够正确地分析这次失利，这可能会成为我们最后冲刺的动力。”小因扎吉告诉记者。区别于以往晶圆→切割为裸片（Die）→逐片封装互联的方式，玄戒O100采用先进的Wafer on Wafer封装技术，也就是将多片完整的晶圆直接高精度对准与键合，继而再切割成独立的3D芯片。

E | 这彻底摆脱了传统引脚数量对带宽的物理限制，将数据通路从“平面走线”变为“垂直穿透”，实现真正的近存计算（Near-Memory Computing）。了解大体逻辑后，我们看看玄戒O100到底如何做的。

F | 首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠，然后在垂直方向“钻隧道”让数据可以高速流转。

G |
您是否对这样的结果感到失望？

“对于球队的表现我很满意。所以，只要隧道越多，也就可以实现越高的带宽。为此，玄戒O100采用了先进的Hybrid Bonding混合键合工艺，摒弃了传统微凸点（Micro Bump）结构，直接将物理通路的间隔缩短至1.4μm，让数据通路密度大幅提升。

H | 为了进一步缩短DRAM与NPU计算层的物理距离，玄戒O100还采用了 Face to Face（简称F2F）金属层直连结构。

I | 简单来说，每一层晶圆内部，其实底部是逻辑晶体管，上层有密布多层的金属走线层。F2F，就是让DRAM与NPU的金属走线“面面相对”，如此可以实现更短的物理互联距离，实现更快的信号传输。我们对阵的是一支状态极佳的优秀球队。当然，这说起来简单，在6nm如此高工艺节点下，要解决散热、电磁干扰等诸多难题，玄戒团队逐一攻坚，实现最终量产，并申请了15项专利，其中已获批4项发明专利。 与此同时，玄戒O100配备了14颗高算力NPU，通过玄戒高带宽矩阵总线，让数据可以在NPU与内存、与其他NPU核心之间等高速流转。 创新的矩阵总线支持拓扑动态切换，Prefill阶段采用环形拓扑，数据逐核流转、顺序同步；Decode阶段切换为广播拓扑，所有结果统一汇聚到指定核心。总线控制上的灵活拓扑，让片上计算资源得以充分应用。赛前我原本认为我们可能会遭遇更多的困难。最终，玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念，以目前主流旗舰手机LPDDR5X内存作为对比，它的带宽76.8GB/s，而玄戒O100是其16倍之多，彻底释放端侧AI性能。球队很好地团结在一起。

J | 为了验证玄戒O100的高带宽表现，小米工程师还做了一款原型机，搭载玄戒O3和O100，双芯协同计算。小米还引入了风冷主动散热，充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型，实现了超高速端侧推理性能。我喜欢这些小伙子们的表现，只是对最后的事件感到遗憾。

K |

【本文结束】如需转载请务必注明出处：责任编辑：振亭文章内容举报

。我们与一个很有实力的对手进行了一场出色的比赛，他们此前已经连续赢了7场。博洛尼亚是一支拥有绝对实力的球队。我感谢那些在复活节来到博洛尼亚现场支持我们的球迷，以及在家中关注我们的支持者。在经历了场上那样的紧张情绪之后，我们没能如他们应得的那样去向他们致意。”
关于比塞克解围失误

“那个界外球根本不应该存在。那个界外球被前移了12米，直接到博洛尼亚的技术区才发出，但我们不应该找借口，我们原本应该只有一名球员跳起争顶，但当时我们的两名球员都跳了，结果球到了奥尔索利尼的脚下。这不仅是比塞克的错误，而是全队的错误，那球原本应该被正确地解围。”
邓弗里斯和马库斯-图拉姆缺席对你们有影响吗？

“现在我们无法保持阵容的完整，他们原本可以给我们带来帮助。除了他们之外还有泽林斯基。许多次我们都在缺少关键球员的情况下进行比赛，我们需要分析这次失利并放下心中紧张的情绪。球队感到失望和紧张。