世界第一等
小米玄戒O100推倒内存墙：实现真正的近存计算_我的网站
一 | NBA最新消息，来自于费城76人。 8月24日消息，今天下午，小米除了发布玄戒O3之外，还带来了玄戒O100，一款大模型专用的AI加速芯片，更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。
二 | 玄戒O100通过先进的3D堆叠工艺，实现了1.22TB/s的超高带宽，这一速度是目前主流旗舰手机的16倍之多，可以让移动端设备的AI性能实现质的突破。 根据名记Dave McMenamin报道，在詹姆斯加盟76人之后，凯文·乐福一直和费城高层保持着密切联系，希望能促成双方合作。玄戒O100与玄戒O3是AI终端的“最佳CP”，最高可以实现本地AI推理速度高达330Tokens/s。 这条消息一出，直接点燃不少情怀球迷的讨论；毕竟在很多人心中，当年的骑士也是无数球迷的青春记忆；2016年总决赛1-3逆转勇士的奇迹，更是一段历史传奇。 传统计算架构下，计算单元与存储单元物理分离，数据必须在两者之间反复搬运。但内存数据通路受限于物理引脚数量，遇到了增长瓶颈。 十年之后，41岁的詹姆斯依旧活跃在联盟顶流梯队，但乐福已经从全明星前锋，逐渐退居替补席边缘了。 那么问题就出现了： 对于38岁的乐福，还有能力帮助76人冲冠吗？ 先从结论来看，老乐福肯定还是有油的，但他确实已经不如当初了。
三 | 当AI算力以指数级增长时，内存访问速度与算力之间已经严重脱节，成为性能的关键阻碍，业界称之为“内存墙”。玄戒O100，则是小米“推倒内存墙”的破局之法。
四 | 在上赛季效力于爵士期间，乐福为球队出战37场，场均出场16.6分钟，基础数据6.7分5.8篮板1.8助攻，三项投篮命中率39.7%+37.3%+84.1%。 单看基础数据，这确实和曾经场均20+10的超级内线相差甚远；但如果考虑年龄和球队定位，这样的表现已经相当不错。 区别于以往晶圆→切割为裸片（Die）→逐片封装互联的方式，玄戒O100采用先进的Wafer on Wafer封装技术，也就是将多片完整的晶圆直接高精度对准与键合，继而再切割成独立的3D芯片。 对于现在的乐福，最大的价值很直接，首先是篮板能力。
五 | 这彻底摆脱了传统引脚数量对带宽的物理限制，将数据通路从“平面走线”变为“垂直穿透”，实现真正的近存计算（Near-Memory Computing）。 必须要肯定一点，即便已经37岁，但乐福的篮板嗅觉依旧出色；上赛季篮板效率16.7%，排名联盟第24位。 简而言之，在有限的出场时间里，老将乐福依然能凭借卡位判断和经验帮助球队保护篮板。
六 | 对于76人而言，这一点相当关键。 特别考虑到恩比德的隐患，他并非没有能力，而是在于身体健康；过去几个赛季恩比德因伤缺席大量比赛，如果从长远看，76人确实需要提前准备内线替补。 了解大体逻辑后，我们看看玄戒O100到底如何做的。 乐观来看，如果乐福加盟，他至少可以在常规赛阶段承担部分轮换时间，为恩比德减轻内线负荷。 其次一点，在于空间能力。 当下联盟越来越强调空间和投射，一个能拉开空间的大个子，相比于其他位置价值明显要高得多。
七 | 首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠，然后在垂直方向“钻隧道”让数据可以高速流转。 而老乐福虽然速度下降，但如今他在场的三分威胁依旧存在；如果能够搭档詹姆斯、马克西、杰伦·布朗一众突破好手，理论上乐福确实可以得到相当优渥的进攻环境。 所以，只要隧道越多，也就可以实现越高的带宽。为此，玄戒O100采用了先进的Hybrid Bonding混合键合工艺，摒弃了传统微凸点（Micro Bump）结构，直接将物理通路的间隔缩短至1.4μm，让数据通路密度大幅提升。 特别考虑到詹姆斯和乐福的默契，这一点是其他球员无法替代的；这些化学反应，很可能在季后赛阶段发挥出关键价值。 为了进一步缩短DRAM与NPU计算层的物理距离，玄戒O100还采用了 Face to Face（简称F2F）金属层直连结构。
八 | 除此之外，对于老乐福，他在更衣室的影响力也值得关注。 简单来说，每一层晶圆内部，其实底部是逻辑晶体管，上层有密布多层的金属走线层。 毕竟是经历过球队高光和低谷的资深老将，对于队中年轻球员而言，乐福的导师价值还是很明显的。
九 | 这也是此前爵士愿意留下他的主要原因。 但是，从另一面来看，如果76人确定签约乐福，现实的问题也不少。F2F，就是让DRAM与NPU的金属走线“面面相对”，如此可以实现更短的物理互联距离，实现更快的信号传输。 对于现在的乐福，他的最大短板来自于防守端。甚至年轻时期就不以防守见长，来到老将阶段，他的防守漏洞必然更明显。
十 | 另一点在于他的出勤效。 过去三个赛季，乐福分别只打了55场、23场、37场，连续几个赛季出勤不足，也让下家球队必须考虑到这个问题。 特别是对于76人这种志在争冠的巨星球队，每一个阵容名额都相当宝贵。
十一 | 所以，把最后的讨论留给球迷： 对于老将凯文·乐福，你觉得他是否适合76人吗？。 当然，这说起来简单，在6nm如此高工艺节点下，要解决散热、电磁干扰等诸多难题，玄戒团队逐一攻坚，实现最终量产，并申请了15项专利，其中已获批4项发明专利。 与此同时，玄戒O100配备了14颗高算力NPU，通过玄戒高带宽矩阵总线，让数据可以在NPU与内存、与其他NPU核心之间等高速流转。
十二 | 创新的矩阵总线支持拓扑动态切换，Prefill阶段采用环形拓扑，数据逐核流转、顺序同步；Decode阶段切换为广播拓扑，所有结果统一汇聚到指定核心。总线控制上的灵活拓扑，让片上计算资源得以充分应用。
十三 | 最终，玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念，以目前主流旗舰手机LPDDR5X内存作为对比，它的带宽76.8GB/s，而玄戒O100是其16倍之多，彻底释放端侧AI性能。 为了验证玄戒O100的高带宽表现，小米工程师还做了一款原型机，搭载玄戒O3和O100，双芯协同计算。小米还引入了风冷主动散热，充分发挥芯片的全部性能。
十四 | 配合Xiaomi MiMo端侧模型，实现了超高速端侧推理性能。
Current article:http://44spjj.cengzaodengchawonin.cyou/chhkqp/0jhg.html
Published on:17:57:22