首页 | 爱情文章 | 亲情文章 | 友情文章 | 生活随笔 | 校园文章 | 经典文章 | 人生哲理 | 励志文章 | 搞笑文章 | 心情日记 | 英语文章 | 会员中心
当前位置:文章故事>爱情文章>文章内容 经典美文欣赏

学警狙击

小米玄戒O100推倒内存墙:实现真正的近存计算_我的网站

3c认证

一 |     8月24日消息,今天下午,小米除了发布玄戒O3之外,还带来了玄戒O100,一款大模型专用的AI加速芯片,更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。

二 |     玄戒O100通过先进的3D堆叠工艺,实现了1.22TB/s的超高带宽,这一速度是目前主流旗舰手机的16倍之多,可以让移动端设备的AI性能实现质的突破。玄戒O100与玄戒O3是AI终端的“最佳CP”,最高可以实现本地AI推理速度高达330Tokens/s。    

前几天,有一个跑友去国民体质监测中心进行体质监测,给出的结果是——刚过及格线!他很纳闷:他每周跑步5次,每次10公里,风雨无阻,不应该是优秀吗?怎么会刚刚及格呢?答案很扎心,太偏科了!跑步特长跑步确实是极佳的有氧运动,它能高效提升心肺耐力,燃烧脂肪,提升腿部力量。

三 |     传统计算架构下,计算单元与存储单元物理分离,数据必须在两者之间反复搬运。这毋庸置疑,每一个坚持奔跑的人,这几个方面都很强!但这些强项,只是体质监测“全科考试”里的其中几项,并没有包含全部!国民体质监测中心测的不是“单项”,而是身体的各个方面。但内存数据通路受限于物理引脚数量,遇到了增长瓶颈。所以,这个跑友测的结果,心肺耐力、腿部力量、体脂率都是满分!但,他的握力、背力,还有身体的爆发力都不是太强。还有最差的是身体的平衡力和柔韧性,都处于不及格的水平。因此,最后得出的综合分值是刚刚及格。    当AI算力以指数级增长时,内存访问速度与算力之间已经严重脱节,成为性能的关键阻碍,业界称之为“内存墙”。偏科很多其实,不单单是跑友,“偏科”的人很多很多!经常做单一运动的人,综合体质评分往往低于运动种类丰富的人。

四 | 玄戒O100,则是小米“推倒内存墙”的破局之法。跑步爱好者很多都属于:纯有氧偏科型。     区别于以往晶圆→切割为裸片(Die)→逐片封装互联的方式,玄戒O100采用先进的Wafer on Wafer封装技术,也就是将多片完整的晶圆直接高精度对准与键合,继而再切割成独立的3D芯片。心肺功能很强大,跑个十公里不带喘气的。

五 | 但一测握力,手无缚鸡之力;一做“坐位体前屈”,手指离脚尖还有一巴掌远。另外一种是:力量偏科型。

六 | 这些人大部分都是健身房里的大块头,卧推深蹲一把好手,全身的力量很强。    这彻底摆脱了传统引脚数量对带宽的物理限制,将数据通路从“平面走线”变为“垂直穿透”,实现真正的近存计算(Near-Memory Computing)。         了解大体逻辑后,我们看看玄戒O100到底如何做的。但让他跑个800米,脸憋得通红,心率飙上天。

七 | 首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠,然后在垂直方向“钻隧道”让数据可以高速流转。    所以,只要隧道越多,也就可以实现越高的带宽。这类人肌肉发达,但心肺耐力是短板,日常容易感觉“气不够用”。为此,玄戒O100采用了先进的Hybrid Bonding混合键合工艺,摒弃了传统微凸点(Micro Bump)结构,直接将物理通路的间隔缩短至1.4μm,让数据通路密度大幅提升。              为了进一步缩短DRAM与NPU计算层的物理距离,玄戒O100还采用了 Face to Face(简称F2F)金属层直连结构。

八 | 还有一种偏科是:拉伸偏科型。    简单来说,每一层晶圆内部,其实底部是逻辑晶体管,上层有密布多层的金属走线层。这些大部分都是瑜伽达人,柔韧性让人羡慕。

九 | F2F,就是让DRAM与NPU的金属走线“面面相对”,如此可以实现更短的物理互联距离,实现更快的信号传输。但缺乏力量和心肺训练,稍微干点体力活就累得不行,属于“软而不强”。

十 | 破解之道作为一个跑步爱好者,偏科不怕,在运动中,稍微加两项内容即可。一方面,增加力量训练。每周加1次核心力量训练,比如:平板支撑、卷腹,同时也可以穿插一些上肢力量训练,比如推举,硬拉等。跑友穿插力量训练,不单弥补了体质的短板,其实也是有助于跑步运动的。    当然,这说起来简单,在6nm如此高工艺节点下,要解决散热、电磁干扰等诸多难题,玄戒团队逐一攻坚,实现最终量产,并申请了15项专利,其中已获批4项发明专利。另一方面,增加拉伸训练。

十一 | 其实也没有必要专门去练瑜伽,每次跑步结束后,专门抽出10—20分钟时间做一下身体的全面拉伸即可。         与此同时,玄戒O100配备了14颗高算力NPU,通过玄戒高带宽矩阵总线,让数据可以在NPU与内存、与其他NPU核心之间等高速流转。不仅可以提升身体的柔韧性,还能避免跑步受伤,何乐而不为?其实,很多跑友做得都很好,不仅坚持跑步,还刻意去追求身体的全面发展。     创新的矩阵总线支持拓扑动态切换,Prefill阶段采用环形拓扑,数据逐核流转、顺序同步;Decode阶段切换为广播拓扑,所有结果统一汇聚到指定核心。总线控制上的灵活拓扑,让片上计算资源得以充分应用。         最终,玄戒O100的带宽达到了惊人的1.22TB/s。比如,有些跑友还会穿插一些其他运动,比如骑车、游泳、球类、瑜伽等等,都是非常好的运动习惯。大家对这个数字可能没什么概念,以目前主流旗舰手机LPDDR5X内存作为对比,它的带宽76.8GB/s,而玄戒O100是其16倍之多,彻底释放端侧AI性能。         为了验证玄戒O100的高带宽表现,小米工程师还做了一款原型机,搭载玄戒O3和O100,双芯协同计算。我们身边的跑友,在体质监测中得满分的,比比皆是。

十二 | 写在最后坚持常年跑步,是一件了不起的事。这说明你已经战胜了懒惰,拥有了自律和毅力。

十三 | 这一点,确实值得骄傲。

十四 | 小米还引入了风冷主动散热,充分发挥芯片的全部性能。但,单一运动只能解决单一问题,健康需要全面投资。因此,在坚持跑步的同时,要记得加上“力量训练”和“拉伸训练”哟!真正的好身体,是全能,而不是偏科。更不用说,在养成跑步爱好的基础上,再加上“力量训练”和“拉伸训练”,并不是难事。配合Xiaomi MiMo端侧模型,实现了超高速端侧推理性能。

十五 |

。                   
     【本文结束】如需转载请务必注明出处:      责任编辑:振亭     文章内容举报     

Current article:http://ya7yf.yaoyaotoutuanmieshaideizun.buzz/2bpd/20260826/858753.html

Published on:00:00:00


Copyright © 2007-2014 我的网站 版权所有.情感文章,散文随笔,美文故事在线阅读