黑色皮革手册

小米的芯片野心藏不住了！_我的网站

一 |     

十四 |         两代的架构提升之后，不论是性能还是能效比，对比 O1 都有非常明显的进步。    根据小米提供的资料，除了架构的提升，玄戒 O3 还吸取了 O1 的经验，继续加码缓存。    不光 CPU 加了块 16MB 的 L3 缓存，同时系统又加了一块 16MB 的 SLC 缓存。    更大的缓存，意味着更快的数据读取速度和更低的功耗。玄戒 O3 在制程不变的情况下还能进一步提升能效，缓存的加入肯定算一个原因。    当然了，SoC的其他部分，小米堆料也很足：像是可以提供 200TOPS 张量算力（A8W4）的 NPU、支持 H.266 的硬件解码器，以及 RISC-V 安全核心，最新的 LPDDR6 内存规格支持等等。        可以说，玄戒 O3 对比 O1 塞了更多的东西。

十五 | 这点可以在晶体管数量上体现出来。

十六 | 对比玄戒 O1 190 亿个晶体管，O3 来到了 240亿，多了 26%。        但仔细看的话，133 mm? 的芯片面积，对比 O1 的 109 mm? 增大了约 22%。    也就是说，尽管工艺不变，但晶体管密度却有小幅提高。    托尼专门问了小米的工程师，他们的答案是：一方面小米在 O1 的基础上，自主设计了更多的 StdCell 单元，有了更多的通用件，就可以进一步减少芯片面积。

十七 |     另一方面，小米这次用上行业内比较常见的沟道消除技术，可以进一步减少走线面积。在芯片设计中，这种"不留沟道直接穿越"的原理其实都能想到，但想完整贯彻这套逻辑，确实需要一定芯片设计能力。        这么看下来，玄戒 O3 这颗处理器，托尼觉得提升还蛮大的。    而且小米这次看起来信心也很足：直接把玄戒 O3 的首发机型定给了小米 18 Fold，9 月正式上市，托尼届时也会看看玄戒 O3 的实机表现到底如何。        前面说了，原本托尼以为今天只有一颗玄戒 O3，没想到小米又端出来两款定位完全不一样的芯片 ——    玄戒 O100 和 D100。    先说更有意思的 O100。简单来说，O100 是专门用来 AI 加速的芯片，它给了完全不一样的端侧大模型的运行方案。    虽然它是一颗 6nm 芯片，但是这张 PPT 里的关键词是 “3D晶圆级堆叠”。        众所周知，想要让大模型跑得更快，不仅要看芯片算力，还要看配套的内存速度。

十八 |     芯片算力影响大模型需要多久吐出第一个字，内存速度影响了这个字吐出来的速度能有多快。而在手机上，芯片算力倒是提升不少，但内存速度就没怎么跟上。

十九 |     就拿 LPDDR5X 来说吧，目前在用的 LPDDR5X 带宽最快大约 85GB/s，而下一代 LPDDR6，大约在 114 GB/s。    看上去有 30% 的提升，但对于 LLM 来说，这点带宽还是太少了。    这就导致想要在端侧部署大模型，总会卡在内存速度上。而玄戒 O100 就是要解决内存这个问题的。    那么它具体有多快呢？答案是 1.22TB/s！         跑起端侧上比较常见的 3B 模型，生成速度来到了 330 Tokens/s。        根据小米的说法，为了达到这个效果，玄戒 O100 用了不少先进工艺。其中最关键的，还得是晶圆堆叠和混合键合。        这俩技术，说白了是解决内存没法更近地"贴"在 SoC 芯片上。

| 毕竟想要速度更快，那自然是 SoC 和内存之间离得越近越好。        其实现在手机的内存，就是是直接堆叠在处理器上的，三星倒是在尝试新方案，在 Exynos 2600 上面把内存和处理器芯片并排封装了。有消息说苹果即将发布的 A20 Pro 芯片也会用到类似三星的新封装。

|         可这类封装工艺，SoC和内存之间都隔了块基板，信号则是通过引脚传递。受限于引脚数量，前面说了，它能达到的数据传输带宽最快也就 114GB/s。    这点哪儿够跑大模型。    而有了晶圆堆叠和混合键合这两个技术，内存不仅能够更近地贴合在 SoC 上，而且可以做到更多的引脚数量，以及更短的物理通路。        你们猜多了多少？    根据小米的说法，传统 PoP 堆叠封装的直连通路是 96 路。    而玄戒 O100 这次采用混合键合之后的直连通路是 28672 路，提升了将近300 倍。        有了这些，才能让玄戒 O100 在很小的面积下实现超快的推理速度，也让端侧部署大模型从玩具变成了真正可用的功能。    最后压轴登场的，是块大家伙 —— 玄戒 D100。        和玄戒 O3 一样用了 3nm 工艺，但是小米给这玩意塞了 20 核CPU和 16 核NPU，最大可支持 160GB 统一内存，最高可本地部署 200B 参数量的超大模型。        毫无疑问，这玩意的目标就是上车做智驾芯片来用的。只不过目前还没有上车，现场倒是有一个 Ai Cube 原型机，里面塞了玄戒 O3、 O100、 D100。        好家伙，隔这整玄戒全家桶当计算中心用是吧。    话说这玩意能不能开售啊！    不过 PPT 里也有一个小点需要注意一下：小米只说了这玩意能运行 120B 和 3B 两种模型，但是具体是什么模型、跑在什么量化参数下，我们都不知道。    所以这玩意的极限是只能跑个 120B 的模型，还是我们能想想办法把梁叔叔的模型用 Q4 甚至 1bit 的方式塞进来，短时间可能都不得而知了。        不过看到这里，本来对这次发布会没有什么预期的托尼，反倒是被小米惊到了。    因为在 O1 之后，玄戒似乎就消失在了人们的视线中。甚至总有消息爆出小米要放弃玄戒芯片。    但现在，小米在一片质疑声中，一口气拿出三款芯片。而且每款芯片都有属于自己的特色。    去年我说，就冲小米造芯片的这份勇气，我是服的。    今年感觉小米的勇气和信心似乎更足了。

|     因为这三款芯片一出手，不仅能解决手机的问题，还能解决车载芯片的问题。        要知道，之前小米就给车机用上手机的骁龙 8Gen3，既然骁龙能上车，那玄戒凭什么不能上车？    小米的答案是：要上就上，而且直接上全家桶。

| 这就很有意思了。    而且汽车这边本来就有自研芯片的风，不论是蔚小理，还是华为等厂商都有自己的智驾芯片。    原因无他，更加方便自己训练、部署并调优智驾算法。    这么想的话，小米未来搭载玄戒全家桶的汽车，车机、轻度负载用 O3，小模型推理用 O100，智驾等大模型用 D100，每块芯片都有自己的用处，想象空间蛮大的。    所以玄戒真正的价值其实在于，减少对高通的依赖，增强自己的软硬件整合能力。    况且玄戒这波节奏还不算慢。玄戒 O3 九月份就会有机器发布，而 O100 和 D100 将在明年正式商用。        那就期待它们的表现吧！。

Current article:http://i74p.shuicengchongmingnouhuawang.bond/6txu9cq/lb3m5q.html

Published on:08:27:30