AI 撞上「内存墙」:苹果、小米等厂商如何破局?

发布时间:2026/8/28 13:17:52
AI 撞上「内存墙」:苹果、小米等厂商如何破局? 【AI 变革硬件设计】智能手机统治过去十几年数字生态是注意力黑洞和私密随身之物。但手机设计逻辑止于屏幕而 AI 需要持续感知物理世界。当 AI 成为基础能力它将从屏幕破壳而出这是漫长探索演化过程。「AI 器物志」栏目因此诞生旨在观察 AI 如何改变硬件设计、重塑人机交互以及进入日常生活的形态。【苹果新 Mac 与其他产品的内存带宽比拼】苹果新 Mac 刷新「AI 电脑」性能预期Mac mini 被定义成全天候跑 Agent 的生产力工具Mac Studio 最高有 512GB 统一内存。它们真正「强」的地方在于内存带宽标准版 M6 统一内存带宽达 170GB/sM5 Pro 推到 307GB/s顶配 M5 Ultra 达 1.2TB/s。苹果还为 Mac mini 拍「牛来」宣传片。无独有偶小米公布的端侧 AI 加速芯片玄戒 O100内存带宽做到 1.22TB/s英伟达 RTX 5090 凭借 32GB GDDR7 显存带宽接近 1.8TB/s。可见不同架构路径的厂商都在让内存里的数据跑得更快。【AI 芯片面临内存受限问题】芯片厂拼带宽是因为 AI 计算能力变强但也容易被内存「饿着」。很多人认为内存容量大就好其实容量和带宽是两码事。容量决定电脑能装多大模型带宽决定数据喂给计算核心的速度。大模型运行时「搬数据」最消耗资源。在自回归生成阶段计算单元生成新 token 需完整读取内存里的参数权重。这就像大厨炒菜快但配菜师傅送菜慢计算单元只能等内存喂饭这种现象叫 memory - bound内存受限。【更快内存意味着更高成本】很多人直觉认为大容量内存更贵但在半导体供应链中越快的内存贵得呈指数级上升。要让数据跑得快需用更宽位宽、高频接口和复杂封装堆叠技术。如 AI 服务器标配的 HBM制造难度和芯片面积远超传统内存。这种对超高带宽的需求引发「产能大迁徙」。TrendForce 数据显示三星、SK 海力士和美光将先进晶圆产能向企业级倾斜挤压了消费级 PC DRAM 供给导致合约价格上涨。美光退出消费级内存业务SK 海力士第三方品牌授权店终止运营。普通装机者加装内存条的预算在和全球 AI 数据中心抢同一批先进晶圆。【芯片界的解决办法】1. 物理加宽车道GDDR7 与 HBMRTX 5090 用 512 - bit 超宽位宽配合 GDDR7将显存带宽拉到 1.8TB/sAI 数据中心在 GPU 旁塞 HBM 堆栈。此方法简单粗暴但代价高昂。2. 把存储搬到计算隔壁玄戒 O100 的 3D 堆叠小米玄戒 O100 采用晶圆级垂直堆叠把两层 DRAM 晶圆压在 NPU 计算晶圆上方缩短物理距离换来 1.22TB/s 端侧带宽。3. 消除冗余搬运与外部高速扩展统一内存与雷雳 5苹果统一内存体系让计算核心共享内存池省去跨总线拷贝。M5 Pro 版本 Mac mini 配备 3 个雷雳 5 端口Mac Studio 通过雷雳 5 和 RDMA 技术可组建分布式推理集群但对接口和线材要求高。4. 把计算搬到内存旁边PIM 与存内计算PIM 把部分计算单元塞进内存颗粒附近存内计算尝试利用存储介质物理特性完成矩阵乘加。这类前沿架构虽待成熟但指明未来芯片设计要让数据少走路。【AI 撞上「内存墙」】如今 AI 硬件面临的问题并非新鲜事大部分计算机延续经典冯·诺依曼架构存储和计算分离数据需来回搬运。1995 年科学家就提出「内存墙」概念即处理器算力增速快于内存带宽增速。大模型爆发让行业更接近「内存墙」计算机对「快」的度量衡改变现在算力高但数据送不过来芯片也只能空转。苹果 Mac mini 宣传片体现过去对「性能」的想象但在 AI 时代即使芯片性能强若内存供应不足也无用。有趣的是在 AI 生成盛行时苹果为 Mac mini 宣传片花「笨功夫」打磨实体质感这就像芯片底层无法逃避物理法则数据跑得快离不开实在的通道、走线和晶圆工艺。过去追求计算机算得快AI 带来的新命题是让数据跟得上。