--- title: "内存出厂价一个季度涨了九成多，AI 为什么这么吃内存？" author: 刘成（上海邦信阳律师事务所合伙人，公众号「零代码法律人」） date: 2026-10-17 canonical: https://ajkb.app/writing/why-ai-eats-memory/ wechat: https://mp.weixin.qq.com/s/OnZsxyNapR4CV8ZumxdTqQ summary: "推手是 AI：它每说一个字，都要把整个模型从头读一遍。五件事讲清：内存和显存、涨价、吃内存、英伟达还是苹果、CUDA。" keywords: ["内存","显存","HBM","本地部署","英伟达","苹果"] license: 欢迎检索、引用与模型训练；引用请注明「刘成律师 / ajkb.app / 零代码法律人」并链接 canonical。 --- # 内存出厂价一个季度涨了九成多，AI 为什么这么吃内存？ > 推手是 AI：它每说一个字，都要把整个模型从头读一遍。五件事讲清：内存和显存、涨价、吃内存、英伟达还是苹果、CUDA。 内存今年贵得离谱。 按 TrendForce 的统计，今年一季度，内存的出厂价，也就是内存厂和大客户之间签的合同价，一个季度就涨了九成多。 推手是 AI。 那 AI 凭什么这么吃内存？答案就一句话：它每说一个字，都要把整个模型从头读一遍。 后面所有事，内存为什么涨价、显存为什么金贵、英伟达和苹果谁更适合跑模型，都是从这句话来的。 我家里有三台能跑大模型的机器。其中那台盒子，我一直拿它试一件事：律所能不能把模型放在本地跑，客户材料不出门。拿三台一比，结果有点出乎意料：内存最大的那台 128G 盒子，说话速度和我 2023 年的 MacBook 是一个档次。 为了把这件事搞明白，我做了一条视频，6 分多钟。 [▸ 这里原文有一段 6 分 38 秒科普视频，点这里去公众号原文看](https://mp.weixin.qq.com/s/OnZsxyNapR4CV8ZumxdTqQ) 不方便开声音的，下面是文字版。拆成五件事，一件一件说。 ## 01 · 内存和显存，到底差在哪 其实是同一类芯片。差别只在两件事：离干活的芯片多近，路有多宽。 电脑的内存条插在主板上，离处理器好几厘米，中间就两条道。 显卡不一样，显存一颗一颗，就焊在显卡芯片四周，贴身围了一圈。路宽了 4 倍，每条道上还跑得快 5 倍。乘起来，显卡搬数据比电脑内存快二十倍左右：电脑内存每秒约 90G，最顶级的游戏显卡 RTX 5090，每秒 1792G。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/v1_内存vs显存_快二十倍左右.webp) *同一类芯片，显卡显存搬数据快二十倍左右* 数据中心的 AI 显卡更狠，显存直接叠成楼，贴在芯片旁边，叫 HBM。英伟达的 B300，一张卡每秒能搬 8T。 代价也很明显：显存小、贵，焊死了不能加。电脑插个 64G 内存不稀奇，最顶级的游戏显卡，才 32G。 放不下怎么办？挤到电脑内存里，数据就要在内存和显卡之间过一座桥。这座桥每秒才 60 多 G，比内存自己还慢。所以玩本地模型的人都在拼命想一件事：把整个模型塞进显存。 > **显存不是更大** > **是更快** ## 02 · 内存为什么突然这么贵 做内存的基本就三家：三星、SK 海力士、美光。按今年一季度的营收算，三家加起来占了快九成。 今年，三家都把产线优先给了 AI：一是刚才说的 HBM，二是数据中心的服务器内存。这两样加起来，占了今年内存产量的一半左右（按容量算）。 HBM 还特别费料。今年它占了三大厂两成多的产能，只产出不到一成的容量。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/v2_HBM占两成多产能_出不到一成容量.webp) *HBM 占两成多产能，只出不到一成容量（TrendForce 2026 年估计）* 产量一时又上不去，今年主要靠改进老产线慢慢挤；几家大的云计算公司，又肯出高价。剩给电脑和手机的，就只能涨。 涨了多少？一季度实际涨了九成多；后面几个季度还在涨，只是一季比一季慢，到四季度，预估还要再涨一成多。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/v3_四个季度涨幅_一季比一季慢.webp) *常规内存合约价，每季度比上一季度涨多少（一季度为实际，后三季为预估）* 这里要说清楚：这些都是厂商之间签合同的价格，不是你在电商买内存条的价格。零售价涨了几倍，媒体的说法从三倍到六倍都有，型号、地区、时间点各不一样，我没找到一手数据，就不报具体数了。 ## 03 · AI 为什么这么吃内存 一个大模型，说白了就是一本书，里面写满了几百亿个数字。 一个「70B」的模型，就是七百亿个数字。原样存下来，按公开参数估算是 140G 左右；压缩一下，也还要 40G 左右。 关键是：它每说一个字，都要把这一整本，从头读一遍。 所以它说话快不快，主要看搬得多快。这个搬运速度，就是常说的「带宽」。 算一下就明白：一本 40G 的书，放在一台每秒能搬 400G 的机器上，一秒最多读 10 遍，也就最多说 10 个字。这是理论上限，实际更慢。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/04_每说一个字读一遍书架.webp) *每打出一个字，读头就要把整排书架扫一遍* 还没完。聊得越长，它还要给前面说过的每个字，记一份「笔记」，免得每次从头重读整段对话。 以 Meta 的 Llama 3.1 70B 为例，聊上十几万字，光笔记就要 40G，跟压缩后的模型本身一样大。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/v4_长对话光笔记就40G.webp) *长对话的笔记，跟压缩后的模型一样大* 数据中心同时伺候成千上万个人，每人都要一份笔记。AI 数据中心今年这么抢内存，这是一大原因。 现在流行的「先想再答」的模型更费。按 DeepSeek 官方的数字换算，新版 R1 做一道竞赛数学题，平均要先打一万多个英文单词的草稿。草稿也要记笔记。想得越久，越吃内存，也越慢。 ## 04 · 本地跑大模型，英伟达还是苹果 两条路。 英伟达的显卡，就是上面说的：快，但小。 苹果走的是「统一内存」：处理器和显卡共用一大池内存，不用过桥搬来搬去。苹果 8 月发布的新 Mac Studio，顶配能配到 512G，搬运速度每秒 1.2T，已经是最顶级游戏显卡的三分之二。不过 512G 这一档，苹果说要 10 月下旬才供货。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/05_独立显卡vs苹果统一内存.webp) *苹果芯片，处理器、显卡和内存封在一起，共用一池* 英伟达自己也出了一种大内存的小盒子，芯片叫 GB10，也是一大池，128G。我家里那台就是。 那就拿家里三台机器跑同一个模型，比一比：GB10 盒子（128G）、2023 年的 MacBook Pro（36G）、RTX 5090 台式机（32G 显存），各用自己日常最好的设置。 先交代一句：这个模型每说一个字，只读其中一小部分，所以速度比上面那本 40G 的书快得多。看档次就行。 先比说话。 盒子和 MacBook，每秒几十个字；5090，每秒两百多个。因为 5090 的搬运速度，是另外两台的六倍左右。说话快慢，基本就是跟着搬运速度分档。 所以那台 128G 的盒子，内存最大，说话速度却和 MacBook 一个档次。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/v5_横评_说话速度一个档次.webp) *家里三台机器，同一个模型的说话速度* 再比读题。 你丢一份几十页的合同进去，它开口之前，要先把整份读完。 这回反过来：两台英伟达，每秒读几千个字；MacBook，不到一千。 ![](https://ajkb.app/assets/wechat/why-ai-eats-memory/web/v6_横评_读题速度.webp) *同一个模型的读题速度* 读题靠算力，说话靠搬运。英伟达赢在算力，苹果赢在一大池内存。对天天跟卷宗、合同打交道的人，读题这一项其实更要紧：材料越长，每次提问前干等的时间就越长。 还真有人把两样拼起来用：国外有个团队让英伟达的盒子读题、上一代顶配 Mac Studio 说话，比单用 Mac 快了近三倍。 也要说句公道话：我这台 MacBook 是 2023 年的。苹果现在的新款，顶配 MacBook Pro 搬运速度是它的两倍，顶配 Mac Studio 是四倍，别拿我这台代表现在的 Mac。 5090 最快，可它只有 32G，连上面那本 40G 的书都装不下。 > **装得下，不等于跑得快** > **跑得快，也不一定装得下** ## 05 · 老听人说 CUDA，它到底是啥 显卡本来是画游戏画面的。2006 年 11 月，英伟达推出 CUDA，让程序员能指挥显卡，去算别的东西。 你可以把它理解成：跟英伟达显卡说话的那套语言，外加一整箱现成的工具。 攒了快二十年，AI 软件大多先支持它。苹果有自己的一套（Metal、MLX），AMD 也有，都在追；但很多新东西，要等人搬过去。 所以说英伟达更适合跑 AI，很多时候说的不是内存，是 CUDA。 --- 收一下，三笔账： · 装不装得下，看容量； · 说得快不快，看搬运； · 读得快不快，看算力。 下回看到内存又涨价，你就知道了：是 AI 每说一个字，都在把自己从头读一遍。 你现在用什么机器跑模型？留言说说。 --- 原文发布于「零代码法律人」。读者可前往 [微信公众号阅读原文](https://mp.weixin.qq.com/s/OnZsxyNapR4CV8ZumxdTqQ)。