本地跑大模型要多少内存:苹果 128GB 这台说了一半

昨晚快十二点刷到这条消息:苹果在 10 月 28 日(当地时间)发布了新的 14 英寸和 16 英寸 MacBook Pro,官网新闻稿标题是《Apple unveils groundbreaking MacBook Pro with PROLED XDR Display》,国内媒体今天凌晨转了出来(IT之家,10 月 29 日 03:07)。

触屏、双层 OLED、灵动岛,这些是通稿里的主角,也是各家标题里的词。真正让我停下来的是中间一句很不起眼的话:M5 Max 机型「可在设备端直接运行具有数千亿参数的大语言模型」。

这句话技术上没错。但它省掉的东西,比它说出来的多。

夜晚的书桌上放着一台合着的银色笔记本,旁边是一台黑色小主机,桌上绕着一根网线和一只玻璃水杯
大多数时候,这台机器的盖子都是合着的——这一点后面会用到。

先把官方原话和价钱摆清楚

官方公告里跟"本地跑模型"有关的只有三句:M5 Max 可在设备端运行数千亿参数的大语言模型;M5 Pro 与 M5 Max 的每个 GPU 核心都内置神经网络加速器;整机最高可选配 128GB 统一内存。另外提了一句,创意工作者可以在 LM Studio 这类 app 里本地跑模型。

发售信息是 11 月 6 日,国行 14 英寸 22,999 元起、16 英寸 27,999 元起(IT之家 10 月 29 日口径,M5 Pro 版本)。这里有两个容易看串行的地方,我一个一个说。

第一,22,999 是 M5 Pro 那一档的起价,128GB 是选配的上限,这两个不是同一台机器。想把内存拉满,得先选到 M5 Max,再往上加内存,加多少以苹果中国官网配置页为准——这个差价我不替它算,因为官网的配置价格会随批次变,写死了第二天就可能不对。

第二,同一天苹果还单独发了一台 M6 芯片的 14 英寸 MacBook Pro,是另一份公告。所以你现在打开官网配置页,会看到 M6、M5 Pro、M5 Max 三档起价并排列在那里,数字差得很远。别把最低那一档当成这篇在说的机器,也别把最高那一档当成"跑大模型要花这么多"——它们分别是不同的事。

"统一内存"这四个字才是重点

想在本地跑大模型,第一道关卡是"装不装得下"。模型的权重必须整个待在能被计算单元直接读到的地方,装不下就是装不下,不会因为 CPU 快一点就变好。

苹果这套芯片的特点是 CPU 和 GPU 共用同一块内存池,没有独立显存这一层。好处很直接:整机有多少内存,模型就有多大的地方可放。传统 PC 上,独显的显存是另一块,模型得塞进显存里,塞不下就得换卡,或者拆到多张卡上——这也是为什么同样标称 128GB 内存的台式机,跑大模型的实际可用空间反而不如一台统一内存的机器。

所以苹果这句话的底气不在"算力强",在"池子大"。这一点值得记住,因为它也决定了后面所有的限制。

但"装得下"和"跑得动"是两件事

大模型生成文字分两个阶段。第一个阶段是把你输入的那段话整段读进去,这一步吃算力,GPU 核多就快;第二个阶段是一个字一个字往外吐,每吐一个字都要把模型的大部分权重从内存里过一遍。

这就是关键:第二个阶段卡的不是算力,是内存带宽。带宽不够,算力再强也只能干等。所以一台机器"能跑千亿参数"和"跑起来能不能用"中间隔着一大段,而这一段恰恰是宣传语里不写的。

我没有这台机器,也没做过实测。所有关于速度的话我都不会写——写了就是编。要判断快不快,等真机评测里的每秒生成字数,别看参数表。

白色书架下层放着一台深灰色迷你主机和一台黑色网络交换机,交换机面板亮着一排绿灯,几根网线从后面绑成一束
家里真正 7×24 开着的是这种角落,不是笔记本。

官方没说的三件事

我把官方公告、苹果中国官网的配置页、以及国内几家转述都翻了一遍,有三样东西没找到。这三样恰好是决定"值不值"的关键。

  • 跑的是哪个模型。"数千亿参数"是一个量级,不是型号。同样是千亿级,有的模型专门为端侧优化过,有的原样搬过来就笨重得多。官方举了 LM Studio 当例子,但没说是哪个模型。
  • 压到几位精度。同一个模型,权重存成 16 位和 4 位,占的内存差好几倍,输出的质量也有差别。公告里没有这个数字。
  • 多长上下文下的表现。这一点最容易被忽略。对话越长,模型要额外记住的东西越多,这部分占用会随着上下文长度往上长。换句话说,"能跑千亿参数"很可能是在一个很短的对话里成立的,聊到几万字以后还成不成,官方没说。

这不是挑刺。厂商发布会讲能力上限,不讲边界条件,是行业惯例。但对我们这种要掏钱的人来说,边界条件才是决策依据。

换成家里的账:NAS 加内存解决不了这件事

看到这条新闻,我第一反应是"那我给 NAS 加内存行不行"。想了一下,不行。原因不在内存容量,在两件事上:NAS 的处理器和核显没有为这种计算准备算力,内存也不是那种能被 GPU 直接高速读取的结构。加内存能让虚拟机多开两个、Docker 多跑几个容器,但不会让千亿参数模型跑起来。

真正吃这波红利的是另一类机器:大容量统一内存的平台、或者带大显存的独显主机。今年 10 月我写过一台美国小厂做的"个人 AI 电脑",卖 3499 美元,走的就是这条路——把该装的都装好,卖的是省事。这篇AI 电脑那笔账里算过一次,结论到现在没变:这类产品的价值在于"不用你管",不在于硬件本身多强。

如果只是想在家里跑点东西,眼下更现实的是小模型。10 月这批开源小模型,家用机器能跑得动的那几个,我在这篇横评里按内存和显存分过档。千亿参数级是另一个世界,它的对手不是"要不要买 Mac",是"这事到底该不该在本地做"。

顺带说一句买机器时的常识:内存这东西,能换的和焊死的完全是两种命运。挑 NAS 也好、挑迷你主机也好,先看内存是插槽还是板载、上限是多少,别只看当下配了几 G。这条在家用 NAS 怎么选里提过,放到 AI 机器上更狠——模型只会越来越大,内存补不了就是补不了。

我的判断:三种人三种答案

想让 AI 帮忙整理资料、写点东西的普通用户。别为这句话买单。你要的能力,云端服务和几十亿参数的小模型都能给,本地跑千亿参数换来的是"数据不出门",不是"更好用"。而多数人真正敏感的数据,其实没敏感到需要一台两万多的机器来守。

喜欢折腾、想玩本地推理的人。等等。等真机评测里的每秒生成字数出来,再决定要不要为这件事换机器。眼下这台机器的卖点是屏幕、触屏和便携——那些是它贵的理由,也是你付钱的理由。"能跑千亿参数"是附赠的,不是主线。

手上真有不能外发的材料、要本地处理的小团队。这条路是成立的,苹果这次把"能装下"的门槛拉到了笔记本上,确实解决了一部分人的问题。但要注意形态:笔记本合盖就睡、散热靠机身、电池会老化,它不是一台能 7×24 挂着跑的服务。真要做常开的推理,形态上更合适的还是台式或塔式机器,笔记本只适合"我要带走算"的场景。

真要下手,先确认这四件事

  • 价格别按起售价算。128GB 是选配,先到官网配置页把你想要的组合点一遍,看最终价,再看这个价对你值不值。
  • 内存是焊死的。这台机器没有"以后再加"这个选项。买小了,一年后模型变大,只能换机。
  • 确认 app 里选的是本地还是云端。官方稿点名了 LM Studio。这类工具既能加载本地模型,也能接云端接口,界面上一键就能切。"本地跑"取决于你当时选的是哪一侧,不是取决于机器。
  • 开源权重不等于可以商用。本地能跑的开源模型里,许可证差别很大:Apache 2.0 和 MIT 是宽松的,Llama 系和一些厂商自研模型是自定义条款,商用要回去看原文。想拿它干活的,先把许可证读完再动手。

最后说一句我自己的看法。这条新闻真正有意思的地方,不是苹果发了台贵笔记本,是"128GB 内存"这个数字出现在了消费级产品的默认选项里。三年前这是工作站才有的配置。硬件往前走一步,软件就会跟着把模型做大一号——所以今天买机器的正确姿势,不是按"现在能跑什么"买,是按"两年后还想跑什么"买。这一点上,焊死内存的机器天然吃亏。

本文依据:苹果官方新闻稿《Apple unveils groundbreaking MacBook Pro with PROLED XDR Display》(Apple Newsroom,当地时间 2026 年 10 月 28 日发布),文中关于 M5 Max 本地运行大模型、GPU 核心内置神经网络加速器、最高 128GB 统一内存、LM Studio 等表述均转述该稿;发售日期与国行起售价见 IT之家 2026 年 10 月 29 日 03:07 报道(14 英寸 22,999 元、16 英寸 27,999 元起,指 M5 Pro 版本);同日另有 M6 版 14 英寸 MacBook Pro 的独立公告。128GB 为选配上限,选配加价、实际可售配置以苹果中国官网为准;模型精度、上下文长度、生成速度三项官方公告未给出,本文未做实测,相关判断属个人推断。

全部文章目录 · 回首页

THE END