自购一台高端硬件放在桌面跑大模型，免受云端 API 账单限制并实现所谓的“算力自由”，曾是过去两年开发者圈子里最流行的技术信仰。然而，开源大模型成本测算工具 Sunk Cost 近期公开的一组财务模型，用冰冷的数据击碎了这个美妙设想：花 3,499 美元 购置一台 64GB 统一内存的 Mac Studio M5 Max，如果用来给日常编程打底，需要连续运行 43.6 年 才能收回硬件成本。
这不是算术玩笑，而是云端规模效应与个人硬件低利用率迎头相撞后的必然结果。当开发者每天都在调用几毛钱的云端推理服务时，桌面那台动辄数千美元的铝合金主机，本质上是一笔漫长且难以自拔的沉没资产。
44 年回本账单：每天省 2 毛 2 美分的算力陷阱
Sunk Cost 设定的基准场景极具代表性：一名独立开发者以本地部署的 Qwen3.8 27B Q4_K_M 作为代码助手，每天吞吐 50 万 token。因为每次补全都要带上当前文件或历史上下文，输入与输出比例设定为经典的 15:1，即每天输入 468,750 token、输出 31,250 token。
如果把这笔工作量交给 OpenRouter 上的 Qwen3.8 27B 云端接口（输入每百万 token 标价 0.32 美元，输出 2.5 美元），单日 API 支出仅为 0.23 美元，一个月不到 7 美元。
换到本地运行，这台售价 3,499 美元、配有 18 核 CPU、40 核 GPU 及 64GB 统一内存的 Mac Studio M5 Max 确实不需要 API 账单。但在 0.17 美元/度的平均电价与 145W 预估负载下，整机生成每日所需 token 依然要产生 0.01 美元的电费。两者相减，自建硬件每天真正为你省下的钱只有 0.22 美元。
用 3,499 美元的机器去填平每天 2 毛 2 的沟壑，需要整整 15,942 天。一年跑下来，硬件在账面上依然净亏损 3,419 美元。如果用户想要运行更大型号的开源模型而选购 128GB 内存版本（GPU 可用约 96GB），机器售价直接飙升至 5,099 美元，静态回本周期更将被推向半个世纪之后。
试图用个人电脑闲置算力战胜云端工业流水线，本质上是一场财务错配。
- 风险.按照消费电子产品 3 到 5 年的常规淘汰周期，个人自购硬件跑日常代码辅助，在设备折旧报废前连采购款的零头都无法收回。
速度与能效实测：调优挽救了吞吐，救不了折旧
当然，Sunk Cost 最初的测算采用了部分理论占位参数，例如依据 614GB/s 显存带宽推算的 24.7 tok/s 生成速度，以及直接借用前代压测的 145W 满载功耗。在真实测试环境中，硬件本身的机械能效其实优于最初估算。
根据独立基准评测机构针对 2026 年 9 月 22 日发售的 Mac Studio M5 Max 实测数据，在运行占用约 17.8GB 显存的 Qwen3.8 27B 时，不同软件框架的性能释放呈现巨大鸿沟：
- 在专为 Apple Silicon 设计的 oMLX 框架优化下，实测解码速度可达 30.6 tok/s（峰值 31.9 tok/s）；
- 若切换为通用推理客户端 LM Studio，平均生成速度则跌至 20.8 tok/s。
功耗方面，苹果官方环境报告标明整机电源系统最大持续额定功率为 480W，在 115V 条件下空闲待机功率仅 5.7W，睡眠模式为 1.4W。插座实际功耗测试显示，M5 Max 本地推理时的整机功耗通常维持在 110W 至 125W，换算下来每生成一个 token 仅消耗 3.5 到 4.2 焦耳；即便运行更大的 70B 模型，扣除待机后的推理净增功耗实测也仅为 96W。
即便工程师依靠底层的 Metal 与 MLX 将生成效率榨干到 30 tok/s，依然扭转不了财务模型的根本劣势。因为本地设备必须面对最残酷的另一项隐形成本：开发者的等待时间。
在云端 API 普遍能提供 80 tok/s 的当下，生成一段 1,000 token 的长函数逻辑，API 只需 13 秒，本地设备即便跑满也要等上 30 到 40 秒。按每天 31,250 个输出 token 计算，本地用户每天在屏幕前无所事事等待代码敲出的累计时间，足足比云端多了 15 分钟。为了每天省下 2 毛钱，却要搭进 15 分钟的高价值工程师工时，从机会成本来看无论如何都不划算。
吞吐量断崖：自建算力只属于重度工厂
本地 AI 算力之所以在个人场景下显出荒诞的回本周期，根源在于算力利用率的断崖式分布。Sunk Cost 数据库中的配置对照表明，硬件回本并不是绝对不可能，而是极度依赖日吞吐规模：
| 运行环境与日吞吐量 | 对应工作负载形态 | 每日理论 API 等效成本 | 硬件静态回本周期 |
|---|---|---|---|
| 轻度辅助 (20万 Token) | 个人日常间歇性提问与查阅 | 约 $0.09 / 天 | 100 年以上（无望回本） |
| 标准开发 (50万 Token) | 典型全天代码补全与单文件分析 | 约 $0.23 / 天 | 约 43.6 年 |
| 工业批量 (2000万 Token) | 全自动化测试生成与批量清洗 | 约 $9.20 / 天 | 约 1.0 年（实现打平） |
当吞吐量拉升至 2,000 万 token/天 时，机器必须 24 小时满负荷运转，此时低配 Mac 设备在 1 年左右即可追平采购成本。但这种负荷早已不再是个人桌面助手的形态，而是一个标准的自动化批处理数据工坊。
更深层的挑战来自云端价格的单向坍塌。测算模型为了给本地硬件留出余地，假设了当前 API 价格永远不变。但现实商业世界中，数据中心依靠数十万张专用加速卡的高并发池化、动态批处理以及 Prompt Caching 技术，使上下文缓存成本进一步折半。云端服务商将价格曲线每年向下砸穿数倍，而桌面上的 Mac Studio 自拆封那一天起，性能与内存规格便被焊死在主板上。
- 建议.除非身处对数据隐私、网络物理隔离有严苛合规要求的金融或军工场景，否则普通开发者无需为免除 API 账单而冲动购入高配统一内存主机；按需付费调用云端，依然是现阶段最理性的财务选择。