将客厅里的索尼游戏机改造成一台全天候待命的本地大模型服务器,听起来是一场极客式的降维打击。开源项目 PS5LM 近期在社区引发讨论,开发者通过移植底层驱动,让 llama.cpp 在已越狱的 PS5 上直接调用 AMD RDNA 2 GPU 运行 GGUF 模型,并给出了相当抓人的标称数据:轻量模型 Qwen 3.5 0.8B 生成速度达 207 tok/s,9B 模型跑到 55 tok/s,甚至宣称在极端量化下能吃下参数量达 27B 的 Qwen 3.8,维持约 20 tok/s 的输出。
然而,剥开客厅电视界面的新奇感,这套方案远非廉价的本地算力平替。它本质上是一次在封闭系统裂缝边缘的高难度杂耍,堆叠了脆弱的越狱链条、非官方合规的驱动魔改,以及物理层面上捉襟见肘的显存妥协。
驱动飞线:把 Vulkan 硬塞进封闭主机
PS5 的硬件底子向来让边缘计算爱好者垂涎:基于 AMD RDNA 2 架构的图形核心,外加 16GB GDDR6 高带宽统一内存。在理论层面,这种硬件形态极其贴合需要高吞吐、高访存带宽的本地 AI 推理。但长期以来,索尼严密的底层封闭让外部程序只能停留在 CPU 阶段,或者在臃肿的 Linux 模拟层里承受严重的显存分页开销。
PS5LM 相比过往试验的实质进展,在于从早期脆弱的纯 CPU 内存挂载方案,演进为代号为 PPSA99575 的原生应用架构。这一步避开了传统 payload 的内存常驻上限,并吸纳了开源社区在图形底层上的逆向成果。
它的底层加速通路直接绕过了标准的系统服务:在未采用标准 Vulkan loader 的前提下,项目以静态链接方式把 Mesa RADV 驱动补丁强行嵌进系统。这套驱动虽然能够向运行环境报告自己支持 Vulkan 1.4,但作者在文档中明确承认,该驱动层未通过 Khronos 官方合规认证。换言之,这是一条完全由社区逆向补丁飞线搭出来的非标管道,任何系统调用层面的轻微冲突,都会直接引发不可预测的崩溃。
显存数学题:27B 模型的物理幻象
让技术圈最兴奋也最具争议的,是开发者合并 PR 中提及的极限性能:将参数量达 27B 的 Qwen 3.8 压制在 UD-Q2_K_XL 极限极度量化档位,标称达成 20.3 tok/s 的生成速度,并声称支持最高 64k 的上下文长度。
只要稍微核算一下物理显存的收支账目,就能发现这组数据的脆弱之处。
在 PS5 Slim 硬件上,系统暴露给该应用的单一 Vulkan 堆上限被死死锁在 11.44 GiB。这块地盘不仅要承载模型权重本身,还必须扣除 TV 界面图形渲染、基础框架缓冲区以及处理长文本所必需的 KV Cache。9.15 GiB 的模型加载进去后,系统实际剩余的动态空间不足 1.5 GiB。
缺乏长上下文实测支撑的吞吐标称,更像是一场数字游戏。
开发者 PR 报告的生成速度,很可能是在极短 Prompt 输入下的瞬时状态。截至目前,社区独立复现仅在 4.50 早期固件上跑出了 7B 与 9B 模型约 30 tok/s 的模糊记录,而 27B 模型在 20 tok/s 下的实测,依然缺乏严谨的第三方长文本验证。在仅剩 1.5 GiB 的空间里,塞满 32k 甚至 64k 的上下文计算完全违反了内存物理常识。
杀进程换模型:玩具与工具的分水岭
在交互层面上,PS5LM 确实做到了极高的拟真度:它把推理过程做成了专为电视优化的终端 UI,可以通过手柄直接发送测试指令,顺带提供了兼容 OpenAI、Anthropic 格式的本地端口,甚至集成了 Ollaya 生态下的决策模型端点。但在实用工程维度,它依旧带有粗糙的拼凑痕迹。
目前最致命的体验死穴在于显存管理。项目底层的 Vulkan 资源释放链条存在缺陷,应用内的卸载机制根本无法真正把显存交还给系统。用户一旦需要更换模型,唯一的解决手段是强行杀死进程并重启整个应用,借由进程生命周期的终结来强行重置显存池。
| 核心维度 | PS5LM 方案现状 | 成熟桌面方案(RTX / Mac) |
|---|---|---|
| 显存回收机制 | 无法正常释放,换模型依赖强退重启 | 驱动层自动回收,无缝热切换 |
| 驱动合规性 | Mesa RADV 补丁,未过认证 | 官方稳定驱动,长期生态支持 |
| 能耗监测口径 | ps5-exporter 未校准原始计数器 | 硬件级电流计或稳定 API 输出 |
| 固件门槛 | 严苛依赖 7.00 至 13.60 越狱链 | 无门槛,系统常态升级 |
数据监测同样存在盲点。虽然应用通过整合 ps5-exporter 在 TV 上绘制了看似专业的频率与功耗曲线,但该组件的官方文档明确写道:PS5 的原始 SoC 功耗计数器存在读取失败且单位未经校准的问题。将软件抓取的失真数值当作能效优势,甚至断言其超越独立显卡,在实验逻辑上站不住脚。
- 风险.方案高度绑定特定固件版本与多项补丁,一旦系统发生死锁或崩溃,可能导致系统环境损坏或触发不可逆的升级机制。
极客自嗨还是生产平替
开源社区将一台以反破解著称的主机榨出通用算力,技术探索本身无可厚非。PS5 的统一内存结构在纸面参数上的确性感,也恰好暗合了大语言模型对内存带宽的饥渴。
但生产力工具看重的是稳定性与确定性。一台同价位的二手 RTX 3060 12GB 机器虽然带宽逊色,但拥有工业级的 CUDA 支持和自由的模型调度;一台入门级 Apple Silicon 设备虽然单价稍高,却具备无需妥协的开箱即用体验。相比之下,PS5LM 要求用户手握特定固件版本,战战兢兢地避开索尼的安全修补,还要忍受换模型必须关机的断层体验。
用游戏机跑 AI,展示的是黑客群体打破硬件禁锢的智力游戏;但若真想用它当日常调用的本地服务器,未免有些买椟还珠。
