AMD给一台迷你主机开出了3999.99美元的价格,卖点是128GB统一内存和一句听起来很诱人的承诺:开箱即用的ROCm开发环境。这台叫Ryzen AI Halo的机器只有15厘米见方、不到5厘米高,塞进了Zen 5架构的Ryzen AI Max+ 395处理器、Radeon 8060S核显和一颗此前很少被真正用起来的XDNA NPU。硬件本身没什么可挑的,问题出在AMD最想卖的那部分——软件——上,GitHub和Reddit上的开发者反馈和官方宣传对不上号。
一台挤进128GB内存的x86机器
本地跑大模型这几年卡住多数人的不是算力,是显存。消费级GPU显存普遍卡在24到32GB,逼着开发者要么把模型量化压缩,要么转向统一内存架构。苹果靠Apple Silicon先把这条路走通了,AMD这次想用Strix Halo芯片在x86平台上复制类似体验。
Ryzen AI Halo的参数摆出来确实扎实:128GB LPDDR5x-8000统一内存,带宽256GB/s,2TB可拆卸M.2固态硬盘,GPU算力约60 FP16 TFLOPS,NPU最高50 TOPS,整机宣称AI总吞吐126 TOPS。平台功耗120W,芯片默认TDP只有55W,可配置区间45到120W——比起动辄五六百瓦的高端独显,这是一台安静得多的机器。
放到同类产品里比,Halo不是任何一项指标的第一名。NVIDIA的DGX Spark内存带宽273GB/s略高一筹,苹果Mac Studio顶配M3 Ultra能到512GB内存、819GB/s带宽,是Halo的三倍还多。真正和它同平台的是Framework Desktop——用的是同一颗Ryzen AI Max+ 395芯片,规格几乎一致。
官方说"完整支持ROCm",GitHub上一堆issue不答应
AMD的官方叙事很清楚:这台机器预装PyTorch、vLLM、llama.cpp、Ollama、ComfyUI、LM Studio等主流工具链,主打"批量搭好环境",让开发者不用自己折腾驱动。这也是它区别于Framework Desktop、Beelink GTR9 Pro这类同芯片竞品的地方——别人卖的是硬件,AMD卖的是软件预装。
但Radeon 8060S所用的gfx1151架构,在ROCm生态里一直不是主流。GitHub上ROCm/rocm-libraries的一个issue直接写着这颗架构缺失库支持;另一个issue里有用户报告在Ryzen AI Max+ 395上根本跑不起来vLLM推理。LM Studio的仓库里也有两条issue,说Linux下这颗APU会被ROCm后端认作检测不到显卡。Reddit的相关社区里,反馈更直白:显卡挂起、SDMA超时、推理悄悄回退到CPU。
内存给得慷慨,软件却还在打补丁,这才是这台机器最真实的处境。
有意思的是,在原文的实测里,AMD自家的Vulkan后端和ROCm/HIP在跑分上不分高下,社区反馈也普遍认为直接用Vulkan或llama.cpp比走ROCm路径更稳。这等于说,AMD最想推广的那条技术路线,恰恰不是眼下最可靠的那条。
120W安静,但和谁比才有意义
原文没给出Halo实测的功耗和温度数字,但拿它对照同赛道的机器,能看出这台机器的定位更清楚。第三方评测里,RTX 5090满载功耗逼近575W上限,核心温度80到81摄氏度,显存温度能到96摄氏度,噪音约50分贝——性能强,但吵、热、费电。Mac Studio用M3 Ultra在反复高负载测试里能稳定在43摄氏度左右,安静省电但价格和内存上限都更高。NVIDIA的Jetson AGX Thor功耗区间40到130W,和Halo的定位更接近,只是它标称的最高2070 FP4 TFLOPS是厂商给的AI吞吐指标,跟llama-bench这类实测的每秒token数不是一回事,纸面对比很容易把人带偏。
- 提醒.跨厂商比较TOPS、TFLOPS这类标称算力时,脱离实际tokens/sec的场景很容易得出错误结论。
Halo在这个功耗档位里,确实找到了一个RTX 5090和Mac Studio之间的空档:不追求极致速度,也不像高端独显那样又热又吵。这是它比较踏实的一面。
谁该为这台机器掏钱
原文提到NPU"历史上很少被用到,这次终于用上了",但没有说清楚具体靠什么软件栈、跑什么任务实现的。这一点目前还看不清,只能说AMD在这台机器上给了NPU一个被调用的机会,实际能不能撑起日常工作流,还需要更多独立测试验证。
真正决定买不买的,不是跑分,是耐受度。愿意为128GB统一内存忍受ROCm还在磨合的开发者,这台机器值得一试——2TB存储放得下不少本地模型,安静的功耗也适合长期挂机跑推理。但如果你想要的是打开箱子直接跑通、不折腾驱动的体验,目前的证据说明这个承诺还没完全兑现,Vulkan或者干脆用llama.cpp原生路径,可能比AMD主推的ROCm更省心。
接下来最值得盯的,是AMD会不会专门针对gfx1151架构出一版修复,以及社区那些issue的合并进度——这比任何跑分数字都更能说明这台机器的软件到底成不成熟。
