HART OS 开源:本地优先的 AI 运行时,还没到操作系统那一步

HART OS 这几天在 GitHub 开源,标签写着 AI-native operating system for every device, from your computer to embodied AI。项目方喊出一句大话:前沿 AI 不需要数据中心。

真正该问的不是这句话对不对,而是这套架构里有多少东西已经能验证。翻开仓库,能核实的部分和项目自己承认没解决的部分都摆在明面上——这份坦诚,比大多数包装成熟叙事的开源项目要老实,但坦诚不能替代验证。

HART OS 是什么,谁会先用上

它不是能装机启动的传统操作系统,更接近一层 AI 运行时:把模型调用、智能体执行、自我改进都当成系统级服务,像文件系统和网络栈一样交给上层应用调用。

几条硬事实先摆清楚:

本地优先不等于离线。快速启动脚本里仍留着 OpenAI、Groq 的接口位置,该调云端照样调云端。

这对两类人意味着不同的事。本地 AI 应用开发者,如果你在同一台设备上要跑好几个模型调用,Model Bus 值得现在接进去试——兼容 OpenAI 接口,迁移成本低,不满意随时切回自己写的调度层。边缘计算和具身智能团队,PeerLink 目前只做信号级联邦,权重级同步还没开。想靠它把多台边缘设备或机器人的模型权重联邦训练,现在还早,先按单机部署评估,别把权重级联邦写进这一季度的路线图。

Model Bus、PeerLink、自我改进,三块东西撑起这个说法

Model Bus 是核心。它探测本机硬件能力,决定一个请求跑本地模型还是转发外部 API,多个应用共享同一份推理服务,不用各自囤模型、各自付账单。

PeerLink 负责跨设备联邦。节点间用点对点 WebSocket 直连,不经中间代理。项目说的是"不外传原始数据和模型权重",但这指的是当前生效的信号级联邦——增量、共识事件这一类。权重级同步,项目自己标注为 Phase 2,尚未启用,这个区分不能混着读。

自我改进(auto-evolve)是最敢讲、也最没验证完的部分。一个假设先过规则过滤,再让节点投票,进沙箱跑,过基准门禁,新版本必须在每项基准上超过旧版本才能通过,签名后才广播。整套流程配了一个开关——每个节点都能单独关闭这套自我改进,一个会自己变强的系统,先让人能按关闭键,这个态度算清醒。

三道关:算力、验证、治理

去中心化 AI 这条路值得肯定。把推理下沉成系统服务,而不是每个 App 各自打包一个模型,思路没毛病。大型机到 PC,中心化计算到边缘计算,能力下沉、控制权分散,历史上一直在重演。"其兴也勃焉"用在这里不算夸张,只是这次连"兴"都还没真正开始。

真正卡住这个叙事的是三道关。

算力关:README 里没有任何硬件配置、模型规模、能耗或独立基准数据。验证关:项目自己给出的功能清单没有第三方复现。治理关:权重级联邦压根没开,节点投票怎么防作弊、算力贡献怎么折算权重,是没碰到的硬骨头。

把 README 里的能力清单当成生产可用性来读,是这类 public alpha 项目最容易踩的坑。

接下来值得盯两件事:权重级联邦什么时候真正打开,以及有没有第三方跑出独立基准。这两个时间点,才是它从运行时 demo 变成操作系统的分水岭。