Gemma 4 抢走冷清一天的头条：开源模型开始比拼“能不能真跑起来”

Google 发布 Gemma 4，本来只是一天里为数不多的大新闻，却意外暴露出开源 AI 竞争已经换了考题。和前几代相比，这次最关键的变化不是模型又大了多少，而是它用了 Apache 2.0 许可、首日就接入 vLLM、llama.cpp、Ollama、Hugging Face Inference Endpoints 等主流工具链，还被不少开发者直接拿去做本地推理和代理系统的底座。

这件事的分量在于，Google 终于不再只把“开放”停留在权重可下载的层面，而是开始认真处理开源社区最看重的三件事：能不能商用、能不能改、能不能马上部署。过去一年，Meta 的 Llama 系列占了开源模型的大部分心智，Mistral 则靠部署友好和速度站稳位置。Gemma 4 现在补上的，是 Google 长期欠缺的那块现实感。

Gemma 4 的真正变化，不在参数表，在许可和首日可用性

按照 Google 和社区披露的信息，Gemma 4 主打推理、代理工作流、多模态和端侧运行，社区讨论最多的是 26B A4B 这类 MoE 版本的本地表现。有人在单张 RTX 4090 上跑出 162 tok/s 解码速度，并声称可支持 262K 原生上下文；也有人在 16GB 内存的 Mac mini M4 上跑到 34 tok/s，甚至把模型塞进 iPhone 上运行。

这些数字当然会因为量化方式、上下文长度、框架实现而波动，但它们传递出一个更实在的信号：Gemma 4 不只是研究演示品，它从第一天起就在争取“消费级硬件也能用”。这和很多模型发布后还要等社区补适配完全不同。对 Google 来说，这比一张更好看的基准测试图更重要，因为开发者迁移工具链的窗口，往往只有发布后的前几天。

开源代理的热度，说明行业瓶颈已经不是模型本身

同一天另一个高频话题是 Hermes Agent。开发者讨论它，不是因为它绑定了某个最强模型，而是因为它把记忆系统、插件架构、长期任务稳定性做得更像一个真正可用的 agent harness。Nous 这次给 Hermes 加入可插拔记忆后端，支持 Honcho、mem0、Hindsight、RetainDB 等，也补了 TUI 内联 diff 和凭证池等工程细节。

这里有个容易被忽略的变化：很多团队现在默认接受“模型已经差不多够用”，真正拉开差距的是外层系统——记忆、工具调用、失败追踪、微调闭环。换句话说，AI 应用正在进入一个没那么性感但更接近软件工程的阶段。谁能把代理跑稳、把上下文留住、把失败样本收集起来，谁就更有机会做出可交付的产品。Hermes 的走红，本质上是在提醒行业：大模型能力越来越像公共底座，外壳工程开始吃掉更多价值。

对开发者和企业，眼下最现实的差别已经很具体

如果把这一天的信号放到实际决策里，影响并不抽象。

对企业尤其如此。原文里还提到 Auth0 FGA 和 LlamaIndex 的权限控制整合、vLLM 在 Ray Serve 里的容错能力，以及 Baseten 为 OpenEvidence 提供临床场景推理服务。把这些放在一起看，行业现实很明确：买模型已经不是最难的一步，权限、追踪、容灾、合规才是预算大头。很多“开源可替代闭源”的说法，到企业采购这一步都会变慢。

真正该警惕的，不是模型不够聪明，而是人已经管不过来

当天讨论最有共鸣的，其实不是模型榜单，而是开发者对 coding agent 的疲惫感。有人说同时盯四个代理到中午就已经精疲力尽，也有人抱怨 Claude Code 的 rate limit 很快就撞线。这里点出了一个常被低估的约束：今天很多 AI 工具的瓶颈不是算力，而是人的认知带宽。

这也是为什么“本地可用的备份方案”突然变得重要。Gemma 4 加上 Hermes，提供的是一种现实中的缓冲带：当托管产品限流、涨价、策略变化时，团队至少还有一套能跑的开源组合。但这不意味着闭源产品会很快失守。Anthropic、OpenAI 仍然掌握更强的模型能力和更成熟的产品体验，短期内开源更像是在逼着它们降低价格、放宽限制，而不是立刻把它们赶下牌桌。

从历史参照看，这有点像 2023 年 Llama 2 发布后的那波开源热潮，只不过这次社区关注点更务实：不是“能不能追上 GPT”，而是“今天能不能装进我现有的工作流里”。这个问题更无聊，也更接近商业现实。