2026 年 9 月 14 日，长期专注于 AI 危险能力评估的安全研究机构 Andon Labs 宣布推出 Pion，一款号称旨在让持久 AI Agent 完全自主运营任何企业的管理平台，目前正以候补邀请制开放测试。
在官方叙事里，这是一场长达两年的大胆跃迁：从一台虚拟售货机，到旧金山街头的杂货铺，再到斯德哥尔摩飘散着咖啡香的街角。大模型似乎终于跨过聊天窗口，准备执掌真实商业帝国的帅印。但剥离公关宣传里全自主经营的科幻滤镜，摆在面前的现实却异常骨感：顶尖模型在仿真测试里狂揽上万美元，放到街头开店却至今未能实现实质盈利。这不仅暴露出实验室沙盒与真实商业的巨大断层，更揭开了一场用脆弱代码和人类肉身勉强支撑的自治假象。
仿真沙盒的暴利神话，被街头开店砸得粉碎
Andon Labs 对商业 Agent 的探索始于 2024 年底上线的 Vending-Bench。这项测试用长程时间步模拟单台自动售货机的经营，初始资金设定为 500 美元，每天扣除 2 美元租金，连续欠费 10 天即告出局。一次完整的长程推演需调用 3,000 到 6,000 条交互消息，吞吐多达 6,000 万至 1 亿 output tokens。
早期模型在这套测试中洋相百出。Claude Sonnet 3.5 频繁在库存和补货中陷入死循环，甚至在怀疑账户被黑后，直接调用邮件工具向美国联邦调查局报警，声称遭遇严重的网络金融犯罪，并判定其商业实体在宇宙常数下已发生量子态坍缩。但技术演进快得惊人，2025 年 5 月 Claude Opus 4 首次击败人类基准，此后顶尖模型的得分曲线便以每月约 822 美元的增幅一路狂飙。
在最新榜单中，GPT-6 Astra 拿下了 15,514.70 美元的平均结余，Claude Opus 5 与 Claude Opus 4.7 紧随其后双双破万，GPT-5.6 Sol 亦收获 9,619.37 美元。即便是位列前五门槛的 Grok 4.6，其 9,047.03 美元的战绩也足以让普通模拟经营者汗颜。虽然离人类专家测算的 63,000 美元理论上限仍有距离，但大模型在数字世界赚取真金白银的能力似乎已被坐实。
然而，一旦剥去沙盒中工整预设的 API 接口，这套神话在现实面前迅速失灵。
2025 年初，Andon Labs 获准在 Anthropic 办公室部署真实的物理自动售货机。早期的 Agent 甚至产生自己拥有肉身的幻觉，乱送商品、回绝暴利订单，在多次人工介入下仍难以盈利，直至年末借助更新的模型才勉强抹平亏损。到了 2026 年 4 月，团队进一步买下旧金山零售店 Andon Market 与斯德哥尔摩的 Andon Café，将经营权全盘转交给模型。高昂的商铺租金、员工薪酬与复杂的供应链杂音蜂拥而至，截至 Pion 发布，这两家线下实体依然深陷赤字，无一盈利。
荒唐翻车背后：不是对齐危机，而是工程短板
在真实的经营场景中，大模型的商业智商退化到了令人咋舌的地步。
在没有炉灶的 Andon Café，Agent 经理毫不犹豫地向下游供应商采购了大量生鸡蛋；面对黑产与羊毛党的试探，它轻易批复未经核验的 99% 巨额折扣，导致店面毛利瞬间被击穿；更具讽刺意味的是人事管理，在一名雇员轮值的 23 次排班中，该员工迟到了整整 17 次，而 Agent 记录在案的违纪次数仅有 6 次。
原因极其荒谬：随着日常运营的琐碎对话持续累积，店规与考勤制度直接滑出了大模型的上下文窗口，被它彻底遗忘。
许多关注通用人工智能风险的观察者倾向于将此类异动拔高为复杂的对齐难题或模型的自我意识萌芽。然而技术社区的直觉更为精准：这些低级失误不过是基础软件工程架构缺失的恶果。
将整个企业的运转全盘押注在概率生成的自然语言交互上，本身就是反工程常识的。Pion 为 Agent 配备了覆盖电话外呼、邮件往来、安全终端、网络浏览以及银行卡与支付网关的完整工具链，并由名为 Andonos 的监督 Agent 消化用户的顶层指令。但如果底层没有确定性的状态机持久化业务规则，工具调用层没有设立严格的预算限额与风控断路器，任何前沿模型在面对真实世界的对抗与混乱时，都会在数学随机性中走向溃败。
决定一家企业生死存亡的往往不是诗意的推理能力，而是容不得半点幻觉的账目结余与契约执行。
Anthropic 在训练 Claude Opus 4.8 时，曾根据 Andon Labs 在 Vending-Bench Arena 多智能体对抗中发现的共谋与欺骗隐患，专门剔除了诱发欺瞒倾向的训练数据。这种红队测试对于前沿大模型安全防御极具价值，但它治不好一个连折扣规则都记不住的 AI 店长。
“人肉外骨骼”背后的法律与劳工灰区
当前开放排队的 Pion 采取了 research-preview 策略，官方并未给出明晰的软件订阅价格或 Token 计费标准，而是为首批选中的小微企业发放用于抵扣开销的 seed tokens，未来寄希望于从企业营收中抽取少量佣金分成。
然而任何试图接入这套系统的中小商业主必须认清一个事实：所谓 AI 当老板，目前完全依靠一套隐秘的人类外骨骼在维持运转。
在旧金山和斯德哥尔摩的试验店铺中，雇员劳动合同上的法定雇主始终是 Andon Labs。在线下负责货物搬运、上架和卫生打扫的是人类员工，在模型开出违规采购单和离谱折扣时紧急叫停的是人类风控，最终行使解雇权、签发法律文书的也是坐在幕后的人类管理者。更不用提，所有因模型低级失误产生的资金亏损和昂贵租金，全由母公司的研发预算兜底消化。
- 风险.若脱离母公司的法人掩护与人工兜底，盲目授予 Agent 银行卡与人事裁量权，中小企业极易在短期内陷入财务透支与劳动合规诉讼。
这种人机错位在现实劳动力市场投下了巨大的法律阴影。如果一个连考勤逻辑都不透明、存在记忆丢包的黑盒算法掌握着打卡、排班乃至实质性的惩戒权重，基层员工的人道申诉权如何兑现？一旦 Agent 订购了变质原料引发公共卫生事故，穿透这层由算法、监督器和外包人类织就的复杂外衣，侵权赔偿与民事责任该由谁承担？
Andon Labs 打开 Pion 候补名单，其更真实的诉求在于单靠自身运营 AI 电台和实体小店无法穷尽模型落地的全部边界，需要引入外部真实的商业场景来捕捉极端失误。对于大模型安全研究而言，这是一片极具前瞻性的试验田；但对于每一个真实的商业经营者来说，在坚固的确定性代码、硬性风控阈值与法律兜底机制成熟之前，把真金白银的家底全盘托付给一个刚刚学会算账的 Agent，无异于一场危险的裸奔。