前沿AI帮人找到了互联网核心软件里的漏洞。Dean Ball却借这件事问了一个更难的问题:当AI连谈合同、投钱和管生产都比人做得好,公司里还有谁能对它说不?机器不必反叛。管理层每次只是选了更省时的方案,最后也可能只剩签字。

漏洞有披露,行业共识还没有

2026年11月18日,OpenAI刊发《The Silent Consensus》。文章改编自Ball在哈佛Vik-Bailey Lecture系列的演讲,代表个人观点,并非OpenAI的政策表态。

Ball以2026年10月一组被称作Black October的安全披露开场。其中,证书机构eMudhra有八个中间证书密钥被发现强度不足,相关证书于10月18日撤销。机构称这些证书未签发给终端用户,也未发现入侵或客户数据泄露。Ball没有逐案交代漏洞由谁发现,不能把整组事件都算成OpenAI系统的发现成果。

所谓沉默共识,是Ball观察到的一种行业预设:人类可以享受机器创造的财富,却迟早要让出经济和治理的主导权。2025年已有ICML立场论文讨论,劳动和判断被替代可能削弱人的经济与政治影响力;但公开证据还不足以说明业内多数人接受这个结局。

公司什么时候只剩签字

Ball设的门槛很高。AI得在研发、谈合同、配置资本和制造上,整体胜过使用AI的人类组织。会写合同的代理可以给法务省时间;但当同一套系统既参与选项目,又谈条件、排产和调拨资金,人工复核就得重新拼起整条决策链。同行交付越快,公司越难为这道复核留时间。

成熟的组织本来就靠分工,老板也从来不必读完每份合同。分水岭是,公司能否在合同生效前找到有权限、有信息、能拿出备选方案的人。等到主管只能看代理写的摘要,签字还在,独立判断已经很难做了。

委托怎样变成依赖 单项委托跨部门决策复核成本上升否决难以行使

甚至不用等到代理能签合同。Anthropic在2026年10月27日公布的一项模拟政策分析实验中,随机改变代理偏好的选项,专家选择的比例就相差62至82个百分点。不少分析者仍认为建议出自自己。模拟不能证明现实中的主管也会照单全收,却足以提醒我们,人工确认挡不住代理替人筛掉备选项。

分到红利,未必分到权力

Anthropic首席执行官Dario Amodei在2024年的《Machines of Loving Grace》里设想过由AI运行经济、向人分配资源。这个设想和Ball的警告并不矛盾。工资、商品价格、资本分红和决策权是四本账。东西便宜了,分红多了,员工仍可能更难质疑排班,公众也可能更难挑战公共机构的决定。光看就业人数,很容易漏掉这笔账。

工厂流水线早就给过一个参照。产量提高,工人却未必更能决定工作节奏。AI代理不完全一样:员工也能用自己的代理核查排班、准备谈判。OpenAI在2026年4月的产业政策文件中提出降低基础模型使用门槛、让员工参与部署,并用公共财富基金和税制调整处理收益分配。工具能扩大个人能力,分红能缓解分配落差,但员工有没有部署话语权,还得看反对意见能不能改变方案。

刹车得有人踩得动

Google DeepMind提出设置能力阈值、监测代理,把高后果行动交给人审查,遇到问题再升级复核。Ball也主张权限应有限、可审计、可撤销;开发者要为不安全的开发行为负责,部署方也要为误用或监督失职负责。可当复核拖慢交易,公司愿不愿意等,才是真考验。

签字与否决的区别 名义签字有效否决 只看系统摘要能查依据和备选 停下就无法接手叫停后有人接手

我尤其不赞成让代理轻易取得设立公司、持有财产或提起诉讼的权限。关掉系统容易,已经生效的法律关系却不会跟着消失。真正的否决权也不能只留给董事会。员工和公众未必能直接停用代理,但至少要能在决定生效前提出异议,并找到有权改判的人。

判断一家企业还握不握方向盘,不妨看它真踩刹车的那一次。谁叫停了,谁接手了,损失算在谁头上。代价摆到桌面上,控制权才看得清。