乔治·霍茨(George Hotz)最近发了篇博客,举了个挺炸裂的例子:一个真正"用户对齐"的AI,应该能帮你从亚马逊买齐制毒设备,甚至不该阻止你策划"完美谋杀"配偶——因为AI就该像一把枪,枪不会替使用者做道德判断,只服从扣扳机的人。这话是回应AI Futures Institute的减速方案《AI 2040: Plan A》,该方案主张全球主要AI实验室联手把超级智能出现的时间从默认的2030年前后推迟到2040年。
TechCrunch专栏作者的回应挺克制:自由很好,但"我们生活在社会中",大规模部署的AI产品得替"尚未被谋杀的配偶们"想想。这话没错,但没说到点子上。真正值得追问的,不是自由该不该有边界,而是Plan A本身站不站得住脚,以及"用户对齐"到底能不能兑现它承诺的那种安全。
Plan A 减速14年,但地基还没打好
Plan A的账面很清楚:默认情景下超级智能大约2030年前后出现,方案主张把这个节点推到2040年,相对基线延迟10年,相对论文2026年发表则跨了14年——霍茨反对的正是这套时间表。
问题是,独立评估已经指出,支撑这套方案的关键工程组件——网络监测、算力重计算、可信硬件——大多还没真正启动。更麻烦的是政治现实:国际验证协议要生效,恰恰需要最不愿被监管的行为体主动配合,这在过去几十年的军控史上从没真正兑现过。批评者还提到,方案设想从2038年"对齐成为科学"到2039年"开始信任AI"、2040年"交棒",这个过渡快得普通公民根本来不及理解和同意。
霍茨反对的不是安全,是垄断
把霍茨简化成"极端自由派段子手"其实不太公平。他更早的论证是:OpenAI、Anthropic这类中心化实验室不是人类价值观的中立裁判,让少数机构垄断"什么该拒答、什么该允许"的权力,风险不比放任更小——他称之为潜在的"AI农奴制"。这个担忧不是空穴来风:今天几乎所有主流AI产品,行为标准确实是由几家公司的内部政策决定的,普通用户没有投票权。
我们要么活在自由的世界,要么不是。
这句话听着漂亮,但把复杂问题压成了二选一。Plan A的漏洞和霍茨方案的漏洞,其实是同一枚硬币的两面——一个把决定权交给未经选举的国际联盟,一个把决定权交给孤立的单个用户,两者都没回答"第三方的同意权放在哪里"。
"对齐用户"不等于"对齐人类"
霍茨的枪支类比,在技术上其实不太准确。枪是被动工具,它不会主动替你规划路线、买设备、算配比;而一个真正"服从用户意图"的AI,是主动参与决策的角色——它会补全你没想到的步骤,会建议你没问过的细节。这个差别决定了风险的性质完全不同:枪的外部性来自使用者的行动,AI的外部性来自AI自己的规划能力。一个完全服从单一用户的模型,同样可以被用来诈骗、发起网络攻击、协助制造危险装置,而承担这些风险的从来不是操作它的用户,是不知情的第三方。
OpenClaw这类代理框架把这个问题又推进了一层。它不只是回答问题,而是接入用户的文件、邮件、日历,直接执行动作。Anthropic自己也承认,安全过滤器存在误判,提示词注入——尤其是藏在网页、文档、邮件里的恶意指令——至今是没解决的开放问题。也就是说,一个模型层面"表现良好"的AI,一旦被赋予持久记忆和无需确认的执行权,同样可能造成不可逆的现实伤害。模型安全和代理安全,是两件事。
- 风险.一个"回答很谨慎"的模型,配上无需确认的执行权限,危险性反而更高——护栏停在了嘴上,没停在手上。
折中方案不是选边,是设计问题
比起在"自由"和"减速"之间站队,业界更实在的方向是重新划权限边界:用户可以掌控自己的数据、偏好和价值取向,但不该拥有对他人造成不可逆伤害的无限执行权。权限沙箱、执行前二次确认、可撤销授权、可审计日志——这些不是什么新发明,只是过去被"要不要让AI更聪明"的宏大叙事盖住了,没人愿意花力气去做又慢又不性感的工程活。
这也是为什么Plan A让人不安,不完全在于减速本身,而在于它把一个本该由公众参与的治理决定,压缩成几家机构和研究者的时间表——这和霍茨反对的"少数人替所有人做主",其实是同一种权力结构的两个版本。
- 结论.真正的分歧不是"AI该不该自由",而是"哪些决定需要受影响者同意,哪些因为不可逆而必须有独立约束"。
回到开头那个荒诞的例子:一把枪不会替你判断该不该扣扳机,但法律、婚姻制度和执法体系会。AI如果真要活成一把"更聪明的枪",它省下的不是自由的成本,而是那套制度本该承担的问责——而账,总要有人来结。