OpenAI上线了一个新博客,叫AI Futures,背后是刚成立的Strategic Futures团队。它们要研究的问题很直接:变革性AI出现之后,权力会不会失控地集中到极少数人手里。
这个问题不新鲜,AI治理圈讨论了好几年。让人多看一眼的是提问的人——一家手握前沿AI模型的公司,主动把"权力集中"排在所有长期风险的第一位。
团队在担心什么
团队的判断是:权力集中,是AI风险里最大、最难解的一类。
理由不复杂。国家权力从来靠人撑着——士兵警察需要人来当,税收靠工资产出、需要纳税人愿意交,官僚系统靠大量公务员日常运转。休谟说过一句实话:统治者能稳住,靠的只是民众的看法。这套秩序的前提是,大规模的合作和同意是刚需。
OpenAI的推演是,这个前提可能正在松动。这是一次前瞻推演,不是已经发生的事实。
自主系统一旦成熟,执法和作战可以不再依赖听命的士兵警察;税收可以从个人工资转向数据中心的产出;官僚系统本身也能被自动化运转。三件事叠在一起,权力第一次有可能不用再向普通人讨价还价。
这三条,分别对应执法、税基、行政三种国家能力。哪一条先松动,决定权力集中从哪里破防——团队认为这才是最该盯住的变量。
原则里的冲突,谁会先感受到
团队说得清楚:答案不是把权力砸得越碎越好。他们明确不主张彻底去中心化,担心的是单一公司、寡头或政府形成压倒性支配。
麦迪逊在《联邦党人文集》第48篇问过一句话:靠一张"羊皮纸",真的挡得住权力的侵蚀吗?他和其他开国者的答案是让权力互相牵制——像太阳系,不是散落的石头,是行星绕太阳的秩序。
放到今天,这句话变成:目标不是让每个人手里都握一份原子化的权力,而是不让任何一方形成压倒性支配。判断本身没什么争议,难的是落地。原则清单里,自己就藏着两对硬冲突。
个体自主和安全增长打架:严格管控更安全,但会削减普通人用AI的自由。责任可追溯和隐私匿名也打架:要求高风险行为都能追溯到具体责任人,天然和允许匿名使用互斥。团队没有假装能鱼与熊掌兼得,这点比大多数公司公告诚实。但承认矛盾,和解决矛盾,是两件事。
这两组冲突不是抽象哲学题,它们会先落到具体人身上。
| 读者群体 | 该盯的信号 | 意味着什么 |
|---|---|---|
| 关注AI治理与政策的人 | 政企合作条款是否公开,企业访问审批标准是否透明 | 原则声明是否变成可审计的承诺,而不是停在博客里 |
| 关心平台权力和数字权利的从业者 | "责任可追溯"是否落地成强制实名 | 匿名试用门槛、身份核验成本是否上升 |
原则声明只是起点。它有没有变成条款,才是真正的检验。
我的判断
把权力集中列为最大风险,这个判断我认。多数AI安全讨论还停留在"模型会不会撒谎、会不会越狱"这类技术话语里,愿意公开把矛头指向结构性权力问题的公司不多。
但写这份宣言的公司,自己站在这场权力游戏的中心。谁能用前沿模型、用多少钱、用来做什么,谁审批企业和政府合作,这些开关目前握在少数几家公司手里,OpenAI是其中份量最重的一家——这是行业位置的判断,不是具体的市场份额数字。
它说法律应该让个体和小组织手里握有更多力量,而不是让权力更集中。可它对自己产品的访问权限、定价条款、企业和政府合作,恰恰决定着谁能在AI时代占到一个座位。这个矛盾,团队自己没有回避,但也没有给出解法。
麦迪逊的"羊皮纸屏障",问别人容易,问自己难。写在博客里的原则也是一种羊皮纸——挡不挡得住,不看写了什么,看OpenAI愿不愿意在定价、访问控制、政企合作里,真的让出一部分控制权。
团队刚成立,原则也承认自己还在打架,现在下"言行不一"的结论还太早。接下来最该观察的是三件事:政府合作条款是否公开,企业访问审批是否透明,"责任可追溯"原则是否真的落成强制实名。三件事哪个先动,就说明OpenAI打算先解决哪种冲突。
一家研究权力会不会集中失控的公司,本身就是这场研究里最大的样本。