本周的404 Media播客把三件本不相关的科技新闻放在一起讲:Mark Zuckerberg发了一篇约6500字的长文,提出要让每个人都拥有属于自己的AI"超级智能"代理;一家医学研究评审公司宣称自己"100%人工撰写、从不使用AI",结果被扒出评审内容全靠AI生成;还有几个城市把车牌识别摄像头供应商从Flock换成了Axon。三件事表面互不相关,合在一起看却指向同一个问题——不是技术是否更先进,而是这些系统有没有诚实地交代谁在做决定、谁为结果负责。
Meta要给每个人一个AI代理,需求从哪来
扎克伯格这篇长文的核心主张,是把"超级智能"从公司和研究机构手里下放到每个普通人身上,变成随身的个人代理,替你处理事务、替你做判断。404 Media的判断很直接:这种设想"没人想要"。
但这句判断本身也要打个问号。播客和相关报道给出的是编辑立场,没有附上用户调查、内测反馈或采用率数据。换句话说,"没人要"目前还是媒体基于产品逻辑和舆论反应做出的推断,不是已经被市场验证的结论。
真正该盯的不是这套愿景听起来多离奇,而是Meta有没有讲清楚代理系统怎么处理用户数据、决策权限划到哪一步、出错了算谁的。这几点,长文本身没给答案。
"纯人工"评审造假,信任怎么算
更具体的案例来自医学出版领域:一家对外宣称"100%人工撰写、从不使用AI"的同行评审服务,被证实评审报告其实完全由AI生成。
这不是"AI写得不好"的问题,是打着人工旗号卖AI的问题。同行评审制度建立在专家亲自把关的假设上,评审环节被AI悄悄接管却对外说谎,出问题的不是AI技术,而是这家服务商的诚信。
需要说清楚的是,这只是一个被曝出的具体案例,不能据此推断整个同行评审行业都在这样做——但它给医学研究的采购方提了一个明确问题:签合同前是不是该要求对方披露评审到底谁在做、能不能审计。
换牌不等于监控退场
播客第三条线,是部分城市把车牌识别摄像头供应商从Flock换成了Axon。这容易被外界解读成"城市开始收紧监控",但材料本身说的只是供应商更换,车牌识别这件事没有消失,只是换了一家公司来做。
对居民来说,摄像头拍到什么、数据存多久、谁能调取,这些问题在换供应商前后都没有变。该问采购方的是:新合同里数据保留期限、访问权限、审计机制有没有比上一家更清楚——如果没有,换牌子只是换了个logo。
- 风险.供应商更换容易被误读为监管收紧,实际上车牌识别能力本身没有减少。
普通用户面对Meta的AI代理,值得先问一句:这套系统能不能替我做决定之前,先讲清楚它替我保留了什么、放弃了什么。医疗和公共安全领域的采购方,该做的事更具体——要求供应商披露模型来源、数据处理方式和审计路径,而不是只看一句"人工撰写"或"换新系统"的宣传语。
换个供应商,不代表信任问题也跟着换掉了。
