大模型在法庭上胡言乱语已经不算新鲜事，但把无中生有的刀口直接架在一桩无期徒刑的谋杀案上，性质就彻底变了。
2026年9月9日，新墨西哥州最高法院发布了一份措辞极严厉的直接藐视法庭处分令。涉事律师 Stephen D. Aarons 在一宗涉及终身监禁的谋杀上诉案中，完全依赖 ChatGPT 提炼庭审卷宗并起草上诉主简报。结果模型为了维持叙事流畅，凭空捏造了四位不存在的证人、编造了虚假的警方笔录，甚至篡改了真实证人的证言细节。
法院直接开出 5,000 美元 罚款，撤销其在最高法院的出庭辩护资格，废除其提交的全部简报，并将他移送州纪律委员会接受执照调查。法官在听证会上当面质问：“律师，你平时看新闻吗？听广播吗？知不知道大模型幻觉天天都在头版？”
这不再是一场关于技术好不好用的同行笑话，而是司法史上一个危险的分水岭：AI 的危害正式从查找虚假判例，演进到了篡改事实真相。
凭空捏造的4个幽灵证人
很多读者第一眼看到快讯，容易误以为是法庭上坐着虚拟数字人当证人。事实远比那更荒诞。
这场悲剧的底层案情极其沉重：被告 Oscar Renee Sandoval 因在 2024 年 4 月杀害了自己子女的母亲，于 2025 年 2 月被新墨西哥州法院判处终身监禁，外加枪支犯罪的连续刑期。这是一场涉及剥夺一个人余生自由的极刑辩护。
案号为 S-1-SC-40845 的案件到了最高法院上诉阶段，圣达菲辩护律师 Stephen D. Aarons 提交了厚厚的主简报。当法官核对卷宗时，却发现简报里出现了一整套完全虚构的证据链：
模型凭空捏造了名为 Officer Michelle Amarillo、Officer Sanchez、Manal Al-Jibury 以及 Teresa Marquez 的 4 位核心证人；虚构了枪手的衣着与外貌证词；甚至在引用真实证人 Danny Stanton 和 Linda Stanton 时，无中生有地添加了他们曾在审讯中受到威胁的陈词。此外，简报中引用的 State v. Lopez 与 State v. Manus 两项新墨西哥州真实判例，其核心法理也被扭曲得面目全非。
面对法官的质询，Aarons 的解释甚至谈不上狡辩。他坦言自己误以为把长篇审讯记录交给 ChatGPT 做浓缩总结，能自动得到一份无懈可击的摘要，完全没料到大模型会以如此逼真的语气生造出名字、引语和假口供。
当律师将事实核验的信托责任转包给概率模型，审判席上便只剩下虚妄。
更致命的是，法院查明该律师在发现问题后不仅没有主动纠偏，反而对当事人隐瞒了简报存在大量虚构事实的真相，甚至没有告知当事人在 2026年8月21日 举行了质询听证会。最高法院最终认定其缺乏悔意且对当事人缺乏基本关切。
从虚构法条到篡改人命案卷
司法系统被大模型折腾早已不是第一次。但这次裁决释放出来的信号，意味着司法界对技术越轨的容忍度彻底归零。
2023 年纽约著名的 Mata v. Avianca 案中，律师用 ChatGPT 捏造了 6 个不存在的民事判例，被罚款 5000 美元；随后科罗拉多州的 Crabill 案中，律师因引用虚假判例且试图掩盖，遭到了停业执业的处分。
彼时的错误还停留在法律检索的表层。找错案例、信了假引文，本质上是律师偷懒怠政，伤害的是司法系统的文献严谨度。但这一次在 Sandoval 案中，性质发生了根本跃迁。
古人云：差之毫厘，谬以千里。在涉及终身监禁的谋杀重罪里，一个证人的存在与否、口供是否受到威胁，直接决定了控辩双方的生死天平。
当 ChatGPT 开始接管长文本事实的概括工作，为了字句之间的概率收敛，它会极其自然地编造合理的拼图来补全上下文。这恰恰是大语言模型内生幻觉最危险的盲区：它根本没有客观事实的概念，它的唯一目标是生成看起来最像真的文字。
律师将卷宗事实核验这一宪法赋予被告人的防御机制外包给统计学模型，换来的结果不是效率提升，而是对事实的直接污染。
- 风险.长文本大模型总结往往以高度自信的语调伪造严丝合缝的细节，单纯依靠阅读 AI 生成的内容不可能完成事实纠错。
外包看门人的代价还没结算完
新墨西哥州最高法院不仅要求 Aarons 在 30 天内向当事人保护基金缴纳 5,000 美元，还直接将其移送纪律委员会，并在审理期间禁止其出庭。
但更大的代价落在纳税人和被告人身上。
由于上诉简报充斥着虚假陈述，法院不得不作废全部已提交文件，将原本的私人律师除名，改派公设辩护人办公室全盘重写，整个谋杀案的上诉进程被迫拖延至 2026-2027 开庭期。原本就已经超负荷运转的公共法律资源，不得不为一个律师的技术懒惰全盘买单。
美国律师协会的 512 号意见以及新墨西哥州自家的 2024-004 号执业意见早就写得明明白白：律师可以用技术，但独立核验的信托义务不可转让。你不能把枪口交给机器，然后辩解说自己不知道扣动扳机有后坐力。
很多法律科技创业公司至今仍在推销“一键总结数十万字卷宗”的神话。但只要大模型的本质依然是基于概率的语义接龙，它就永远无法成为具备道德约束与事实忠诚的法律看门人。
在法袍与算法的交锋里，技术从来不需要向正义负责，承担全部刑期与代价的，永远是活生生的人。