执业超过四十年的资深刑辩律师，在一场谋杀罪终身监禁的上诉案中，递交了一份由 OpenAI o3 模型参与撰写的辩护状。结果法官翻开文书发现，里面赫然写着多位现实中根本不存在的警官与证人证言。
这不是初出茅庐者的疏忽，而是技术盲信在刑事司法防线前的一次溃败。2026年9月9日，新墨西哥州最高法院正式签发非先例性裁定（案号 S-1-SC-40845，State v. Sandoval / In re Stephen D. Aarons），裁定辩护律师 Stephen Aarons 构成直接藐视法庭，对其处以 5000美元 罚款并移交纪律委员会展开停业或吊销资质调查。法庭同时全面撤回其提交的所有辩护材料，将该案重审推迟至下一个法庭年度。
从此前行业熟知的民事假判例，到如今刑事案件中凭空捏造活人供述，生成式工具对事实本体的侵蚀，正在把司法审判推入完全未知的风险地带。
从编造判例到凭空造人
整个案件的荒谬程度，直接打破了法律界此前对大模型错误的心理预设。
被告人 Oscar Renee Sandoval 因杀害其伴侣兼子女母亲 Shiereen Al-Jibury，于2025年2月被判处终生监禁外加 4.5年 刑期。面对如此沉重的刑事重罪，其家属聘请了拥有40多年经验的 Aarons 提请上诉。然而，在检方提出异议后，最高法院核查发现，上诉状中写入的多段关键供述全是凭空编造的产物。
文书中不仅捏造了开枪者衣着特征的细节供述，虚构了 Danny Stanton 及其妻子 Linda Stanton 曾遭到威胁的伪证，更直接创造了完全不存在的执法人员。辩护状中言之凿凿引述的 Michelle Amarillo 警官与 Sanchez 警官，在案卷乃至现实警队编制中查无此人——公开核查显示，Michelle Amarillo 这个名字在现实里只是一家婚庆策划公司的商号。此外，文书还凭空捏造了名为 Manal Al-Jibury 和 Teresa Marquez 的证人，并严重扭曲了新墨西哥州本土判例 State v. Lopez 与 State v. Manus 的适用准则。
过去业内谈论 AI 风险，参照系多停留在2023年的 Mata v. Avianca 案。在那起民事索赔案里，律师用早期的 ChatGPT 检索出几起不存在的民航判例，属于法律引证层面的偷懒。
但这次的 Sandoval 案发生了质变。AI 不再只是胡编法条，而是把手伸进了刑事案卷的事实核心。在一桩关乎当事人余生自由的重罪辩护中，算法无中生有地制造了目击者和警察笔录。
当算法开始在刑事卷宗里凭空捏造目击证人，技术幻觉就不再是笑话，而是司法的实体灾难。
强推理模型背后的长文本黑箱
在2026年8月21日最高法院举行的复核听证会上，涉案律师 Aarons 试图将责任归咎于技术的不稳定性。
他的操作路径并不复杂：首先通过语音转写工具 Rev.com 获取了谋杀案长达数天的庭审速记文本，随后将该录音文本、案卷记录及争议点摘要一股脑灌入搭载 OpenAI o3 模型的系统，指令其生成针对上诉审理的程序性总结。
Aarons 在法庭上辩解称，他以为给定了真实的庭审速记作为上下文，以 o3 具备的强推理能力，足以吐出一份天衣无缝的防弹级程序摘要。他声称自己以为 AI 已经在医疗和法律界被安全且广泛地普及，因而根本不知道大模型具备编造事实细节的能力。
这种辩解在技术逻辑和职业规范上均立不住脚。长文本处理向来是大模型幻觉的高发区。即使给足了上下文，自回归生成的本质依然是基于概率的语义拼接。在缺乏严密检索增强（RAG）和逐句事实锁定的前提下，长文本的注意力机制很容易在海量交叉对话中发生漂移。当提示词要求模型提炼有利于辩护的主张时，推理模型极易顺应辩护逻辑，自动脑补出符合因果关系、看似合理却纯属虚构的情节实体。
更关键的是，新墨西哥州律师协会早在2024年9月24日就发布了第 2024-004 号正式伦理咨询意见，明确要求律师必须对自动化生成内容承担独立的审查验证义务，并白纸黑字禁止使用同一套 AI 系统来验证其自身输出的真实性。将原始案卷托付给算法生成摘要而不做交叉核对，无异于直接放弃了法律从业者最核心的专业注意义务。
把头埋在沙子里的代价
主审法官 C. Shannon Bacon 在听证会上的严厉斥责，揭开了这起荒唐事件背后最冰冷的现实。
面对律师声称自己不知大模型会捏造事实的说法，Bacon 大法官当庭驳斥，指出大模型幻觉问题早就成了每天报纸头版都在讨论的话题，连她13岁的侄子和75岁的继母都一清二楚。法官直言不讳地指出，这绝非一句无心之失就能解释，要么是律师主动选择把头埋在沙子里以保持无知，要么就是拿着当事人的终身监禁诉求去赌法庭的审查漏洞。这两者不仅涉嫌违反八到九项职业行为守则，更击穿了如实陈述义务的底线。
更严重的问题在于对当事人宪法权利的侵蚀。
在长达数月的拉扯中，Aarons 从未向他的当事人及家属坦白这一致命失误，仅以辩护状出了点问题敷衍带过。当法官追问时，他的回答是被告只会说西班牙语，自己想等听证会有了结果再沟通。
首席大法官 Julie Vargas 在庭审中点明了这场失职的实质后果：法庭并不关心律师事后大谈特谈如何规范 AI 政策，法庭只在乎被关押在监狱里的刑事被告人。因为辩护人的荒谬行为，原本应当推进的上诉审理被迫全部作废，全案文书被悉数剔除，当事人只能等待法院指派公设辩护人从头起草文书，在监牢中空耗至少一年。
- 风险.专业工具的推理能力提升并不等于事实可靠性提升；在容错率为零的关键业务场景中，跳过人工交叉比对直接采信模型长文本输出，必定会遭遇事实翻车。
古人云，事莫明于有效，论莫定于有证。司法之所以建立起繁复的交叉询问与卷宗归档规则，本就是为了在人性的模糊与偏见中确立经得起推敲的事实基石。
此案最终以法庭的雷霆手段收场：Aarons 被勒令在30天内向州律协客户保护基金缴纳 5000 美元罚款，被永久或暂时禁止在该州最高法院出庭，等待纪律委员会的正式处分。但留给行业的震动远未结束。当专业人士试图把自身的审查责任转嫁给所谓的智能代理时，最先被牺牲掉的，永远是那些把人身自由托付给你的委托人。技术从来不承担法律后果，签字的那支笔，永远只能握在人自己的手里。