休斯顿Watson Grinding工厂2020年那场炸死3人、毁掉约200栋住宅的爆炸案,还在美国法院里打着一系列民事诉讼。被告方3M请来的专家证人Josh Autenrieth,被曝出用ChatGPT写完了自己的“专家报告”——不是外界猜测,是原告律师Will Moye在证据开示阶段拿到的350页ChatGPT对话记录里明明白白写着的事。记录显示,Autenrieth给AI的第一条指令不是“分析事故原因”,而是直接要求ChatGPT“证明3M对这场爆炸0%负责”,再倒回去找支撑材料。这份报告最终没能帮3M全身而退,陪审团反而判了3M承担部分责任。
一份“倒着找证据”的专家报告
Moye最初只是在开示材料里发现一份叫“Citation Overlay”的五页文件,看起来像AI生成物。他要求3M律师提交Autenrieth用过的全部提示词,庭审因此暂停三小时去收集,最后交出350页对话记录,里面还带着ChatGPT对话的公开分享链接。
按庭审记录,3M为这份报告支付给Autenrieth所在的Knighthawk Engineering约9万美元,Autenrieth的计费标准是每小时475美元。他在对话里让ChatGPT给报告打分,得了97分(满分100),还问过“检方会不会因为我从没当过专家证人而攻击我”。有几次提示词是他“堵车时”顺手发的,用来“唤醒记忆”。
ChatGPT自己识别出了这份报告的漏洞
初稿里原本有一句“3M在标准和技术层面0%负责”,这句话没能进最终提交法庭的报告——不是Autenrieth自己删的,是他让ChatGPT“扮演对方律师审查一下”,AI主动指出“0%责任”这种表述“是个容易被攻击的靶子”,会让对方律师把他从专家打成“辩护人”。
AI在这起案子里同时是漏洞制造者,也是漏洞发现者。
庭审中Autenrieth和Moye当场确认,提交的报告“85%到90%出自ChatGPT”。Autenrieth的解释是“我的观点先输进去了,AI只是帮我搭个草稿框架”,但没解释为什么草稿框架和ChatGPT最初输出几乎逐段一致。
- 风险.提示词一旦被追问,就可能变成对方律师手里最直接的“动机证据”——本案之后,其他律师已经开始检查自家专家证人有没有留下同样的痕迹。
官方调查报告里,从未提到3M
原告方指控3M没维护好厂里的气体检测系统。但美国化学品安全委员会(CSB)2023年发布的最终调查报告写得很清楚:爆炸根本原因是一根老化、卡箍不当的橡胶焊接软管脱落,泄漏约2600磅丙烯气体,而检测系统之所以没能报警、没能自动关阀,是因为它从没被正确接入可编程逻辑控制器——这个接线问题,承包商早在2013、2016、2019年就书面提过,一直没被整改。
CSB报告的整改建议对象是压缩气体协会和丙烯供应商Matheson Tri-Gas。全文没有出现3M的名字。
这不是说3M一定无关——它很可能是气体检测系统的第三方维护或校验承包商,只是不在CSB调查的直接责任链条里。但这个落差意味着,这场官司里“3M该不该担责”本身就是有争议的,AI造假只是让3M的抗辩显得更狼狈,不是让它凭空多背了责任。
6100万美元判决之后,谁该真正紧张
Moye发现Autenrieth大量依赖AI后,做了个反常动作:他把对方的专家证人反而列成了自己的证人,专门让陪审团听他讲清楚这份报告是怎么写出来的。这场诉讼的陪审团最终判3M承担约30%责任、Watson Grinding承担70%,赔偿金额超过6100万美元;此前同一系列案件里,另有两次裁决分别赔了1.18亿美元和3800万美元,后续还有更多案子要审。
AI进法庭已经不是新鲜事——法国有律师用AI论证降雨规律被法官直接扔掉证据,加拿大有法官对AI生成的植物侵扰意见明确表示“不采信任何权重”。这次不同的是,AI第一次被曝用来写“专家报告”这种分量最重的证据形式,而且提示词全过程可以被对方律师强制取证。对其他还在用AI辅助专家证词的律师和证人来说,这才是真正该紧张的信号:不是AI会不会出错,是自己聊天记录会不会有一天被摆在陪审团面前。
