2025年1月1日凌晨3点15分，一辆皮卡冲进新奥尔良Bourbon Street的人群，最终造成14人死亡。案发后打进911的最初两通电话，接电话的不是人，是一个AI语音代理——它把这场恐怖袭击听成了一起肇事逃逸车祸，持续了大约20秒才转给人工接线员。这个细节由Orleans Parish Communication District（OPCD）执行主任Karl Fasold证实，《The Times-Picayune》2026年4月8日报道披露。
外界的第一反应通常是“AI又出错了”。但把这套系统的运作逻辑摊开看，更准确的判断是：这本来就是一个只为车祸设计的分流工具，规则本身把它派去接了一场它从未被训练识别的恐袭电话。
二十秒里发生了什么
OPCD公开的说法是，这套由Carbyne提供技术支持的AI代理，只在三个条件同时满足时才会接管来电：来电类型是机动车事故、所有人工接线员都在占线、来电位置在一起已上报车祸约200米范围内——这个半径此前StateScoop在2024年的报道中给出的数字是100米，2026年多家媒体口径已统一为200米。三个条件全部由系统在呼叫者说出第一个字之前就判定完毕。
Carbyne的软件与OPCD的计算机辅助调度系统联动，能看出哪些事故已经被记录、正在等待分流，这是它判断“已上报车祸”的依据。这套逻辑最初的出发点很朴素：Carbyne联合创始人、CTOAlex Dizengof告诉《The Times-Picayune》，他们分析话务数据后发现每天早晚高峰都会有一起事故，成百上千的人同时打进来报告同一件事——AI要解决的就是这种重复来电堆积的问题。
问题在于，Bourbon Street恐袭发生的地点、时间和呼叫密度，恰好也满足了“车祸+占线+地理围栏”的表面特征。系统没有能力判断呼叫内容是不是真的在描述一起车祸，它只判断三个开关是否同时打开。20秒的误判，不是语音识别出了错，而是规则本身没有把“重大暴力事件”排除在触发条件之外。
呼叫者不知道自己在跟AI说话
比误判本身更值得追问的，是透明度。《The Times-Picayune》的报道写得很直接：新奥尔良911和311系统的呼叫者没有被明确告知自己正在与AI对话，尽管那个声音听起来显然不是人。OPCD对311系统的说法类似——公共信息官Jay Vise向WWL Louisiana表示，任何“不确定的请求”都会被转到人工队列，暴力犯罪和危及生命的来电“第一个声音永远是真人”。这套说法在设计上留了安全阀，但没有回答一个更基本的问题：为什么不能在通话一开始就告诉呼叫者“你在跟自动系统说话”。
这不是新奥尔良独有的选择，而是一整类产品的共同特征。像新奥尔良这样让AI直接与呼叫者对话、独立完成分类判断的方案（业内类似定位的产品包括Aurelian），风险层级明显高于那些只做转录、翻译辅助的工具（如Prepared），也高于只负责设备与数据互通、不直接对话呼叫者的基础设施型产品（如RapidSOS）。用“911用了AI”这一句话去描述所有这些产品，等于把风险完全不同的东西混为一谈。
- 风险.呼叫者在毫不知情的情况下把生死攸关的描述交给一个只能识别有限场景的系统，一旦超出它的判断边界，纠错完全依赖后续的人工介入速度。
没有人公布的那个数字
OPCD给出的准确率数据，全部来自自家审计。Fasold告诉Fox 8，试运行前三个月他们听了100%的通话，“没有假阳性，也没有假阴性”；Vise向WWL Louisiana的说法是审计了每一次交互，“100%处理得当”。这些数字描述的都是系统整体分流是否准确，回答的是“该转人工的转了吗、该AI处理的处理了吗”。
分流准确率再高，也不等于危险来电的漏检率为零
它没有回答的问题是：在呼叫者语言含糊、情绪激动、没有说出“武器”“火灾”这类明显关键词的极端场景里，系统把真正的紧急情况错判成普通事件的概率有多高。这才是评价这类系统安全性该看的指标，而不是整体准确率——恰恰是Bourbon Street这一案例暴露出来、却至今没有被OPCD公开量化的那个空白。杜兰大学Freeman商学院教授Rob Lalka对Fox 8的判断说得很直白：“如果你哪怕漏判一次，就有人的生命悬在那里，这很危险。”
Fasold本人对系统“救没救命”的回答也很克制：他说任何证据都只能是个案性的，举了一个心脏骤停通话被更快处理的假设例子，承认自己拿不出一个“亮眼”的实证案例。这种坦诚,恰恰说明这类系统目前缺的不是营销话术,而是独立的、覆盖极端场景的错误率审计——OPCD至今没有公开过这类数据,受影响的城市和居民也就无从判断这套系统在下一次非典型事件里会不会再次踩到设计边界之外。