佛蒙特州连锁药房Kinney Drugs给AI电话助手Burt松了绑——来电续药、处方查询这类高风险对话,重新交还给老式按键电话菜单。促因是数百起客户投诉:通话答非所问、剂量信息报错、续药请求重复提交,甚至有患者收到了自己根本没要的药。
这不是一次简单的“AI翻车认错”。Kinney保留了Burt给患者发送续药提醒短信的权限,只是要求患者主动同意接收。也就是说,公司撤掉的是最容易出错、最贴近隐私和用药安全的语音对话部分,留下的是风险更低、可控性更强的短信提醒部分。
回撤是算过账的,不是全面下线
Burt由第三方医药科技公司Synerio开发,2026年5月上线,定位是接管处方沟通和续药电话。不到三个月,投诉就扎堆出现。据VTDigger报道,一名患者说她在续药电话里被Burt绕得云里雾里,最后误按确认,结果收到了好几瓶自己并不需要的药。
这张图能说明一件原文没讲透的事:Kinney不是放弃了AI,是精确切掉了风险最高、最直接接触患者的那一段,把风险更低、更容易加免责声明的那一段留了下来。
把技术信任危机说成体验问题
Kinney总裁John Marraffa的表态值得细看。他说:“Getting privacy and security right does not mean we got the experience right. We did not, and we own that.”这句话认错认得干脆,但认的是“体验”,不是“准确性”。他随后补了一句:Burt完全符合HIPAA,系统封闭、非开源、不会自行生成或篡改数据。
认体验的错,不认准确的错,是最省成本的公关姿势。
问题是,患者投诉的核心恰恰是剂量信息报错和续药请求被误处理——这不是隐私泄露,但也远不止是“体验不佳”,是AI在传递医疗信息时出了实质性的准确性问题。公司把这场危机限定在UX范畴,某种程度上绕开了对AI本身可靠性、以及开发方Synerio该承担什么责任的追问。截至目前,Synerio没有公开回应,责任边界仍不清楚。
- 风险.剂量或用药信息传递出错,一旦发生在真实处方场景,后果不是“体验差”能兜住的。
AI是不是背了行业老问题的锅
把Kinney单独拎出来批评,容易漏掉一个背景:连锁药房的电话客服系统,长期以来就是投诉重灾区。CVS、Walgreens这类大型连锁,也常年被用户抱怨转接循环、等待过长、信息不准——这些问题的根源往往是药房人手不足、话务量超载,不是AI技术本身独有的毛病。
这也是这次事件最容易被忽略的一点:如果传统按键菜单本身就毛病不少,那Burt的失败,究竟是AI技术不成熟,还是老问题换了个更贵、更醒目的载体？目前的公开信息还不足以拆分清楚。
谁在为这次翻车埋单
最直接受影响的是依赖电话续药、对语音AI不熟悉的患者,尤其是老年群体——他们本就更容易在AI对话里听不清、按错键。至于“数百起投诉”里有多少涉及实际用药风险、是否触发了州药事监管或HIPAA层面的问询,目前还看不清,公开报道里没有更细的数字。
接下来值得盯的,是Synerio是否会正面回应、Kinney会不会公布更具体的投诉分类,以及其他正在或计划部署AI客服的连锁药房,是不是会因为这次事件调整上线节奏——比如先做渐进式测试,或者在高风险场景保留人工兜底,而不是让AI直接接手涉及剂量和处方的对话。