Fireflies曾用真人假装AI记笔记,现在这类工具想记你的病历

物理治疗师问科技博主Firesphere「你不介意吧」,问的是能不能用AI软件给他做病历记录。他说介意,治疗师也没多说什么,改用普通笔记软件手动打字。Firesphere把这段经历写进博客,标题不加修饰:「是的,老子就是介意」。这篇文章是在回应另一位作者JA Westenberg此前那篇《求你把AI笔记录像机留在家里》——文章原文只提到「Joan」,其实是同一人的常用署名。

这本该是一篇关于礼貌的小博客,但往深处查一圈会发现,真正的问题不止是社交尴尬。

「你不介意吧」问的不是意愿

Firesphere的核心论点很直白:如果把AI换成一个真人,坐在咖啡桌旁一言不发地记下你说的每句话,你会觉得极度诡异。换成一台设备,本质没变,只是把语音层层传给AWS、微软、Google、OpenAI、Anthropic而已。

「你不介意吧」问的不是意愿,是顺从的成本。

他给出的应对是反问「为什么需要它」,而不是默认接受。这套逻辑在朋友叙旧场景里成立——你随时可以起身走人。但换到物理治疗诊室,患者和治疗师之间根本没有对等的议价权,这才是原文没展开、却更值得关注的部分。

合规这道题,大多数厂商没写完

同样是「AI记笔记」,不同产品在医疗合规上的差距很大。诊所、咨询师如果真要用AI工具处理病历(PHI),能不能碰,取决于厂商有没有签BAA、DPA这类具体协议,而不是产品好不好用。

• 风险.消费级AI笔记工具大多默认「先录先说」,患者或员工很难当场判断对方用的是哪个版本、签没签合规协议。

这张表最扎眼的地方在Granola那一行——它是被认为侵入感最低、最不像「第三方bot」的产品,官方文档却写得清清楚楚:不能碰病历数据。产品体验和合规资格,是两件完全不相关的事。

从真人假装AI,到真被告上法庭

如果说合规空白只是「没做好」,那接下来两件事,是「没说实话」和「已经出事」。

Fireflies联合创始人Sam Udotong在2025年末承认,公司最早的版本其实是两位创始人手动进入会议、人工记笔记,冒充是AI在工作。这不是产品早期的技术妥协,是营销话术本身带着欺骗性——用户以为在跟AI打交道,实际上是被真人偷听。

同一时间,Otter.ai正面临隐私诉讼,被指控在未获充分同意的情况下,用会议参与者的语音内容训练模型。Otter自己的帮助文档也承认,美国加州、伊利诺伊、佛罗里达等州属于「全体同意」录音州——理论上参会者每一个人都得先点头。

这两件事放在一起看,「你不介意吧」这句问话背后,已经不只是礼貌问题,是一整条从社交施压滑向法律责任的链路。

bot式和本地增强,谁更让人反感

用户投诉的分布也说明问题。Reddit和Trustpilot上关于Otter、Fireflies这类工具的抱怨,集中在它会自动通过日历加入会议、而且很难阻止它持续跟随——这正是「第三方坐在那儿一言不发」的现实版本。

Granola这类走「本地个人笔记增强」路线的产品,因为不以独立角色身份出现在会议里,心理侵入感明显更低。但2026年4月有报道指出,即便是Granola,也曾出现默认设置导致笔记外泄的问题。产品形态能降低尴尬感,降不低数据风险。

「问为什么」这条策略,谁用得起

Firesphere给出的方案是「反问对方为什么需要它」,连问五次「为什么」。这套办法在朋友聚会里很好使,你随时可以拒绝、可以离开。但在诊室、面试、销售通话这类场景里,提问方往往握着更大的权力——患者不太会为了一个笔记软件换医生,求职者也很少为此顶撞面试官。

• 结论.能不能问出「为什么需要它」,本质取决于有没有议价权——诊室里的患者通常没有。

比起指望每个人都学会当场质问,更现实的判断标准是先分场景:朋友闲聊,直接拒绝就够了,拿个纸笔记两句无所谓;涉及医疗、法律、雇佣这类敏感对话,该问的不是「你介不介意」,是「这个工具签没签BAA、有没有DPA」——这才是能落地核查的东西,而不是一场关于礼貌的辩论。

Otter的诉讼还没有结果,Fireflies的「真人假装AI」事件也没有让它掉多少用户。行业目前的默认逻辑仍然是:先把工具铺出去,合规和信任问题等出事再补。这条老路子,报业、平台、互联网早年都走过一遍——先跑马圈地,后补规则。AI笔记工具正在诊室、会议室里,把这套剧本再演一遍。