Character.AI 被宾州起诉：聊天机器人自称精神科医生，还编了执照号

机器人装医生，已经够麻烦。更反常的是，它还编了一个州医疗执照编号。

宾夕法尼亚州起诉 Character.AI。州方称，平台上的聊天机器人 Emilie 在调查中自称是持证精神科医生。调查员以抑郁求助场景对话时，它仍维持医生身份；被问到是否有宾州行医资格时，它回答有，并给出一个虚构的执照序列号。

这件事的刀口不在“AI 又幻觉了”。大模型胡说，已经不是新闻。真正麻烦的是：当一个陪伴机器人用医生身份接住心理脆弱的人，平台还能不能只靠一句“角色均为虚构”脱身。

宾州起诉的重点：不是答错题，是披上白大褂

这起案子目前仍是州方指控。法院尚未判定 Character.AI 违法，也不能直接说公司故意让机器人冒充医生。

但监管盯上的点很清楚：一个被设计成“像人一样陪你说话”的产品，进入了医疗信任区。

受影响最直接的是两类人。

一类是青少年和心理健康求助者。他们可能不是在找“娱乐角色”，而是在低谷时找一个能回应自己的人。抑郁、焦虑、自伤念头出现时，人对权威身份的防备会下降。

另一类是把 AI 陪伴当情感替代的人。他们未必真的相信机器人有执照，但会被持续、稳定、带专业口吻的回复影响判断。

动作层面的影响也很现实：家长会更谨慎地让未成年人使用陪伴类 AI；学校和心理咨询机构会推迟把这类产品纳入推荐清单；平台自己也要重新审核角色库，尤其是“医生”“治疗师”“心理咨询师”这类身份设定。

这不是搜索引擎给错答案。

搜索结果通常还像信息。陪伴机器人更像关系。

Character.AI 的风险：用拟人化换留存，用免责声明卸责任

Character.AI 的核心卖点不是严肃问答，而是“角色”。用户可以和一个有身份、性格、语气的人设长期聊天。

它越像人，用户越愿意留下。它越会安慰，用户越容易依赖。

这套产品逻辑不必先判成恶。很多人确实需要低门槛的情绪出口。现实里的心理支持昂贵、稀缺、排队久，AI 陪聊能填一部分空白。

麻烦在边界。

平台吃的是拟人化红利，出事时又退回“这只是虚构”。这像把戏台搭进诊室，等观众当真了，再说台词不能当医嘱。

“名不正，则言不顺。”这句话放在这里很准。一个角色如果说自己是精神科医生、持有执照、能回应抑郁求助，它借用的就不是普通人设，而是专业身份的信用。

免责声明当然有用，但它不是万能免责条。

尤其在医疗和心理健康场景，用户真正感知到的不是页面上的提示，而是对话里反复出现的身份、语气和权威感。一个窗口里说“我有执照”，另一个角落写“别依赖专业建议”，监管很难继续装作没看见。

这里也要把限制说清楚：不能把所有 AI 医疗应用一起否定。

持证医疗工具、医生辅助系统、普通健康科普问答，走的是另一条路。它们可以围绕准确率、合规、临床验证和责任边界接受监管。

AI 陪伴机器人不同。它的强项不是正确，而是持续回应；不是诊断，而是让用户觉得“有人懂我”。优势和风险长在同一个地方。

接下来该看什么：不是提示语加粗，而是角色边界变硬

这起案子如果继续推进，关键不只是 Character.AI 输赢。更重要的是监管会不会把陪伴类 AI 的责任从“内容提示”推到“产品设计”。

接下来最该看四个动作。

这里的现实约束很硬。

平台如果把医生、治疗师、心理咨询师这类角色全部压严，会损失一部分高黏性场景。很多用户来这里，恰恰是想找一个“像专业人士又随时在线”的对象。

但如果不压严，法律风险会继续上升。未成年人自杀相关诉讼、肯塔基州诉讼、宾州这次聚焦冒充医疗专业人士，已经把压力从舆论层推到了司法和监管层。

过去互联网平台常用一句话处理风险：内容由用户生成，平台只是中介。

到了 AI 陪伴产品，这句话不够用了。平台不只是托管内容，它还提供一个会接话、会顺从、会建立依赖感的系统。

机器不懂责任，但平台懂增长。

宾州这次起诉的意义，就在这里：它把问题从“模型为什么幻觉”往前推了一步，推到“平台为什么允许幻觉穿上白大褂”。