一句话看懂：佛蒙特州连锁药店 Kinney Drugs 在 2026 年 5 月部署了 AI 语音助手 Burt 处理处方续药，结果因系统频繁生成错误药品、遗漏订单、泄露敏感信息，导致患者不满、隐私担忧加剧，暴露了医疗 AI 落地中准确性与知情同意的双重缺口。
事件核心：发生了什么
2026 年 5 月，覆盖佛蒙特州和纽约州的连锁药店 Kinney Drugs 引入由 Synerio 开发的 AI 语音助手“Burt”，替代原有的按键式电话系统，用于通知患者续药、确认订单。然而据 VTDigger 采访的十余位顾客反馈，系统上线后出现了每日混淆药品名称、推荐错误剂量、无法识别长期账户、以及通知延迟等问题。顾客 Kathy Callaghan 表示，她以为电话中的模糊语音是真实请求，结果多收到数瓶不必要的药物。更值得关注的是，Kinney Drugs 的条款注明：提供电话号码即视为自动同意与 Burt 交互，且工具可能“不准确、不完整或包含错误”。多名顾客称并未提前收到通知，也没有跳过系统直接联系药师的按键选项。
为什么重要
这一案例是医疗 AI 从营销话术走向真实服务的典型警示。相比在线客服或内容生成，药店语音系统直接管理患者续药，错误将导致用药安全风险。美国公民自由联盟高级律师 Cody Venzke 指出，技术落地速度已明显超过立法进程。佛蒙特州的新隐私法案 S.71 虽已在 2026 年 6 月签署，但要两年后才生效，且地方律师 Ryan Kriger 认为其条款未必能覆盖此类“AI 自动收集用药记录”的场景。这也意味着在明确罚则出台前，企业试错成本几乎全部由用户承担。
对用户/开发者/创作者的影响
对普通用户：应主动检查药店、诊所是否有类似的“默认同意”条款，若使用 AI 工具可要求切换到人工服务或明确退出机制。乡村地区用户替代选择有限，更需关注自身处方信息的隐私保护。
对开发者与 SaaS 企业：医疗场景的 AI 语音产品必须在设计阶段内置“错误兜底”——若语音识别置信度低，应直接转人工，而非继续执行订单。同时应将知情同意前置为用户主动操作，而非默认条款。
对 AI 政策与合规人员：该案例清晰说明，仅靠“使用条款免责声明”不能规避实际诉讼风险；建议在产品上线前完成第三方安全审计，并预留完整交互日志。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
第一，Synerio 是否会公开 Burt 的错误率数据，以及是否调整其语音识别与意图判断逻辑；第二，佛蒙特州总检察长是否会在 S.71 生效前援引现有消费者保护法介入；第三，其他中小药店是否会因 Kinney Drugs 的负面影响而推迟同类 AI 工具的部署。目前公开信息显示，部分顾客已开始转投其他药店，但农村地区选择十分有限。
来源：Hacker News
