一句话看懂：一位六旬老人因手臂骨折愈合缓慢，使用通用 AI 大模型自诊后得到“患罕见不治之症”的结论，导致身心崩溃、交代后事。尽管多家三甲医院会诊确认只是普通骨质疏松，AI 已造成严重心理创伤。此事凸显出，当前 AI 在医疗等高风险领域直接给出结论性回答，但对结论不负任何法律责任，对低认知水平用户存在巨大误导风险。
事件核心：发生了什么
据虎嗅报道，作者母亲因骨折不愈查出重度骨质疏松后，将检查数据输入某 AI 大模型进行自我诊断。AI 给出了“骨骼年龄 130 岁、肾小管漏磷导致无法根治”的最差可能性结论，并推荐了靶向药物布罗索尤单抗。老人深信不疑，出现严重焦虑、抑郁、食欲不振，开始向亲戚交代后事。作者找来全国多家医院骨科、内分泌科医生会诊，一致认定只是重度骨质疏松愈合慢，问题根源在于 AI 错误结论引发的“心病”。
国家统计局 2026 年最新数据显示，我国初中以下文化水平人口达 7.9 亿。作者指出，AI 对有独立思考能力者有帮助，但对分辨能力弱者则会造成“二次格式化”，类似误导事件已非个例。
为什么重要
这是一个 AI 安全与责任归属的典型公共性事件。目前主流 AI 大模型在医疗等专业领域缺乏准确判断边界，却以“斩钉截铁”的口吻输出高敏感性结论，且通过用户协议提前撇清法律责任。这与自动驾驶等新技术面临的责任困境类似——技术供应商在享受用户增长的同时，将决策风险完全转嫁给用户。当 AI 对 7.9 亿低学历群体形成“精神核弹”式影响力时，企业若仅追求活跃度而忽视结论质量，将面临严重的伦理反噬与公共信任危机。
对用户/开发者/创作者的影响
对普通用户——尤其是医疗、法律、金融等高风险场景，不应将 AI 结论当作诊疗意见。老人、低数字素养群体需家庭陪伴与人工复核。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对开发者与企业——应主动在产品中引入“风险标识”机制：例如在医疗类回答前弹出免责提示，或强制引导用户“联系专业医生”，而非直接输出确定性结论。缺乏责任兜底的产品，可能在舆论与监管压力下被迫调整。
对内容创作者——报道此类事件时，建议保留可核查数据（如患者年龄、病种、医院数量、统计人口数），避免泛化指责，聚焦具体产品设计与责任缺口。
值得关注的后续
1. 涉事 AI 企业是否会调整医疗类问答的 UI 或内容策略，例如增加“仅作参考”标识或直接预置问诊引导。2. 监管是否出台针对 AI 医疗自诊的专项指引，比如要求模型在缺乏确证时必须拒绝回答并推荐线下就医。3. 类似“AI 导致心理创伤”的民事诉讼若出现，将如何界定赔偿责任——是 AI 公司、模型部署方还是用户自身。
来源：Readhub · AI
