
DeepSeek 回应信息「串台」BUG:特殊字符引发模型幻觉 不会泄露隐私
一句话看懂:针对用户输入“think”等特殊字符后模型输出无关内容的“串台”问题,DeepSeek官方定性为模型幻觉,并非隐私泄露;同时实测发现其已陆续上线聊天记录搜索、多模态识图灰度测试等功能,产品迭代节奏加快。
事件核心:发生了什么
近期多位网友反映,在DeepSeek网页版和App中输入“think”等字符后,模型会返回与当前对话无关的异常内容,有人误以为这是他人对话记录或训练数据外泄。5月19日,DeepSeek发布官方声明,称经技术团队排查,该问题属于特殊字符引发的模型幻觉,不涉及安全漏洞或隐私泄露。后续将通过针对性训练增强模型对特殊字符的识别与处理能力。与此同时,实测发现DeepSeek已在App端2.1.0版本中新增“搜索聊天内容”功能,用户可通过关键词定位历史对话;网页端和App的“专家模式”已下线文件上传功能(资源紧张导致),但“快速模式”仍支持上传图片文字识别。此外,DeepSeek正灰度测试独立的“识图模式”,支持图片内容理解、描述与分析,补齐多模态能力。
为什么重要
这次“串台”事件再次暴露了大语言模型在特殊输入条件下的脆弱性:看似简单的字符可能激活模型训练数据中的噪声关联,导致不可控输出。尽管官方澄清不涉及隐私泄露,但用户对AI模型“幻觉”的担忧加剧——尤其在对话历史可搜索后,如何确保历史内容不被错误关联或误展示成为产品信任度的关键。而从技术路线看,DeepSeek从纯文本推理向多模态识图延伸,意味着其正在补足视觉理解这一基础能力短板,这对于其在类GPT-4V竞品(如文心一言、Claude等)中保持竞争力至关重要。同时,“专家模式”因资源紧张而限制文件上传,说明高精度推理对算力的需求仍在制约其免费服务的可用性。
对用户/开发者/创作者的影响
普通用户:可使用搜索历史对话功能快速回顾之前的交流,但需注意模型仍可能对特定字符串产生幻觉,建议避免输入“think”等易引发异常的关键词。专家模式功能受限时,可改用快速模式上传图片文字,但暂不支持文件整体分析。开发者:DeepSeek在API层面可能需要补充对特殊字符输入的预处理,或提供接口参数让开发者主动过滤风险输入;多模态能力的灰度开放意味着开发者可提前测试图片理解API(如视觉问答、截图分析),但需关注灰度范围和服务稳定性。创作者:识图模式的引入为内容创作者提供了从图像描述到文案生成的新工具,但当前仍不支持图像生成或视频理解,适用场景局限在图文分析、截图解读等。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
1. 多模态灰度测试何时全量开放:识图模式目前仅部分用户可用,全量上线时间及是否会结合专家模式提供文件分析能力,将直接影响DeepSeek在AI工具市场的竞争力。2. 专家模式文件上传何时恢复:资源紧张是临时性限制还是长期策略,如果长期存在,可能迫使高需求用户转向付费API或竞品(如Kimi、豆包等)。3. 幻觉问题修复效果如何评估:官方计划通过针对性训练来修复特殊字符问题,但模型幻觉的本质是统计泛化偏差,后续能否彻底消除类似“think”触发器效应,需要第三方测试验证。
来源:Readhub · AI


