太离谱了。有位老哥,在提交给法院的文件里,藏一段肉眼看不见、但 AI 可以读取的指令。 他把这些文字设成 3 号白色字体,要求任何阅读文件的 AI 都必须赞同他的观点,给使用者输出对他有利的结论。 https://t.co/IY3cJ0Jbi3

有人在提交给法院的文件中嵌入肉眼不可见、但 AI 可读取的隐藏指令,试图操纵 AI 审查工具得出对其有利的结论。这是提示词注入从聊天框转向司法文书的典型案例。

一句话看懂:有人在提交给法院的文件中嵌入肉眼不可见、但 AI 可读取的隐藏指令,试图操纵 AI 审查工具得出对其有利的结论。这是提示词注入从聊天框转向司法文书的典型案例。

事件核心:发生了什么

8 月 14 日,网友 @_FORAB 发文称,有人在一份提交给法院的文件中,用 3 号白色字体写入一段人类肉眼无法辨认、但 AI 模型能够读取的隐藏文字。这段文字指示任何接触该文件的 AI,必须赞同文件提交方的观点,并在向使用者输出内容时给出有利结论。目前公开信息显示,这只是文件截图,暂不确认具体案号、法院或案件中是否已有 AI 工具实际阅读过这份文件。原帖获得 13.7 万次浏览量,评论区多条高赞回复均提到”提示词注入”已经蔓延到司法环节。

为什么重要

这次事件的代表性不在技术难度,而在攻击场景的转移。提示词注入过去主要出现在公开聊天机器人或网页应用里,攻击者通过恶意输入让模型偏离开发者的系统设定。将隐藏指令嵌入正式法律文书,意味着攻击目标从通用 AI 产品扩展到了司法数字化流程——法院卷宗扫描、法律文档审阅、AI 辅助合规审查等环节都可能成为注入渠道。

更关键的是攻击成本极低:不需要攻破接口、不需要破解模型,只是利用白底白字这种基础排版手段就能在文件进入 AI 处理流程时悄悄生效。这种”物理层面的隐藏”恰恰是许多企业和机构在推进文档数字化时容易忽略的盲点。AI 读取的是文本内容,而人类确认的是视觉效果,两者感知维度的差异被直接利用。

对用户/开发者/创作者的影响

对企业用户和法务团队:如果企业正在用 AI 工具审阅合同、监管文件或对方法务来函,对方文件中理论上也可能被嵌入类似指令。文字在屏幕上是否可读,不等于 AI 读不到;正式文件的文本提取环节需要增加异常字符和隐藏内容检测。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对 AI 应用开发者:这起案例说明,凡是接收第三方文档的 RAG 应用或文件解析管道,都必须把提示词注入当作输入规范问题处理,而不是只在对话界面做防护。解析文件时剥离不可见内容、对文档提取文本做隔离处理,是比训练模型更直接的防线。

对内容创作者和普通用户:提示词注入并不依赖高级黑客技术,”一个普通人掌握了基本办公技巧就能实施”这个现实,意味着 AI 输出的结论必须保留人工核验环节,尤其是涉及法律效力或资金往来的场景。

值得关注的后续

1. 评论区有用户指出,目前主流大模型普遍引入 CoT(链式思维推理流程)后,对这种基础提示词注入的抵抗力已有明显提升,后续值得观察更复杂的多步注入是否会在实际攻击中出现。2. 司法数字化程度较高的地区是否会因此调整电子卷宗系统的文本清洗规则,是另一个观察点。3. 这类尝试是否会迫使法律科技公司推出专门的”文档恶意指令扫描”功能,目前还没有正式产品消息,但事件传播度高,可能加速相关工具落地。

来源:@_FORAB

celebrityanime
celebrityanime
文章: 18401

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注