新论文提出PTP反演法:黑盒大模型也能近乎精确还原提示词

一篇 arXiv 预印本论文提出 PTP 方法,在完全黑盒、不接触模型权重和 logits 的条件下,从大模型的输出反推出接近原样的提示词,值得关注的是这触及了提示词泄露与模型安全边界。

一句话看懂:一篇 arXiv 预印本论文提出 PTP 方法,在完全黑盒、不接触模型权重和 logits 的条件下,从大模型的输出反推出接近原样的提示词,值得关注的是这触及了提示词泄露与模型安全边界。

事件核心:发生了什么

2026 年 7 月 31 日提交到 arXiv 的论文《PTP: Previous-Token Prediction based LLM Inversion for Near-Exact Prompt Reconstruction》,作者为 Pirzada Suhail、Nagasai Saketh Naidu、Atanu R Sinha 和 Amit Sethi。目前公开信息显示,其思路是把大模型的提示词反演视为一种逆向生成任务:正如正向模型用“下一个 Token 预测”生成回答,研究者从零训练一个显式的逆语言模型,用“前一个 Token 预测”来重建提示词,使正反两个过程在生成机制上形成对应。该方法只用目标模型自身合成的数据训练,不依赖外部大规模数据集,也不需要模型权重或 logits。摘要称该方法支持采样出多个语义等价、都能触发相似回答的提示词,并具备跨数据集的泛化性和跨模型的可迁移性;在基于 Token 的提示词与回复重建评测指标上优于先前工作。

为什么重要

此前的大模型反演研究多依赖微调预训练序列到序列模型,并常常需要访问模型权重或 logits,本质上偏向“语义上说得通”的重建。PTP 把问题拉回到纯黑盒场景,而且强调“接近精确”而非只是意思相近。这意味着提示词不再天然被视为只存在于调用者一侧的私有输入:只要拿到输出,就有机会通过训练一个反向模型近似还原输入。对提示词工程、企业私有提示词资产以及模型服务商的调用审计而言,这是一条需要认真对待的技术路线。不过,论文目前仍处于预印本阶段,尚不能等同于已上线产品或经过广泛验证的工程能力。

对用户/开发者/创作者的影响

对开发者来说,如果这套方法被复现并扩展到商用 API 场景,提示词泄露的风险将从理论讨论变成更实际的设计约束,例如敏感指令、系统提示和业务规则可能需要更谨慎地暴露给可被反复调用的外部模型。对创作者和企业采购方而言,值得重新评估“提示词即资产”的保护方式,而不是默认黑盒调用天然安全。另一方面,采样多个等价提示词的能力也可能被用于提示词优化、测试和红队评估。目前公开信息显示,论文未披露具体模型清单与完整实验设置,因此效果强弱仍需等待代码和复现结果。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是作者是否开源代码并给出可复现的评测细节,包括所用目标模型与数据集;二是该方法在真实商用闭源 API 的限流、拒答和内容过滤条件下是否仍然有效;三是模型服务商是否会因此加强输出扰动、水印或调用侧防护。

来源:Hacker News (黑客新闻)

celebrityanime
celebrityanime
文章: 36045

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注