RLPE:用强化学习教9B小模型写提示词,在2/3基准上超过GPT-5.6-sol与Claude Opus 5

一篇 arXiv 新论文提出 RLPE,用强化学习训练模型去分析另一个任务模型的失败轨迹、然后写出一条可复用的提示词,9B 小模型在 3 个基准中的 2 个上写出比前沿模型和提示词优化器更好的提示。

一句话看懂:一篇 arXiv 新论文提出 RLPE,用强化学习训练模型去分析另一个任务模型的失败轨迹、然后写出一条可复用的提示词,9B 小模型在 3 个基准中的 2 个上写出比前沿模型和提示词优化器更好的提示。

事件核心:发生了什么

2026 年 10 月 15 日发布于 arXiv cs.AI 的论文《RLPE: Teaching LLMs to Prompt with Reinforcement Learning》提出了一种“强化学习式提示工程”。其思路是:不让大模型凭经验凭空写提示词,而是先观察目标任务模型在任务上的推理轨迹,找出具体失败模式,再针对这些失败写提示词。训练时的奖励只来自提示词在任务上的实际表现,因此模型学到的是“什么样的提示能真正提升任务模型”,而不是模仿人类措辞。

论文给出的实验设置是 Enigmata、BIG-Bench Extra Hard 和 PlanBench 三个基准。作者训练了一个 9B 参数模型,目前公开信息显示,它在其中 2/3 的基准上写出的提示词优于 GPT-5.6-sol、Claude Opus 5 这类前沿模型,以及 GEPA、TextGrad 等提示词优化方法。提示词只需生成一次即可复用于整个任务,推理阶段不再需要该训练模型;同时它只要求对目标模型有查询权限,因此闭源模型也能配合使用。

为什么重要

提示词工程长期处于“手工活”状态:写得好不好依赖个人经验,且往往要反复试错。此前的自动化方案要么不看任务模型的表现,属于盲写;要么必须在每次推理时和任务模型一起跑,增加延迟和成本。RLPE 试图把“看图诊断”和“开方子”分开:训练阶段花算力学怎么写,推理阶段只留一条固定提示,不额外占用每次查询的开销。

更有信息量的是泛化结果。论文称,该 9B 模型能改善比自己大 6 倍的任务模型,包括来自完全不同模型家族的模型;在一个未参与训练的第四个基准上,效果与 Claude Opus 5 持平。作者还提到,模型从未被显式训练去迭代修改提示词,但这种“反复打磨”的能力自发出现。若这些结论在同行评审与复现中成立,提示词优化可能从依赖大模型规模转向依赖训练信号设计。

对用户/开发者/创作者的影响

对开发者而言,最直接的价值是闭源模型也能用:只要目标模型提供查询接口,就能用该方法生成针对性提示,而无需开放权重或推理时加载额外模型。这降低了把通用大模型适配到垂直任务的成本,也让提示词从“一次性消耗品”变成可缓存、可复用的资产。希望低成本微调效果的团队,可能会先尝试这条路线,而不是直接上算力做参数更新。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对内容创作者和企业采购来说,判断仍是审慎的:这是一篇论文摘要,不是已上线的 API 或产品,目前没有价格、延迟、上下文长度等工程数据,也没有第三方复现。摘要中的评测结论仅限定在 Enigmata、BIG-Bench Extra Hard、PlanBench 及留出的第四个基准上,不能理解成永久排名或通用结论。

值得关注的后续

一是是否开源模型权重或提供调用接口;二是是否有独立团队在相同基准上复现 2/3 胜出和跨模型家族泛化的结果;三是这种“观察失败轨迹再写提示”的方法在真实生产任务、长上下文和工具调用场景中的稳定性。另一个观察点是,若提示可一次性生成并复用,云厂商按 token 计费的推理成本结构是否会受到影响。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 29272

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注