IBM 发布 LLMON 标记语言,Granite 4.1 3B/8B 预览模型可抗注入

IBM 研究院提出面向大模型的原生标记语言 LLMON,并基于 Granite 4.1 发布 3B 与 8B 两个实验性预览模型,尝试用显式标签区分指令与数据,从输入结构层面缓解提示注入问题。

一句话看懂:IBM 研究院提出面向大模型的原生标记语言 LLMON,并基于 Granite 4.1 发布 3B 与 8B 两个实验性预览模型,尝试用显式标签区分指令与数据,从输入结构层面缓解提示注入问题。

事件核心:发生了什么

2026 年 11 月 12 日,IBM Granite 团队在 Hugging Face 博客发文,介绍 LLMON(LLM Object Notation)并同步开源工具包。LLMON 采用类 XML 结构,用保留的特殊 token 作为分隔符,把系统提示、用户数据、工具返回、输出约束和推理链分别打上有语义的标签,并用唯一 ID 把指令绑定到它要处理的数据。两个预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 从 Granite 4.1 基础模型训练而来,可读取和生成 LLMON 文本,GitHub 仓库提供转换工具、工作流和模板示例。作者称部分基准上攻击成功率接近零,同时保持与 Granite 4.1 Instruct 相当的通用能力,但该说法目前仅出自官方博客。

为什么重要

大模型的上下文长期混杂系统提示、历史对话、工具返回和用户文档,多数结构对模型是隐式的,JSON 又是给解析器而非因果语言模型设计的。LLMON 把结构与内容拆到不同词表区间,在推理层面显式标注边界,这为提示注入防护提供了新思路:不靠事后过滤,而靠输入表示本身。若转换工具和模板能被开发者平稳接入,可能影响企业大模型应用的上下文编排方式。

对用户/开发者/创作者的影响

对开发者,现有 JSON 流程可通过官方转换器无损转为 LLMON,Mellea 已支持自动 LLMON 化调用,可减少强约束 JSON 输出的调参成本;也可自定义标签并在预览模型上微调 LoRA。LLMON 不替代聊天模板,而是在角色之外补充组件语义。对企业用户,指令与数据分离能降低隐藏于用户数据中的间接注入风险,但目前公开信息显示仅有两个小参数预览模型,尚不适合作为生产默认方案。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是博客披露的近零攻击成功率能否在第三方基准和更复杂任务上复现;二是 Granite 4.1 Instruct 系列或其他模型是否跟进原生 LLMON 支持;三是转换工具与 Mellea 的生态接入速度,是否形成 JSON 之外的可复用上下文规范。

来源:Hugging Face Blog

celebrityanime
celebrityanime
文章: 34639

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注