Nous Research 发布 Arete-27B:Qwen3.8-27B 微调后宣传性输出从 22% 降至 0.9%

Nous Research 基于阿里 Qwen3.8-27B 做了纯监督微调,发布开源模型 Arete-27B。在自己的 803 条评测中,带宣传性框架的回答从 22% 降到 0.9%,而同口径能力测试基本持平。

一句话看懂:Nous Research 基于阿里 Qwen3.8-27B 做了纯监督微调,发布开源模型 Arete-27B。在自己的 803 条评测中,带宣传性框架的回答从 22% 降到 0.9%,而同口径能力测试基本持平。

事件核心:发生了什么

2026 年 11 月,Nous Research 发布 Arete-27B,一个 27B 稠密开源权重模型,底座是 Qwen3.8-27B,许可证沿用 Apache 2.0。训练只用了监督微调,没有 RL、偏好优化或架构改动,约 52.8M token、64k 上下文、2 个 epoch。教师模型是 Thinking Machines 的开放模型 Inkling;Nous 表示放弃 Nemotron 3 Ultra,是因为其在中国相关话题上的记录不干净。

在 Nous 自建的 Propaganda_Eval(803 条提示、7 类价值议题)上,Arete-27B 的事实均值从 2.32 升至 2.98(满分 5),Propaganda 比例从 22% 降至 0.9%,零分回答从 359 条降到 216 条。变化最大的是言论自由类:事实分 0.89→2.44,宣传率 60%→1%。Hermes Bench 为 65.60%,对比底座 65.77%,Nous 称属噪声。权重、评测集和训练数据均已公开。

为什么重要

这是一次用极低成本改变模型“立场输出”的公开实验:只靠几十 M token 的 SFT,不动架构,就能显著削减特定政治框架。它说明开源权重的价值不止于能力复现,也在于可审计、可再训练。不过,这仍是厂商自建评测、自选评分器(Grok 4.7)的结果,事实分 2.98 仍落后 Muse Glimmer 30B 的 3.02,216 条零分回答也说明短板还在。

对用户/开发者/创作者的影响

开发者目前只能从 Hugging Face 下载 BF16 权重(53.81 GB),尚无托管推理服务;社区 Q4_K_M 量化约 17.20 GB,可在 24 GB 消费级显卡上跑,并支持 llama.cpp、LM Studio 和 Ollama。对需要本地部署、又希望回答政治框架更接近西方模型的团队,这是一个可选项。但要注意:视觉编码器被冻结,模型仍是文本为主;训练上下文为 64k,底座原生支持 262,144 token,长上下文能力需自行验证。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是第三方复现:宣传率 0.9% 与事实分 2.98 是否能在独立评测中成立;二是是否有托管 API 或推理服务接入,决定它能否进入生产;三是这类“去框架化”微调会不会成为开源模型社区的常规操作,以及是否引发平台合规层面的讨论。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 33488

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注