MIT 研究:GPT-6 Astra 可直接读取并改写其他模型的权重

MIT 研究人员在博客中展示了 GPT-6 Astra 不经过常规训练、直接分析并修改其他 AI 模型权重的能力,这种“权重空间编程”有数据亮点,但实验条件有限,尚未成为可用的通用功能。

一句话看懂:MIT 研究人员在博客中展示了 GPT-6 Astra 不经过常规训练、直接分析并修改其他 AI 模型权重的能力,这种“权重空间编程”有数据亮点,但实验条件有限,尚未成为可用的通用功能。

事件核心:发生了什么

2026 年 11 月 4 日,MIT 研究人员在博客中公布了一系列与 OpenAI GPT-6 Astra 相关的实验,提出“权重空间编程”思路:让语言模型直接面对其他神经网络的原始数值矩阵,推理其训练目标,并有针对性地改写权重,而跳过逐步数学优化的训练过程。实验中,Astra 仅凭权重就识别出网络玩的是四款游戏中的哪一款,也识别出小型语言模型的训练语种;在注意力信息辅助下,它还能区分被微调成“迎合用户”的模型。它还用游戏规则和源码从零生成权重,在 Breakout 上平均得分 517,对比训练基线的 25 分。最实用的实验针对 Qwen3.5-0.8B:Astra 只改动 0.016% 的权重,模型在 MATH-500 上的准确率从 7.9% 升到 48.1%,指令遵循从 21% 升到 62%,但三分之一回答仍触及最大文本长度。对很少陷入重复循环的 Gemma 3 270M,该方法没有带来可测提升。

为什么重要

若这类能力可复现、可审计,模型调试和优化可能从“重训一遍”转向“定点修正”,对算力成本和迭代周期都有意义。研究同时指向安全审计场景:直接检查权重里的异常行为,而不是只能靠输入输出猜测。需要注意,这是研究博客而非已发布产品,目前公开信息显示实验规模有限,且依赖特定模型和测试条件。

对用户/开发者/创作者的影响

对开发者而言,短期更现实的启发是:把权重检查、行为定位纳入模型评测流程,而不是等待“一键修模型”的 API。对使用开源模型的团队,权重层面的定向修正可能降低二次微调门槛,但实验显示它更像移除阻塞、释放已有能力,难以凭空添加模型原本不具备的技能。对企业和创作者,这类研究更可能先影响模型采购时的安全审计与合规评估。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是研究团队计划推出系统性评测基准,届时才能判断能力边界;二是这种方法能否在更大模型和更多任务上复现,尤其是“改动极少权重”是否稳定;三是社区讨论中,Jürgen Schmidhuber 在 X 上称该思路“老调重弹”,指向其 1990 年代的工作,研究方回应称那些论文“远超时代”,新意在于当今语言模型能在人类语言与网络数值之间做翻译——这属于社区观点,尚待独立验证。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 32613

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注