QwenPU 演示：在 Qwen3.5-4B 权重里跑另一个小模型

事件核心：发生了什么

据 X 用户 @divagr1925（署名 div, fp32）于 2026 年 10 月 31 日发布的内容，其演示名为 QwenPU：将 Andrej Karpathy 的 stories260k 模型编译进 Qwen 3.5-4B 的权重，充当一个内置 NPU，使“一个 LLM 里能跑另一个 LLM”。

同一账号此前还介绍了相关项目 Qwenputer：在 Qwen3.5-4B 权重内放入一套完整 RISC-V CPU，并用模型自身的 Gated DeltaNet 层充当 RAM，在前向传播中运行 C 和 MicroPython，无需外部运行时。发帖者给出的数学评测中，Qwenputer 在 DeepMind 数学题上取得 97.5%–100%（作为对照，Qwen3.5-4B 基础为 55%–90%，加 Python 工具为 95%–100%）。目前公开信息仅限这些社交帖文，尚无配套论文或可复现评测细节。

为什么重要

这类演示试探的是“模型权重不只是参数，也能承载可执行逻辑”的边界。若思路成立，意味着大模型的内部结构可以被更精细地利用，对模型可解释性、推理过程控制以及端侧轻量计算有研究价值。不过它离实用还有距离：把 CPU/NPU 编译进权重更像概念验证，性能、稳定性与通用性均未经独立验证，也不能据此判断会改变现有大模型推理架构。

对用户/开发者/创作者的影响

对普通用户和创作者，目前没有任何可直接使用的功能、API 或产品，影响基本为零。对开发者而言，值得关注的是其实现思路：如何借助 Gated DeltaNet 层做内存、如何在权重内布置计算单元。这类技巧可作为研究和复现的素材，但不建议当作生产方案；发帖者声称的评测成绩也需在相同任务与条件下自行复核。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是作者是否公开代码、模型权重与技术说明，使结果可复现；二是评测是否给出完整题目集和对照实验，而不只是单方数字；三是社区或 Qwen 官方是否回应这类“权重内计算”用法。在这些信息出现前，宜将其视为有趣的社区实验而非产品进展。

来源：@divagr1925