GPUWorks 发布 40 MB GPU 集群管理器：免 K8s，支持 vLLM/SGLang 与混合算力

一句话看懂：GPUWorks 是一个仅 40 MB 的轻量 GPU 管理与 MaaS 平台，无需 Kubernetes，即可把自有服务器、云实例和 Mac 组成一个推理集群。它降低了多卡、多品牌算力接入大模型推理的门槛，值得关注。

事件核心：发生了什么

2026 年 11 月 4 日，开源项目 GPUWorks 在 Hacker News 发布。其控制面连同 Web UI 仅 40 MB，服务器和节点代理各是一个静态二进制，状态存在单个 SQLite 文件中。用户用一条命令即可把裸金属服务器、RunPod/AutoDL/Vast.ai 等云实例、ZStack 虚拟机或 Apple Silicon Mac 加入同一集群，然后选择模型，由系统估算显存、挑选 GPU，并启动 vLLM、SGLang 或模板定义的其他推理引擎，对外提供 OpenAI 兼容接口。

项目内置 1,235 条启动配置，覆盖 392 个模型，包括 Qwen、DeepSeek、GLM、Kimi、Llama、Gemma、gpt-oss 以及嵌入、重排、语音、图像和视频模型；NVIDIA、AMD、华为昇腾、平头哥 PPU、海光 DCU 与 Apple Silicon 可在同一集群并存。官方称在阿里云的一次演练中，单台服务器管理 7 个区域的 1,003 台租用 GPU 机器，4 分钟内完成 500 多个副本的调度，网关承载 2,000 个并发请求，服务器峰值占用 9 核 CPU 和 1.6 GB 内存。

为什么重要

目前主流 GPU 调度方案多依赖 Kubernetes，部署和运维成本偏高。GPUWorks 走的是“去 K8s、单二进制、SQLite 状态”的极简路线，把异构加速卡统一到同一调度器下，并明确展示显存估算与放置理由。这对需要快速验证模型、但不想维护复杂编排系统的团队有实际吸引力。它同时覆盖公有云、私有云和本地硬件，也契合当前推理需求碎片化、多云混合部署的趋势。

对用户/开发者/创作者的影响

开发者可以用一条 curl 命令接入 GPU 节点，通过 /v1 接口调用聊天、嵌入、重排、音频、图像和视频模型，并支持按 API Key 统计 token 用量。对小型团队和个人创作者而言，这意味着不必先搭一套 K8s 就能跑起 vLLM 或 SGLang 服务。企业侧可关注其共享 GPU 显存配额、睡眠唤醒、多节点并行和预填充/解码分离等能力，但目前公开信息显示这些功能以项目自述为主，尚未看到第三方独立评测。