Linum 两万美元训练出 2B 图像生成模型 P-JiT,Apache 2.0 权重公开

两人研究团队 Linum 用约 2.1 万美元训练了一个 2B 参数的文本转图像模型 Pyramid-JiT,效果超出预期,以 Apache 2.0 权重做实验性发布,验证其像素空间架构能否支撑后续视频模型。

一句话看懂:两人研究团队 Linum 用约 2.1 万美元训练了一个 2B 参数的文本转图像模型 Pyramid-JiT,效果超出预期,以 Apache 2.0 权重做实验性发布,验证其像素空间架构能否支撑后续视频模型。

事件核心:发生了什么

Linum 是一家只有两人的研究实验室,长期目标是自研生成式视频模型。2026 年 11 月,团队公开了 Pyramid-JiT(P-JiT)的图像版本:一个 2B 参数、直接在像素空间工作的扩散模型,训练规模约 6 亿样本,成本约 2.1 万美元。团队称这是一次“压力测试”,目的是为更大的视频模型铺路,因为视频模型通常先要学好图像中的“名词”,再学动作和运动。发布附带了 249 个按人物、动物、建筑、产品、风景、风格化分类的样本。

技术路线与主流不同:常见做法是先用 VAE 压缩图像、再在潜空间做扩散,而 P-JiT 去掉了 VAE,改用 32×32 的 token 降采样(相比 Linum v2 的 16×16 更激进),把 512² 图像压缩到与过去 256² 图像相同的 token 数,从而将注意力上下文窗口缩小约 4 倍。团队还提到在 DiT 主干上增加读出头、加入 PixelREPA 对齐 DINOv3-L 特征,以改善早期层梯度偏弱的问题。

为什么重要

目前公开信息显示,这更像是研究团队的一次技术验证,而非成熟产品。它的意义在于两点:一是成本,2 万美元级别的训练费用远低于头部图像模型的投入量级;二是路线,去掉 VAE、让扩散模型自己学习压缩表示,挑战了“专用压缩模型更优”的默认假设。如果这条路径在更大规模上依然成立,训练与推理算力的门槛可能被重新定义。

同时也要克制看待:团队自述“对结果感到意外”,样本由作者挑选展示;Apache 2.0 权重开放有利于复现和社区实验,但 2B 模型的能力上限、与闭源模型的差距,仍需独立评测。

对用户/开发者/创作者的影响

开发者可以基于 Apache 2.0 权重做本地部署、微调和架构复现,尤其适合研究像素空间扩散和低成本训练流程。创作者短期内不宜把它当成稳定生产工具,更现实的价值是观察一种低成本图像生成的替代路线。对企业而言,值得跟踪的是推理成本是否随架构压缩同步下降,这直接关系到 AI 图像应用的规模化成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 团队是否发布更完整的评测数据,以及社区在相同任务上的复现结果;2. 该架构迁移到视频模型后,速度与可控性是否真的改善;3. 是否会吸引更多团队尝试无 VAE 的像素空间路线,进而影响开源图像模型的生态格局。

来源:www.linum.ai

celebrityanime
celebrityanime
文章: 33074

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注