gpu-unlock-ada:Ada 消费级显卡张量算力翻倍解锁方案

GitHub 项目 gpu-unlock-ada 通过在 Linux 启动阶段抢先加载内核模块、修改 SM 速度档位寄存器,让 RTX 4090 等 Ada 消费级卡 FP16/BF16 张量吞吐接近翻倍,社区对这项“非官方解锁”的反应相当热烈。

一句话看懂:GitHub 项目 gpu-unlock-ada 通过在 Linux 启动阶段抢先加载内核模块、修改 SM 速度档位寄存器,让 RTX 4090 等 Ada 消费级卡 FP16/BF16 张量吞吐接近翻倍,社区对这项“非官方解锁”的反应相当热烈。

事件核心:发生了什么

该项目由 JustAResearcher 发布,原理是在 initramfs 阶段、NVIDIA 官方驱动接管之前加载内核模块,向流多处理器写入速度选择器配置,将 FP16→FP32、BF16→FP32 张量吞吐从 165 TF/s 提升至约 331 TF/s。目前仅验证 RTX 4090、RTX 4070 Ti SUPER、RTX 4060 Ti 16GB 三款型号,其中 AD103 需单独指定 PCI 地址并开启实验标志。INT8、dp4a 等算子速率保持基线不变,解锁状态在 PCIe 功能级复位后仍可保持。素材发布于 2026 年 10 月 25 日,项目 24 小时内新增约 692 星标。

为什么重要

NVIDIA 在消费级 Ada 卡上默认限制了张量核心的速度档位,而专业卡不受此限但价格高出数倍。深度学习训练与推理大量依赖 FP16/BF16 矩阵乘法,cuBLAS、CUTLASS 调用张量核心时直接受这一限制影响。该项目相当于在硬件层面消除了这一“人为上限”,使消费级硬件在相同功耗下获得接近专业卡的张量算力,对以性价比为导向的本地训练和推理场景意义明显——但它本质上属于非官方修改,稳定性和适用范围都需要谨慎看待。

对用户/开发者/创作者的影响

对 Linux 下的深度学习团队,尤其是用多卡 4090 跑混合精度训练或推理的开发者,这条路径可能以较低成本换取矩阵运算吞吐提升。但需要注意:收益集中在 FP16/BF16 张量算子,README 记录 4096³ BF16 矩阵形状基本无变化,并非整体应用加速;使用前需冷启动清空 WPR2 标记,并保留原始引导项用于回滚。AD103/AD106 型号强制单卡地址加实验标志的设计,也说明项目方对未知风险仍保持保守。Windows 用户、生产环境和高可用服务则不建议直接采用。

值得关注的后续

一是更多 Ada 型号能否被验证兼容,目前三个开放 issue 集中在非验证型号与长期稳定性;二是 INT8 等算子是否会在后续版本中被解锁,直接影响推理场景价值;三是 NVIDIA 驱动更新是否会封堵该路径,以及社区是否会推动更规范的配置方式。目前公开信息显示,这些均尚未有定论。

来源:juejin

celebrityanime
celebrityanime
文章: 29911

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注