掘金· miofly·· 21 天前精选AI 评分71
gpu-unlock-ada 开源项目:内核模块解锁 Ada 消费级显卡张量算力
GitHub 今日推荐|gpu-unlock-ada:Ada 显卡张量算力翻倍解锁
AI 导读
GitHub 项目 gpu-unlock-ada 通过在 Linux 启动阶段抢先加载内核模块、修改流多处理器速度选择寄存器,把 RTX 4090 的 FP16/FP32 与 BF16/FP32 张量吞吐从 165 TF/s 提升到 331 TF/s,INT8 与 dp4a 维持基线。
借鉴点
能拿走的是 initramfs 抢先加载内核模块、用 gpu_unlock.targets 指定 PCI 地址、冷启动清 WPR2 这套流程,可落到本地模型部署的 FP16/BF16 推理提速;代价是仅三款 Ada 卡验证、每次内核更新要重装、热重启可能失败。
来源:掘金 · juejin.cn