跳到正文
掘金· 武子康·· 20 天前精选AI 评分78

CUDA OOM 不只是显存不够:按失败阶段分诊 ComfyUI 显存溢出

CUDA OOM 不只是“显存不够”

AI 导读

作者把 CUDA out of memory 拆成加载、条件编码、采样首步、采样中途、VAE Decode、后处理六个失败阶段,主张先保存完整 traceback 和 allocated/reserved 记录定位边界,再逐项验证权重、激活、缓存和碎片等候选原因。

借鉴点

按加载、条件编码、采样首步、采样中途、VAE解码、后处理六个阶段分诊 OOM,配一张处置矩阵和最小复现法,能直接换掉现在一遇 OOM 就砍分辨率的做法;代价是要先存完整 traceback 和 allocated/reserved 记录,作者未在真实 GPU 上验证。

来源:掘金 · juejin.cn