VRAM の譲り合い(Ollama と ComfyUI)
Ollama と ComfyUI を同じグラフィックボードで動かすと、両方のモデルがメモリ(VRAM)に載り切らないことがあります。Pixubus は「いまから使うほう」に合わせて、もう片方のモデルをいったん降ろします。設定 → ComfyUI の「VRAM の譲り合い」カードで切り替えられます。
別の PC の ComfyUI(リモート)につないでいるなら、メモリは別々なので、このページの話は関係ありません。両方とも OFF にして構いません。
なぜ要るのか
たとえば VRAM 16 GB のボードで、Ollama の gemma4:26b-a4b(約 16 GB)と、Qwen-Image 2.1(16 GB 超)を同時に載せることはできません。片方が居座ったままだと、もう片方は極端に遅くなるか、落ちるかのどちらかになります。実測では、同じモデルで速さが 7 倍違いました。
3 つの向き
| 向き | いつ | 設定(既定) | どの画面で効くか |
|---|---|---|---|
| ① Ollama を使う前に ComfyUI のモデルを降ろす | Ollama に何かを頼む直前。空きメモリが足りるまで少し待ちます(最大 10 秒)。使うモデルがもう Ollama に載っていれば何もしません | 「Ollama を使う前に ComfyUI のモデルを降ろす」(ON) | Ollama を使うすべての画面(抽出・プロンプト生成・提案・キャラクター生成・イベント CG・パーティ・衣装の提案・✦ 1 行の案) |
| ② 参照から作る画像の前に Ollama のモデルを降ろす | リファレンス生成・表情差分・衣装変更・ポーズ集で、絵を描き始める直前 | 「画像生成が終わったら ComfyUI のモデルを降ろす」(OFF) | 参照から作る 4 画面 |
| ③ 画像生成が終わったら ComfyUI のモデルを降ろす | 最後の 1 枚が終わってから 10 秒後。次の生成が始まれば取りやめます | ComfyUI で絵を描くすべての画面 |
注意
- 降ろしても、ディスクから読み直すわけではありません。モデルは PC のメインメモリに残るので、載せ直しは数秒です(画像生成なら約 2 秒)。
- 生成の途中で降ろすことはありません。2 枚・4 枚とまとめて出すときも、最後の 1 枚が終わってからです。
- ComfyUI が絵や動画を作っている最中は、① は効きません。ComfyUI は「いま動いているもの」を優先するので、最大 10 秒待ってそのまま進みます。動画生成(Vidubus など)が走っている間は、Ollama を使う操作を待ってください。
- メモリに余裕がある構成(VRAM 24 GB 以上で小さいモデル)なら、両方 OFF のほうが速いことがあります。症状が出ていなければ、既定のままで構いません。
- ComfyUI を
--highvramで起動していると、降ろしても VRAM が返らないことがあります。
こんなときは ON に
| 症状 | 向き |
|---|---|
| 画像を何枚か出したあと、プロンプト生成や抽出が急に遅くなる | ③ |
| リファレンス生成・ポーズ集が、Ollama を使った直後だけ極端に遅い | ② |
| ComfyUI で大きなモデル(動画など)を使った直後に、Ollama の処理がエラーで止まる | ①(既定 ON) |