ローカルLLM用GPUの選び方｜VRAM容量とRTX 3製品を比較

※画像は生成AIを用いた独自生成イメージです。

この記事にはアフィリエイトリンクが含まれています。

Amazonのアソシエイトとして、kasblo.comは適格販売により収入を得ています。

ローカルLLM（自分のPC上で動かす大規模言語モデル）用にGPUを買うなら、最初に決めたいのは、動かすモデルがVRAM（GPU専用メモリ）へ収まるかどうかです。8〜14Bクラスの4bitテキスト推論を始めるなら16GB、32Bクラスへ進むなら32GBを検討の起点にできますが、入力の長さやソフトの設定で必要容量は変わります。同じ16GBの上位製品へ買い替えても容量不足は解消しないため、容量と処理性能を分けて選びましょう。

この記事は2026年9月9日に確認した公式仕様に基づく購入ガイドです。実機ベンチマークは行っておらず、生成速度・静音性・動作の快適さを実測結果として評価していません。

今回の3製品は、何を優先する人向け？

対象はWindows／LinuxのデスクトップPCへ増設する単体GPUです。ノートPC用GPUや、GPUを入れ替えられないPCにはそのまま適用できません。

同じGPUでもメーカーや冷却設計により寸法・電源条件が変わるため、今回はMSIの具体的な3型番で比較します。他社製品が使えないという意味ではありません。対応するソフトやOSが決まっているなら、別メーカーのGPUも検討できます。

「4bitの32Bだから16GBで足りる」とは限らない

※画像は生成AIを用いた独自生成イメージです。

Bはパラメータ数の規模を示し、1Bは約10億です。量子化（数値の表現を小さくして容量を減らす処理）の理想的な重み容量は、次のように計算できます。

重み容量の概算 = パラメータ数 × 1個あたりのbit数 ÷ 8

たとえば32Bを一律4bitで表すと、320億 × 4 ÷ 8 = 160億bytes、約16GBです。ただし実際のモデルには量子化の補助情報や異なる精度で保存する部分があり、この計算だけで購入容量を決めると不足します。

Q4_K_Mは、部分ごとに精度を使い分ける量子化形式です。表の右側はダウンロードファイルの容量であり、実行時のVRAM使用量そのものではありません。モデル規模も通称値のため、左側は概算です。

出典：Qwen3-8B公式ファイル、Qwen3-14B公式ファイル、Qwen3-32B公式ファイル。

会話が長くなると、重み以外にも場所が必要

※画像は生成AIを用いた独自生成イメージです。

VRAMには、モデルの重みだけでなく、KVキャッシュ（過去のトークンの計算結果）、計算用の作業領域、画面表示なども入ります。入力と生成済みの文章を長く保持するほど、KVキャッシュの分も見積もる必要があります。

Qwen3-32Bを例に、1会話、64層、KVヘッド8個、ヘッド次元128、KVを16bitで保持する単純化した条件なら、1トークンあたりは次の計算です。

KとVの2種類 × 64層 × 8ヘッド × 128次元 × 2bytes = 262,144bytes

1GBは10億bytes、1GiBは1,073,741,824bytesです。ファイル容量とGPU監視ツールの表示を比較するときは、単位もそろえてください。

この表はKV部分だけの理論値です。実装上の余白、作業領域、並列要求は含めていません。KV量子化やモデル構造によっても変わるので、すべての32Bモデルに当てはまる早見表としては使えません。

32GBのGPUでも、約19.8GBのモデルに長文KVと他の領域を加えれば、空きは減ります。32GBなら何でも長文で動く、と考えないことがポイントです。出典：Qwen3-32B設定、Ollamaのコンテキスト長。

同じ16GBでも違うのは、容量より帯域と演算資源

メモリ帯域幅は、GPUがメモリからデータを読み書きできる量の目安です。容量が棚の大きさなら、帯域は出し入れする通路の広さに相当します。通路が広くても、棚に入る荷物の総量が増えるわけではありません。

理論帯域は「28Gbps × バス幅 ÷ 8」で計算しています。帯域の比率を、そのまま生成速度の比率へ読み替えることはできません。入力処理と逐次生成でもボトルネックは異なり、モデル、量子化形式、ソフト、同時実行数が結果に影響します。

推奨電源容量はGPU単体の消費電力ではなく、PC全体に使う電源ユニットの目安です。また、これらの数値は指定したMSI製品の仕様であり、同じGPU名の全カードに共通する寸法・電源条件ではありません。

出典：MSI 5060 Ti製品仕様、MSI 5070 Ti製品仕様、MSI 5090製品仕様。

入門候補：MSI GeForce RTX 5060 Ti 16G VENTUS 2X OC PLUS

※画像は生成AIを用いた独自生成イメージです。

8Bや14Bの4bitモデルを使い、短めの対話や文書の要約から始めるなら検討しやすい候補です。今回の中では180W、長さ227mmと、電源・設置スペースの条件を満たしやすい構成です。長さだけで設置可否は決まらないため、ケースの対応寸法とケーブル用の余白も確認してください。

今回のAmazonリンクはA5クリアファイル同梱版として提供されたものです。本稿はGPU本体の仕様を比較し、同梱物・販売元・選択中の容量は購入ページで確認してください。

購入時は「16G」まで一致させてください。 メモリ容量が違えば、同じシリーズ名でもローカルLLMの使い方が変わります。

約19.8GBあるQwen3-32B Q4_K_Mを、この16GBカードへ丸ごと載せる購入計画には向きません。一部をCPU側へ分担させる方法はありますが、GPU内で完結する場合とは処理経路が変わります。32Bを主目的にするなら、低価格だけで決めず容量側から選び直した方が整理しやすいです。

16GB内の処理性能を重視：MSI GeForce RTX 5070 Ti 16G VENTUS 3X OC

※画像は生成AIを用いた独自生成イメージです。

すでに使いたいモデルが16GB内に収まると確認でき、処理性能のために予算を増やしたい人向けです。理論帯域は896GB/sで、入門候補より広くなります。

ここでの上位化は、主に同じ容量の範囲で処理性能を求める選択です。16GBの容量不足が悩みなら、この製品への変更だけでは解決しません。

カードは長さ303mm、メーカー記載の消費電力は300Wです。16-pin補助電源を使い、MSIはATX 3.1電源を推奨しています。現在の電源が容量を満たすかに加え、対応するケーブルとコネクターを用意できるか確認しましょう。静音性や実際の処理時間は、本稿では評価していません。

32GBへ増やす候補：MSI GeForce RTX 5090 32G VENTUS 3X OC

※画像は生成AIを用いた独自生成イメージです。

32Bの4bitモデルを中心に使うなど、16GBでは重みが収まらない場合に検討する候補です。32GBと広い理論帯域を備えていますが、使用可能な容量からKVや作業領域の分を引いて判断する必要があります。

単体カードで構成を組みやすい一方、575W、推奨電源1,000W、長さ325mm・厚さ67mmという条件があります。GPU代に加え、電源交換やケース変更が必要なら、その費用と手間も見込んでください。

70Bクラスのdenseモデル（概ね全体の重みを計算に使うモデル）を一律4bitと仮定すると、重みの理想容量だけで約35GBです。32GiBに換算した容量も約34.36GBなので、それさえ上回ります。32GBカード1枚で70Bの4bit重みをすべて常駐させる、という前提では勧めません。 より強い量子化、CPU側への分担、別の大容量構成では条件が変わります。

GPUと一緒に確認したい、PC側の条件

※画像は生成AIを用いた独自生成イメージです。

買い替える前に、使うモデルとPCの条件を一枚のメモにそろえておくと、不要な出費を減らせます。

既存の電源から余ったケーブルでも、別メーカー・別シリーズへ流用できるとは限りません。接続は各電源とGPUの説明書に従い、コネクターを確実に差し込める取り回しを確認してください。

16GB VRAMにシステムRAMを足して、単純に大容量GPUと同じ扱いにはできません。オフロード（処理やデータの一部を別の場所へ分担する仕組み）で収容できる場合もありますが、速度と転送の条件が変わります。PC一式を新しく買うなら、増設だけでなくローカルLLM用Macの選び方とも総額で比較してみてください。

購入後は「GPUを使えているか」まで確認する

Ollamaの公式対応表には、今回扱うGPU系列が掲載されています。とはいえ、古いソフトやドライバーのままで、すべての環境が動くと保証されるわけではありません。

モデルを動かした状態で、次を確認します。

# GPUを使えているか、入力長の設定が想定どおりか確認するため
ollama ps

PROCESSOR と CONTEXT を見て、CPU側への分担の有無と確保されたコンテキスト長を確認してください。速度を比べるなら、モデル名だけでなく量子化形式、入力長、出力長、並列数、ソフトの版もそろえます。

出典：Ollama対応ハードウェア、コンテキスト長と配置確認。

よくある疑問

手持ちの8GB GPUでは始められない？

小さな量子化モデルや短い入力から試す余地があります。新規購入の候補を16GBから示しているのは、手持ちの8GBを使えないと判断したためではなく、モデルを広げる余裕も考えたためです。まず手持ちで試し、不足するモデルと条件が分かってから買い替えても構いません。

16GBを2枚買えば32GBの1枚と同じ？

ソフトが複数GPUへモデルを分割できる場合はありますが、1枚の32GB GPUと同じ構成ではありません。PCIeを通る通信、スロット配置、電源、冷却も変わります。Ollamaはモデルが1枚へ収まる場合はそのGPUへ配置し、収まらない場合は複数GPUへ分散する仕組みを説明しています。初めての増設では、2枚なら必ず安く簡単になると見込まない方が安全です。

メモリ節約のためにKVも量子化してよい？

KVも量子化できるソフトがあります。ただし重みの量子化とは別設定で、対応条件と出力品質への影響を確認する必要があります。初期設定での使用量を見てから変更し、実際の文章で回答が保たれるか確認しましょう。出典：Ollama FAQ。

この比較で、追加学習用GPUも選べる？

この記事は推論用です。追加学習には、推論時とは異なる作業領域や勾配などのメモリが必要になります。LoRA（少数の追加パラメータを学習する方式）などで負担を減らす場合も、学習対象・系列長・バッチサイズごとに確認が必要です。推論で読み込めることを、同じ条件で学習できる保証にしないでください。出典：Hugging Faceの量子化と追加学習。

選ぶ順番は「モデル、容量、PCへの適合」

購入前に決めたいのは、GPUの順位よりも、使うモデルと入力の長さです。その条件で容量が足りる候補を残し、処理性能にかける予算、電源、ケースとの相性を比べましょう。

手持ちの環境で試せるなら、先に実際の使用量を測るのも有効です。長文で何が増えるのかを詳しく知りたい方は、KVキャッシュの解説も参考にしてください。