ローカルLLM用GPUは、CUDAコアより先にVRAMで選ぶ。

ローカルLLM用GPU選びの基準：VRAM容量で失敗しないための比較表

2026年8月6日 • 著者: AI技術チーム • ハードウェア選定

結論

ローカルLLM用GPUを選ぶときに重要なVRAM容量の目安、12GB・16GB・24GBの違い、中古GPU候補の見方を比較します。

ローカルLLM用GPU選びで最初に見るべきなのは、CUDAコア数でも世代名でもなくVRAM容量です。モデル本体、KVキャッシュ、同時実行の余裕はVRAMに強く左右されます。

VRAM別に広がる、ローカルAI制作の未来図

理屈を読む前に、まず「この構成で何ができるようになるか」をイメージするための図です。

結論：軽い検証は12GB、余裕を持つなら16GB、本格的なローカルLLM運用は24GBを目安にします。中古GPUは価格だけでなく、電源・排熱・保証まで含めて判断します。

VRAM	代表候補	できること	注意点
6GB	GTX1660Ti	小型モデル検証、仕組み理解	大型モデルや長文脈は厳しい
12GB	RTX3060 12GB	Ollama入門、記事下書き、軽い比較生成	長文脈・複数常駐は余裕が少ない
16GB	RTX4060 Ti 16GB / RTX A4000	下書き、要約、画像生成プロンプト検証の余裕	価格とメモリ帯域のバランスを見る
24GB	RTX3090 24GB	個人AI工房、複数ワークフロー、モデル比較	電源・排熱・中古保証が重要

12GB候補

12GB VRAMの入口。中古価格と保証条件を見ながら、最初の検証機として候補にしやすい。

16GB候補

省電力寄りでVRAMを増やしたい人向け。価格が高い個体は慎重に比較。

24GB候補

ローカルLLMの自由度は上がるが、電源・排熱・中古保証の確認が必須。

中古GPUの注意：マイニング歴、ファン劣化、サーマルパッド劣化、付属品欠品は写真だけでは判断しづらい。購入前に出品説明と返品条件を必ず確認してください。