自作PC構成の判断基準がここ数年で変わった話
FreeToken・WSL2・ハーネス経由の実測を振り返ると、自作PCの判断基準は「GPUのVRAM容量だけ」から「VRAM・システムRAM・実行環境の隠れた制約・委任経路」の4層に増えていた。

きっかけ
今日一日だけで、FreeToken・Ollama・OpenCode・Hermes Agent・NVIDIA NIMと複数の切り口でローカルLLMを検証した(2026-09-09_FreeTokenでMoEモデルを動かそうとしてわかったVRAMだけでは足りない話、2026-09-09_WSL2でFreeTokenがクラッシュする根本原因はCUDA_pinned_memory上限だった)。振り返ると、数年前の「自作PCでローカルLLMを動かす」ときの判断基準と、今日実際にぶつかった壁がかなり違っていた。この差分を記録しておく。
数年前の判断基準:ほぼ「GPUのVRAM容量」だけで決まっていた
ひと昔前のローカルLLM構成の相場観は単純だった。
- モデルのパラメータ数とVRAM容量を見比べる
- 「7Bなら8GB、13Bなら16GB、量子化すればもう少し軽くなる」くらいの経験則で足りた
- システムRAMは「多いに越したことはない」程度の位置づけで、律速要因として意識されることは少なかった
- 実行環境はほぼOSネイティブが前提で、仮想化層の制約を気にする場面は少なかった
今日の検証でぶつかった壁:判断基準が3層に増えていた
同じ「自作PCでローカルLLMを動かす」という話でも、今日実際に手を動かすと、意識すべき層が明らかに増えていた。
1層目:VRAM容量(今までと同じ、だが十分ではない)
RTX 3060(12GB)×2枚という構成自体は数年前から大きく変わっていない。しかし今日の検証では、VRAM容量だけを見ていると判断を誤る場面が複数あった。
2層目:システムRAM容量(新しく重みを増した層)
2026-09-09_FreeTokenでMoEモデルを動かそうとしてわかったVRAMだけでは足りない話で確認した通り、MoEモデルはVRAMに余裕があってもRAM不足で実用サイズが動かせないことがある。「VRAM◯GB積んでいるから大丈夫」という見積もりが、RAM容量次第で崩れる、というのは数年前にはあまり意識しなかった観点だった。
3層目:実行環境そのものの隠れた制約(今日初めて明確に踏んだ層)
2026-09-09_WSL2でFreeTokenがクラッシュする根本原因はCUDA_pinned_memory上限だったで特定した通り、WSL2というレイヤー自体に、スペック表には出てこないCUDA pinned memoryの実測上限(0.75〜1.0GiB程度)が存在した。これはVRAMの物理容量ともシステムRAMの物理容量とも別の、「どの環境で動かすか」という第3の軸だった。同じハードウェア・同じモデルでも、ネイティブLinuxで動かすかWSL2で動かすかで結果が変わりうる、という事実は、数年前のPC構成の相場観には存在しなかった判断材料だ。
flowchart LR
subgraph 数年前
A1[GPUのVRAM容量]
end
subgraph 今
B1[GPUのVRAM容量]
B2[システムRAM容量]
B3[実行環境の隠れた制約<br/>WSL2 pinned memory等]
end
A1 -.判断基準が拡張.-> B1
もう一つの変化:委任経路(ハーネス)による差
今日の検証では、もう一つ数年前にはなかった軸も見えた。同じモデル・同じハードウェアでも、生のAPIを直接叩くか、OpenCodeやHermes Agentのようなハーネスを経由するかで、動作の安定性そのものが変わることがあった(生APIでは推論ループに嵌ったが、ハーネス経由では正常応答した、という実例)。これは「モデルの性能」でも「ハードウェアの性能」でもない、ソフトウェアスタックの選び方という第4の判断軸だと言える。
まとめ:自作PC構成は「ハードウェアの箱選び」だけでは終わらなくなった
数年前は、自作PCでローカルLLMを動かすというと「GPU何を積むか」を決めれば大部分が決まった。しかし今日の実測を踏まえると、判断すべきことは以下のように増えている。
- GPUのVRAM容量(変わらず重要)
- システムRAM容量(MoEモデルの普及で重みが増した)
- 実行環境(ネイティブかWSL2か、隠れた制約の有無)
- 委任経路・ハーネス(生API直叩きかツール経由か)
「ハードウェアの箱を選べば終わり」だった時代から、「箱・OS環境・ソフトウェアスタックの組み合わせまで含めて設計する」時代に変わった、というのが、今日一日の検証を振り返って一番強く感じたことだった。まだ実際のハードウェア構成変更はしていないが、次に構成を見直すときは、この4つの軸を最初から意識して臨みたい。
関連ノート
- 2026-09-09_FreeTokenでMoEモデルを動かそうとしてわかったVRAMだけでは足りない話
- 2026-09-09_WSL2でFreeTokenがクラッシュする根本原因はCUDA_pinned_memory上限だった
- 2026-09-03_OpenCode経由でローカルOllamaモデルにTDDタスクを委任する
- 2026-09-03_Hermes_Agentでローカルモデルの単発実行とcron定期実行を試す