実測レポート

ローカルLLMにメモリは何GB必要？【128GB実機の実測早見表】

公開日：2026-08-27　著者：組立テルノ

128GB実機で実測・2026年8月

結論：境界線は64GBと128GB。35B級なら64GB、120B級を回すなら128GBが要る

選部マヨ子

ChatGPTみたいなAIを自分のPCで動かせるって聞いたんだけど、どんなPCが要るの？

組立テルノ

必要なのは高いCPUじゃなくて、メモリなんだ。AIモデルの本体は数GB〜数十GBの塊で、それがVRAMかメインメモリに載らないと動かない。

選部マヨ子

じゃあテルノの128GBマシンなら、超大きいモデルも動くってこと!?

組立テルノ

それを実際に測ってきた。120B級（1,200億パラメータ）まで実用速度で動いて、284B級は128GBでも足りなかった。今日は「容量ごとに何が動くか」を全部実測の数字で見せるよ。

この記事は、メイン機（Ryzen 9 9950X／DDR5 128GB／RTX 5080＋RTX 4080 SUPER）でローカルLLMを動かした実測から、「メモリ容量◯◯GBのPCでは、どの大きさのAIが動くのか」をまとめた容量の早見表です。測定にはMoE専用エンジンのFreeTokenとLM Studioを使いました。ソフト自体の比較レビューはFreeToken実測レビューに分けてあり、こちらは「メモリをいくら積むか」の判断に集中します。

【前提】モデルの大きさ＝必要メモリ、の関係

ローカルLLMの世界では、モデルの規模を「7B」「70B」のようにパラメータ数（Billion＝10億）で呼びます。そのままだと巨大すぎるので、実際は「量子化」という圧縮を掛けて使うのが普通で、4bit量子化ならファイルサイズはおおよそ「パラメータ数×0.6GB」前後になります（例: 20B級で約13GiB、120B級で約69GiB）。

そして大事なのは、動作中はファイルサイズより多くのメモリを使うことです。ここから先は、目安ではなく実測で見ていきます。

【実測】モデル規模ごとの使用メモリと速度

モデル（4bit級量子化）	実測メモリ使用	生成速度（ならし）	体感
20B級（gpt-oss-20b、13GiB）	VRAM16GBに全量	—（今回は速度未測定）	VRAMに載る＝最速圏。アプリの適合判定も「Fast」
35B級MoE（Qwen3.6-35B）	メモリ＋21GiB	95〜104 tok/s	一瞬で書き終わる速さ。VRAM32GBに全量載せなら150 tok/s超
120B級MoE（gpt-oss-120b）	システム全体82GiB	20〜26.5 tok/s	読む速度より速い。8千字要約もこなす実用ライン
284B級（DeepSeek-V4-Flash）	必要145.3GiB	—	128GB機でも「RAM不足」判定。あと20GiB足りない

測定: 固定プロンプト×3回の中央値。35B/120BはFreeTokenのオフロード実行（GPUは16GBの1枚）。詳細条件はFreeTokenレビュー参照。

この実測を「自分のPCのメモリ容量」に引き直したのが、この記事の本題である次の早見表です。

メインメモリ	現実的に動くモデル	ひとこと
16〜32GB	〜20B級	入門圏。VRAMの大きいGPUがあれば底上げ可
64GB	35B級MoEが快適圏（＋21GiBに余裕）	コスパの分水嶺。まず狙うならここ
96GB	120B級がギリギリ（82GiB使用）	動くが余裕14GB。常用なら次の段へ
128GB	120B級が快適。284B級は不可	「人権ライン」と呼ばれる理由がこれ

実測（35B=+21GiB、120B=82GiB、284B=145.3GiB要求）とアプリの適合判定にもとづく目安。OS・常駐ソフトの使用分を含みます。

FreeTokenのモデル一覧。各モデルにFits in RAMやInsufficient RAMの判定バッジが表示されている — 対応ソフトのモデル一覧には、PC構成に応じた「載る／載らない」判定が出ます（画面は128GB機）。この判定基準とうちの実測を合わせて、上の早見表を作りました。

選部マヨ子

64GBと128GBの間に、こんなにはっきり壁があるんだ。「あるだけ積んどけ」じゃなくて、狙うモデルで決まるんだね。

組立テルノ

そう。だから買い方は「動かしたい規模を決める→容量が決まる」の順。いまはメモリが高いから、なおさら狙い撃ちが大事だよ。

【速度】容量だけでなく、メモリの速さも効く

生成中、CPUやGPUはモデルを繰り返し読み続けるので、メインメモリに置いた分の速度はメモリ帯域で決まります。うちのメイン機は4枚挿しのため3600MT/s動作で、実測帯域は44.5GB/s（2枚挿し定格構成の理論値の8割弱）。この状態で120B級が20〜22.5 tok/sでした。X上のDDR5-128GB構成の報告（30 tok/s）より遅いのは、このハンデ込みの結果と見ています。

つまり「容量の4枚挿しか、速度の2枚挿しか」のトレードオフはLLMでも実在します。ただし実測のとおり、3600MT/s動作でも読む速度は超えているので、私は容量側（128GB）を選んだことを後悔していません。

電気代も気になるところですが、実測では120B級の生成中でもコンセントから約396W・1時間あたり約12円。ゲームやAI画像生成でGPUを使い切るより軽い負荷でした（詳細はFreeTokenレビューの電力追記へ）。

【接続】メモリ選びとの関係

ローカルLLMを見据えたメモリ選びは「容量は多いほど選択肢が増える。ただし速度（帯域）が生成速度を決める」という、少しねじれた関係になります。4枚挿しで容量を稼ぐとクロックが下がる——このトレードオフの実例は、メモリ4枚挿しの実体験記事にまとめてあります。容量の一般論は「メモリは32GBで足りる？」をどうぞ。

なお、いまはメモリ相場が上昇局面です。LLM目的の増設は「動かしたい規模」を決めてから、必要な容量だけを狙い撃ちしてください。うちの128GB（64GBキット×2）の現在価格はメモリの価格一覧で毎日更新しています。

メモリの価格を一覧で見る FreeToken実測レビューを読む毎日の相場ページを見る

FAQ

よくある質問

選部マヨ子

ローカルLLMには、VRAMとメインメモリのどっちが大事？

組立テルノ

モデルがVRAMに丸ごと載るなら、VRAMが最速です。うちの実測でも、VRAM32GB（16GB×2枚）に載る35B級はその構成が一番速く動きました。ただし最近はMoE型モデルと対応ソフトの登場で、VRAMに載らない分をメインメモリに置いて実用速度で動かせるようになり、「大きいモデルはメインメモリの容量で決まる」時代になっています。120B級を動かした時のメモリ使用量は実測82GiBでした。

選部マヨ子

メモリ32GBのPCだと、どのくらいのモデルまで動きますか？

組立テルノ

実測ベースで言うと、4bit量子化の20B級（ファイル約13GiB）までが現実的なラインです。35B級MoEは動作中にメモリを21GiB追加で使ったので、OSやブラウザの分を考えると32GBではギリギリすぎます。35B級を安心して回したいなら64GB、120B級なら実質128GBが必要でした。

選部マヨ子

4枚挿しでメモリクロックが3600に下がっていると、LLMも遅くなる？

組立テルノ

遅くなります。これは数少ない「4枚挿しの実害が見える」用途でした。うちの実測帯域は44.5GB/s（3600MT/s動作）で、X上のDDR5-128GB構成の報告（120B級で30 tok/s）に対してうちは20〜22.5 tok/s。それでも読む速度より速いので実用には困りませんが、LLMを最優先にするなら「2枚で高クロック」の構成が有利です。

選部マヨ子

クラウドのAIでよくない？ローカルでやる意味は？

組立テルノ

日常利用はクラウドが手軽で高性能なのは事実だよ。ローカルの意味は、データを外に出したくない場合と、定額で無制限に回したい場合、そして単純に「自分のPCで動く楽しさ」だね。電気代も実測したら120B級を回して1時間約12円と、思ったより軽かった。うちみたいにハードが余っている自作勢には、遊びと実益を兼ねたテーマなんだ。

本記事の数値は筆者所有機（Ryzen 9 9950X＋DDR5 128GB＋RTX 5080/4080 SUPER）での実測にもとづきます。ソフトのバージョンやモデルの量子化形式で結果は変わります。測定条件の詳細はFreeToken実測レビューを参照してください。運営方針は運営者情報をご覧ください。