11月20日、Kazim Alviが「How Much RAM Do You Need To Run A Local AI Model?」と題した記事を公開した。クラウドAIへのデータ送信を避け、手元のマシンだけで完結させたい――そうしたプライバシー志向の高まりを背景に、ローカルLLMへの関心は急速に広がっている。しかし「自分のPCで本当に動くのか」という疑問に対して、RAM容量だけを見て判断するのは危険だ。この記事では、起動に必要なRAM容量とパフォーマンスを左右する帯域幅という二つの軸を整理し、ローカルAIモデルを動かすためのハードウェア要件を詳しく紹介している。
ローカルLLMへの関心が高まっている背景には、プライバシーの問題がある。WebベースのAIチャットボット(ChatGPTやGeminiなど)はユーザーの入力データを外部サーバーで処理するが、ローカルモデルであればすべて手元のマシンで完結する。機密性の高い業務や個人情報を扱う場面では、この差は無視できない。ただし、ローカルモデルはメモリを大量に消費するため、動かせるかどうかはまずRAM容量に左右される。
RAMとモデルサイズの対応関係
記事が示す目安は明快だ。
- 8GB RAM:Llama 3.2 3B、Qwen 3 4B(Alibaba製)、Mistral 7B(4-bit量子化)など小規模モデルに限定される
- 16GB RAM:Qwen 3 8B(Alibaba製)やLlama 3.1 8B(Meta製、4-bit量子化)など、実用的なモデルが動かせる
- 32〜64GB RAM:Qwen 3 32B(Alibaba製)やGemma 3 27B(Google製)といった大規模モデルも選択肢に入る
ここで登場する「3B」「8B」「32B」といった数字はパラメータ数(重みの個数)を指す。3Bなら約30億、32Bなら約320億の重みを持つ。モデルが大きいほど性能は上がるが、その分メモリも食う。
**量子化(Quantization)**とは、このモデルの重みを低ビット精度(4-bitや8-bit)に圧縮し、精度をほとんど落とさずにメモリ使用量を削減する技術だ。ローカルLLMの文脈では4-bit量子化が事実上の標準になっている。モデルがメモリに収まらなければそもそも起動すらできないため、まずこの「収まるか否か」がスタートラインとなる。
RAM容量だけで判断するのは危険
記事が特に強調しているのが「RAMサイズ=動くかどうか、RAM速度=どれだけ速いか」という切り分けだ。
AIモデルはVRAMがない場合、モデル全体をシステムRAMに展開して動かす。つまりRAM容量は「起動できるかどうか」の閾値に過ぎず、レスポンスの速さは**メモリ帯域幅(Memory Bandwidth)**で決まる。メモリ帯域幅とは、データをどれだけ速くメモリから読み書きできるかを示す指標だ。
具体例として記事はDDR5を挙げており、4,800 MT/sから6,000 MT/sに上げるだけでもトークン生成速度に体感できる差が出るとしている。DDR4よりDDR5が有利なのもこの帯域幅の差による。さらに言えば、GPUのVRAMはシステムRAMよりも帯域幅がはるかに広い。これはGPUがもともと膨大な並列演算を高速にこなすよう設計されており、VRAM自体もGDDR6やHBMといったシステムRAMとは別系統の高帯域幅メモリを採用しているためだ。同じモデルを走らせてもCPU+システムRAMとGPU+VRAMとでは応答速度が段違いになるのはこれが理由である。
ストレージの種類も見落としがちな要素だ。トークン生成速度そのものにはほぼ影響しないが、モデルの初期ロード時間やモデル切り替え時の待ち時間に直結する。HDDでの運用は実用に耐えないとKazim Alviは断言しており、SSD必須と位置づけている。
オーバーヘッドを忘れずに
RAMの要件ギリギリでモデルを選ぶのは避けたい。OSやバックグラウンドプロセス、モデルのUIなどがRAMの一部を常時消費するからだ。空きが少なくなるとシステム全体が重くなり、ローカルAIの使い勝手が大きく損なわれる。たとえば16GB RAMの環境でOSや常駐アプリが3〜4GBを消費していれば、実質的にモデルに割り当てられるのは12GB程度となり、選べるモデルの幅が一段狭まる点は意識しておくべきだ。
初めてローカルLLMを試すなら、まず手持ちのハードウェアで始めることを記事は勧めている。16GBあれば選択肢は十分にある。動作が重くなってきたら新しいチャットを始めることで改善する場合もある。予算に余裕があれば32〜64GBのRAM、あるいは16〜32GBのVRAMを搭載したGPUが理想だが、初心者が最初からそこに投資する必要はない。小さいモデルで始め、必要に応じてアップグレードしていく段階的なアプローチが現実的だ。ローカルLLMの実行環境として広く使われているOllamaやLM Studioといったツールは、モデルごとの推奨スペックも提示しているため、自分の環境と照らし合わせる際の参考になる。
詳細はHow Much RAM Do You Need To Run A Local AI Model?を参照していただきたい。




