ローカルLLMの始め方：OllamaとLM Studioをステップごとに解説

ローカルLLMを動かすいちばん簡単な方法は、OllamaかLM Studioを使うことです。プログラムをインストールしてオープンウェイト（open-weight）モデルをダウンロードすれば、インターネットにもサブスクリプションにも頼らずにチャットできます。Ollamaはターミナルでコマンド1つ、LM Studioはウィンドウとモデル検索を備えたアプリです。始めるには、グラフィックボードの空きメモリが8GB程度あるPCか、Apple Silicon搭載のMacがあれば十分です。

そもそもなぜAIをローカルで動かすのか？

新しいオープンウェイトモデルはほぼ毎週のように登場しています。なかにはReflection Beam（MoE 501B）のように家庭用のマシンでは動かせない巨大なものもありますが、より小さなバージョンや「Flash」クラスのモデルもあり、普通のノートPCに収まるケースが増えています。

得られるもの：

1. プライバシー。 プロンプトやファイルがPCの外に出ません。
2. 上限も請求書もなし。 払うのは電気代だけです（それとハードウェアの消耗）。
3. オフラインで動作。 モデルをダウンロードしてしまえば、インターネットは不要です。
4. ローカルAPI。 自作のスクリプトやツールを、クラウドのAPIと同じようにlocalhost上のモデルにつなげられます。

問題は1つだけです。ローカルモデルの性能は、手元のハードウェアが許す範囲までです。最も強力なクラウドモデルは、いまも家庭用GPUには手が届きません。

どんなハードウェアが必要？

いちばん大事なのはメモリ、つまりグラフィックボードのVRAMか、Macのユニファイドメモリです。

• Ollamaは公式クイックスタートで、ダウンロードサイズが約7.2GBのサンプルモデルについて、8GBの空きVRAM（Macならユニファイドメモリ）を推奨しています。VRAMが足りない場合は通常のRAMを使いますが、応答は遅くなります。コンテキストウィンドウを大きくすると、そのぶんメモリも多く消費します。
• LM Studioはシステム要件によると、MacではApple Silicon（M1–M4）とmacOS 14以降が必要で、推奨RAMは16GBです （8GBでも動きますが、小さめのモデルに限られます）。Windowsでは16GBのRAMと4GB以上のVRAMが推奨され、x64プロセッサーはAVX2に対応している必要があります。LinuxではUbuntu 20.04以降が必要です。

鉄則は、モデルファイルがコンテキスト分の余裕を残してメモリに収まること。サイズはモデルライブラリに載っています。たとえばOllamaのGemma 4には、約4.6GB（e2b）から約20GB（31b）までのバリエーションがあります。

OllamaでローカルLLMを動かすには？

Ollamaは無料のオープンソースソフトウェアです（MITライセンス、GitHubリポジトリ）。macOS、Windows、Linuxで動作し、内部ではモデルをバックグラウンドで処理するサーバーが動いています。

1. インストール。 macOSではOllamaのサイトからアプリをダウンロードします。Linuxならコマンド1つで済みます。

curl -fsSL https://ollama.com/install.sh | sh

WindowsではPowerShellで次を実行します。

irm https://ollama.com/install.ps1 | iex

2. 最初のモデル。 ターミナルで次を実行します。

ollama run gemma4:e2b

Ollamaがモデルを自動でダウンロードし、チャットが始まります。会話を終えるには/byeと入力します。Linuxでサーバーが起動していない場合は、先にollama serveで起動しておきます。

3. モデルの管理。 CLIのドキュメントから、初日から役立つコマンドをいくつか紹介します。

ollama pull gemma4   # 実行せずにモデルをダウンロード
ollama ls            # ダウンロード済みモデルの一覧
ollama ps            # 現在実行中のモデル
ollama stop gemma4   # モデルを停止
ollama rm gemma4     # モデルをディスクから削除

おもしろいことに、Ollamaはローカルモデルでコーディングツールを動かすこともできます。ollama launch claudeでClaude Codeが起動し、ollama launch claude --model qwen3.5なら好きなモデルで起動できます。MacのOllamaアプリにはAppsタブもあり、モデルをClaudeアプリやChatGPT Desktopにつなげられます（後者はCodexモードのみ）。

LM StudioでローカルLLMを動かすには？

LM Studioは、ターミナルで打つよりクリックで操作したい人向けのデスクトップアプリです。チャット、Hugging Faceのモデル検索、MCP対応、ローカルAPIサーバーを備えています。ライセンス条項によると、個人利用と社内での利用が可能ですが、一部の機能は有料になる場合があります。

1. インストール。 LM Studioのサイトからインストーラーをダウンロードし、アプリを起動します。
2. モデルのダウンロード。 Discoverタブを開き（Macは⌘ + 2、WindowsとLinuxはCtrl + 2）、「gemma」や「qwen」などの名前を入力します。Hugging Faceのリンクを貼り付けることもできます。
3. バリアントの選択。 Q4_K_MやQ8といった名前は、いわゆる量子化を表しています。品質を一部犠牲にして、モデルを小さくする手法です。ドキュメントでは、ハードウェアが許すなら4ビット以上のバリアントを選ぶよう勧めています。
4. チャット。 モデルを読み込み、ほかのAIチャットと同じように入力します。

LM Studioには独自のCLIlmsもあり、アプリと一緒にインストールされます（アプリを一度起動するだけでOK）。CLIのドキュメントによると、同じことをターミナルからも行えます。

lms get llama-3.1-8b          # モデルをダウンロード
lms ls                        # ディスク上のモデル一覧
lms chat my-model             # ターミナルでチャット
lms server start              # ローカルAPIサーバーを起動

OllamaとLM Studio、どちらを選ぶ？

根本的には、2つのプログラムは同じことをしています。違うのは使い方のスタイルです。

	Ollama	LM Studio
操作	ターミナル（＋シンプルなアプリ）	ウィンドウ型アプリ（＋CLI lms）
ライセンス	オープンソース（MIT）	プロプライエタリ、個人利用と社内利用向け
モデル探し	ollama.comのライブラリ	アプリ内のHugging Face検索
ローカルAPI	http://localhost:11434/v1/	http://localhost:1234/v1

ターミナルが好きな人や、モデルをスクリプトやエージェントにつなげたい人は、Ollamaから始めるのが簡単です。まずはモデルを眺めて比べたいなら、LM Studioのほうが快適です。

ローカルモデルを自分のコードにつなげるには？

どちらのプログラムもOpenAI互換のAPIを提供しているので、いつものopenaiライブラリでアドレスを変えるだけです。Ollamaのドキュメントにある例を見てみましょう。

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1/",
    api_key="ollama",  # ライブラリが要求するが、Ollamaは無視する
)

reply = client.chat.completions.create(
    model="gpt-oss:20b",
    messages=[{"role": "user", "content": "Give me a one-line fun fact."}],
)
print(reply.choices[0].message.content)

LM Studioでは、DeveloperタブのStart serverスイッチか、lms server startコマンドでサーバーを起動します。ドキュメントの例では、サーバーはポート1234（http://localhost:1234/v1）で動作し、/v1/chat/completions、/v1/responses、/v1/embeddingsなどに対応しています。

これでチャットより面白いことへの道が開けます。ローカルエージェント、自分のメモの検索、あるいはMiniMax M3.1 Flashのような新しいオープンウェイトモデルを公開当日に試すこともできます。こうしたモデルが本番環境でどう提供されているのか気になる人は、DeepSeek DeepInferの記事もどうぞ。

よくある質問

ローカルAIは無料ですか？

Ollamaは無料のオープンソースです。LM Studioは個人利用と社内利用が可能ですが、条項によると一部の機能は有料になる場合があります。オープンウェイトモデル自体は無料でダウンロードできますが、それぞれに独自のライセンスがあるので確認しておきましょう。

グラフィックボードなしでもローカルでAIを動かせますか？

はい、ただし遅くなります。VRAMがない場合、Ollamaは通常のRAMを使います。その場合はgemma4:e2bのような小さなモデルを選ぶのがおすすめです。

ローカルモデルにはどれくらいのメモリが必要ですか？

おおよそモデルファイルのサイズに、コンテキスト分の余裕を加えた量です。Ollamaのクイックスタートにあるサンプルモデル（約7.2GB）では、8GBの空きVRAMが推奨されています。

ローカルモデルはインターネットなしで動きますか？

はい。インターネットが必要なのは、プログラムとモデルをダウンロードするときだけです。