コラム

ローカルLLM vs ホスト型API：小さいモデルは手元、大きいモデルはAPIで

2026/7/20FastMetal

LLM を業務に組み込むとき、まず分かれ道になるのが「自前で動かす（ローカル）か、APIで使う（ホスト型）か」です。結論を先に言うと、小さいモデルは手元（ローカル）で、メモリに載らない大きなモデルはホスト型APIで——という使い分けが実用的です。しかも両者は OpenAI互換なので、同じコードのまま切り替えられます。

小さいモデルはローカルで動かす（Ollama）

数B（数十億）パラメータ程度の小さなモデルなら、手元のPCで動かせます。定番ツールが Ollama です。macOS・Linux・Windows で動きます。

Linux ならインストールは一行です。

curl -fsSL https://ollama.com/install.sh | sh

（macOS・Windows は ollama.com からアプリをダウンロードします。）

小さなモデルを取得して起動します。

ollama run llama3.2

Ollama は OpenAI互換のAPIを http://localhost:11434/v1 に立てます。つまり、普段のコードからそのまま呼べます。

# ローカル（Ollama）— 小さいモデル
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "llama3.2", "messages": [{"role": "user", "content": "こんにちは"}]}'

小さいモデルは数GBのメモリで動き、オフラインで使え、データも手元から出ません。プロトタイプや、機微なデータの下処理に向いています。

大きなオープンモデルは「メモリの壁」にぶつかる

問題は、オープンモデルにも巨大なものが増えていることです。DeepSeek V4（総1.6兆）、Kimi K3（2.8兆）、Qwen3-Coder 480B、GLM-5.2 など、コーディングやエージェントで強力なモデルは、数千億〜数兆パラメータ級です。

これらを動かすには、数百GB規模のGPUメモリが必要になります。一般的なPC（メモリ16〜32GB、GPUメモリ8〜24GB程度）ではまったく載りません。「オープンモデルだから手元で動く」とは限らないのです。

大きいモデルはホスト型API（FastMetal）で

そこで、大きなオープンモデルは借りて使う——ホスト型APIの出番です。FastMetal なら、手元では動かせない大規模オープンモデルを、APIで呼べます。

しかも、Ollama と同じ OpenAI互換。先ほどのコードから base_url と model を変えるだけです。

# FastMetal — 大きなオープンモデル
curl https://api.fastmetal.ai/v1/chat/completions \
  -H "Authorization: Bearer $FASTMETAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-v4-pro", "messages": [{"role": "user", "content": "こんにちは"}]}'

model を差し替えれば、kimi-k3 や Qwen3-Coder-480B-A35B-Instruct-FP8、さらには Claude・GPT・Gemini といったフロンティアモデルにも同じコードで切り替えられます。

同じコードで使い分ける

両方が OpenAI互換なので、実装はほぼ共通です。**「小さいモデルはローカル、大きいモデルとフロンティアは FastMetal」**と、base_url を切り替えるだけで役割分担できます。

ローカル（Ollama）が向く — 小さいモデル、オフライン、データを外に出したくない下処理。
ホスト型（FastMetal）が向く — メモリに載らない大規模オープンモデル、最新のフロンティアモデル、インフラを持ちたくない場合。

コストとデータ

ローカルはGPUなどの固定費が中心、ホスト型は使った分の従量課金です。ホスト型の「請求が読めない」不安は、プリペイド型で解消できます。FastMetal は円建てのプリペイド課金で、残高の上限を超えた請求が発生しません。

まとめ

小さいモデルは Ollama で手元に、メモリに載らない大きなモデルは FastMetal で——OpenAI互換のおかげで、同じコードのまま両者を使い分けられます。まずは手元の小さいモデルで試し、大きなモデルが必要になったら base_url を FastMetal に向けるだけ。対応モデルはモデルカタログ、料金は料金ページでご確認ください。