日本国内で動くLLMという選択肢：国内ホストのモデルは本当に速いのか

「LLMのAPIを使いたいが、リクエストを海外に出したくない」という相談をよく受けます。金融、医療、自治体まわりの案件では、性能の前に置き場所が要件になることがあります。

FastMetalのカタログには、日本国内で実行されるモデルが9つあります。カタログ上は説明文が Japan: で始まるもので、残りは Global: です。この記事では、その9つが実際に何なのか、そして「国内だから速い」という直感がどこまで正しいのかを実測で確かめます。

国内で動く9モデルの内訳

3つの系統に分かれます。

japan- という接頭辞は「どこで動くか」を表していて、「誰が作ったか」ではありません。japan-kimi-k2.6 の中身はMoonshot AIのKimi K2.6で、モデルそのものは同じです。違うのは推論が走る場所だけです。

なお japan-kimi-k2.6 と kimi-k2.6 は別エントリとして両方存在します。前者が国内実行、後者が海外プロバイダ経由です。同じモデルを置き場所だけ変えて比べられる、という意味では分かりやすい構成になっています。

国内ホストは速いのか：実測してみた

ここが本題です。「国内で動くから速い」と言いたくなりますが、データはもう少し複雑なことを示しています。

FastMetalは公開している比較コーパスで、同じ日本語プロンプト20問を全モデルに投げた結果を持っています。出力1トークンあたりの所要時間（中央値）で並べ、国内・海外を混ぜて抜粋するとこうなります。

上位2つは確かに国内実行です。しかし同じく国内で動く anthropic-claude-sonnet-4-6 は23位で、海外の gemini-3.5-flash より遅い。国内の llm-jp-3.1 も海外の glm-5.2 に負けています。

正直に言うと、地理はレイテンシの支配的な要因ではありません。 モデルのサイズと、提供元の推論スタックのほうがはるかに効きます。日本とアメリカ西海岸の往復は物理的に100ミリ秒前後で、これは数秒から数十秒かかる生成時間の中では誤差に近い。

では国内ホストの意味はどこにあるのか。レイテンシではなく、データがどこで処理されるかを説明できること です。稟議や委託先の審査で問われるのはそこであって、200ミリ秒の差ではありません。速度が目的なら、国内かどうかではなくモデルを選び直すほうが効きます。

見落としやすい罠：推論トークンが請求を膨らませる

国内モデルを試すときに、最初につまずくのがここです。

「「こんにちは」とだけ返してください」という、どう考えても数トークンで済む質問を6モデルに投げて、課金対象の出力トークン数を測りました（2026年8月31日実測）。

同じ「こんにちは」を返させるのに、出力トークンは2から178まで、 89倍 の開きがあります。コストでは japan-kimi-k2.6 が japan-gemma-4-31b の約189倍です。

理由は単純で、6モデルのうち4つが推論モデルだからです。応答の前に考えた内容が reasoning_content に入り、それも出力トークンとして課金されます。japan-qwen3.6-35b は「こんにちは」と言うために653文字ぶん考えていました。

さらに厄介な挙動があります。同じテストを max_tokens: 24 で走らせると、推論モデル4つは 本文が空で返ってきました。 HTTPは200、課金は24トークン、content は null。思考の途中で上限に達して、本文を書き始める前に打ち切られたためです。

curl https://api.fastmetal.ai/v1/chat/completions \
  -H "Authorization: Bearer $FASTMETAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "japan-gemma-4-31b",
    "messages": [{"role": "user", "content": "こんにちは"}],
    "max_tokens": 600
  }'

実務上の対策は2つです。短い応答が欲しいだけなら推論モデルを選ばないこと。推論モデルを使うなら max_tokens を絞りすぎないことです。「安全のために小さくしておこう」が、払ったのに何も返ってこない状態を作ります。

用途で言えば、分類やタグ付けのような短い応答の量産には japan-gemma-4-31b が向きます。腰を据えて考えさせたいときに japan-kimi-k2.6、コード寄りの作業に japan-kimi-k2.7-code という使い分けです。

プレビュー枠であることは知っておいてください

さくらインターネット経由の4モデルはプレビュー提供です。実際、以前このカタログにあったQwen3-Coderの2エントリは予告なく提供終了になり、しばらく気づかれないままエラーを返し続けていました。

これは国内ホストに限った話ではなく、モデルカタログ全般に言えることです。特定のモデルIDを1つだけ決め打ちで本番に埋め込むのは避けて、フォールバック先を用意しておくのが安全です。この考え方はLLMルーターとはで詳しく書いています。

まとめ

• FastMetalのカタログには国内実行のモデルが9つあり、説明文の Japan: で見分けられます
• 国内ホストの価値はレイテンシではなく、処理される場所を説明できることにあります
• 推論モデルは短い応答でも出力トークンを大量に消費します。同じ一言でコストが189倍変わりました
• max_tokens を絞りすぎると、課金だけされて本文が返らないことがあります

現在提供中のモデルと料金は /models と /pricing で確認できます。1つのAPIキーで国内モデルも海外モデルも同じ形式で呼べるので、要件が変わったときにモデルIDを差し替えるだけで移せます。