AIゲートウェイとは？仕組み・主な機能・日本での選び方をわかりやすく解説

この記事の要点

• AIゲートウェイは、アプリと複数社のAIモデルのあいだに置き、APIキー、エンドポイント、請求をひとつにまとめる中間層です。
• 主な機能は、共通のAPI、ルーティングとフォールバック、予算の上限、利用状況の可視化、請求の一本化です。
• 種類はセルフホスト型、インフラ型、マネージド型の3つに分かれます。
• 日本で選ぶときは、円建て、適格請求書、上限の効き方、国内で推論するモデル、コーディングエージェントへの対応の5点を確かめます。

AIゲートウェイとは、アプリやコーディングエージェントと、複数社のAIモデル（LLMや画像・動画の生成モデル）とのあいだに立ち、APIキー、呼び出し口、請求をひとつにまとめる中間層です。アプリはゲートウェイのエンドポイントだけを呼び、どの会社のどのモデルを使うかは model の値で指定します。

英語では AI gateway や LLM gateway と呼ばれ、日本語でも「LLMゲートウェイ」「LLMプロキシ」と書かれることがあります。指しているものはほぼ同じです。

AIゲートウェイの仕組み

ゲートウェイがない場合とある場合

ゲートウェイを使わない場合と使う場合を並べると、役割がはっきりします。

使うモデルが1つだけなら、ゲートウェイがなくても困ることはあまりありません。2社目のモデルを試したくなった時点で、表の左側の手間が一気に増えます。

なぜ今、AIゲートウェイが必要とされるのか

LLMの世界では、用途ごとに最適なモデルが数か月単位で入れ替わります。今月はClaude、来月は新しいオープンモデル、という乗り換えも珍しくありません。モデルごとに直接契約していると、乗り換えのたびに次の作業が発生します。

• アカウントの作成と支払い方法の登録（海外のサービスは、多くがドル建てのカード払いです）
• SDKの追加と、リクエスト形式の違いへの対応
• APIキーの発行と、社内での保管
• 会社ごとに分かれた請求の集計

加えて、Claude CodeやCodexのようなコーディングエージェントが広まり、1人の開発者が作業ごとにモデルを使い分ける場面が増えています。AIゲートウェイは、こうした手間を一度で済ませるための仕組みです。乗り換えのコストが下がれば、モデル選びは「一度決めたら動かせないもの」から「用途ごとに試して選ぶもの」に変わります。APIでLLMを呼び出す基本は、LLM APIとはで解説しています。

AIゲートウェイとAPIゲートウェイの違い

名前が似ているため混同されやすいのが、APIゲートウェイです。APIゲートウェイは、自社のAPIやマイクロサービスの前段に置き、認証、流量制限、パスに応じた振り分けを担う仕組みとして以前から使われてきました。AIゲートウェイは、その考え方をAIモデルの呼び出し向けに作り直したものと言えます。

いちばん大きな違いは、コストの読みにくさです。同じエンドポイントへの1回の呼び出しでも、長いプロンプトに長い出力が返れば費用は跳ね上がります。エージェントは呼び出しのたびにそれまでの文脈を送り直すため、入力トークンが費用の大半を占めます。1回に送れる量の上限は、モデルごとのコンテキストウィンドウで決まります。こうした事情から、AIゲートウェイには金額で上限をかける仕組みが求められます。

AIゲートウェイの主な機能

製品によって範囲は違いますが、代表的な機能は次のとおりです。

1つのAPIキーと1つのエンドポイント

ゲートウェイの土台です。アプリが持つのはゲートウェイのAPIキーとエンドポイントだけになり、各社のキーはゲートウェイの側で管理されます。テキスト生成に加えて、画像や動画の生成を同じキーで呼べる製品もあります。RAGのように検索と回答の生成を組み合わせる処理では、埋め込みを手元のモデルなどで作り、回答の生成をゲートウェイ経由で呼ぶ構成が取れます。呼べるモデルは製品ごとに違うため、LLMの比較・一覧のような対応モデルの一覧で、コンテキスト長や対応機能とあわせて確認します。

OpenAI互換とAnthropic互換

複数社のモデルを、1つのリクエスト形式で呼べるようにする機能です。事実上の標準はOpenAIのChat Completions形式で、OpenAIのSDKや対応ツールは、ベースURLとAPIキーを差し替えるだけでゲートウェイにつながります。仕組みはOpenAI互換APIとはで詳しく解説しています。ストリーミング、ツール呼び出し（function calling）、構造化出力まで共通の形式で扱えるかどうかは、エージェントを作るときの分かれ目になります。

もう1つ確かめておきたいのが、Anthropic互換のエンドポイントです。Claude CodeはAnthropicのMessages API形式で通信するため、OpenAI互換の形式しか持たないゲートウェイにはそのままつながりません。両方の形式を持つゲートウェイなら、Claude Codeの中でGLMやDeepSeek、Kimiといった他社のモデルを動かすこともできます。

ルーティングとフォールバック

リクエストをどのモデル、どの提供元に送るかを決め、失敗したときは別の候補に切り替える機能です。条件に合わせて自動でモデルを選ぶ部分は「LLMルーター」とも呼ばれます。モデルの選択、提供元の選択、フォールバックの3層に分けた整理は、LLMルーターとはにまとめています。

予算の上限とキーごとの管理

APIキーを用途やチームごとに発行し、キーごとに使える金額を決める機能です。製品による差がいちばん大きい部分で、上限の性質は2つに分かれます。

• 後払い型：使った分があとから請求されます。上限は通知（アラート）であることが多く、超えた利用まで止めるとは限りません。
• 前払い型：チャージした残高がそのまま上限になります。残高を使い切るとリクエストは拒否されるため、想定を超える請求が仕組みのうえで起きません。

両者の違いはプリペイド型API入門で詳しく解説しています。

利用状況の可視化

どのキーが、どのモデルに、いくら使ったかを1か所で確認できる機能です。複数社と直接契約していると、この集計だけで毎月手間がかかります。残高が減ったときにメールで知らせてくれる製品なら、APIが急に止まる事態も防げます。

請求の一本化

マネージド型のゲートウェイでは、複数社の利用料が事業者からの1つの請求にまとまり、契約先も1社で済みます。日本の企業にとっては、その請求が円建てか、適格請求書として経理処理できるかが大切になります。この点は、後半の確認点で詳しく扱います。

AIゲートウェイの3つの種類

AIゲートウェイは、誰が運用し、誰がモデルの提供元と契約するかによって3つに分けられます。

セルフホスト型：オープンソースのプロキシを自社で動かす

オープンソースで公開されているゲートウェイのソフトウェアを、自社のサーバーやクラウドで動かす形です。データの経路を自社で管理でき、設定も自由に変えられます。その反面、各提供元との契約、APIキー、支払いはすべて自社で持つことになり、サーバーの運用や更新の手間もかかります。請求は提供元ごとに分かれたままです。

インフラ型：CDNやAPI管理の事業者が提供する統制レイヤー

CDN（コンテンツ配信網）やAPI管理の製品を提供する事業者が、その機能の一部としてAIゲートウェイを用意している形です。既存のネットワークやAPI基盤の上に、ログ、キャッシュ、流量制限、キーの管理といった統制の層を加えられます。主な役割はガバナンスで、モデルの利用料は自社で各提供元と契約して払う形が中心です。すでにその事業者の基盤を使っている企業にとっては、導入しやすい選択肢です。

マネージド型：モデルの利用権をまとめて提供する

事業者がモデルの提供元と契約し、その利用権をまとめて提供する形です。利用者は事業者のアカウント1つで多数のモデルを呼び出せ、支払い先も1社で済みます。サーバーの運用も要りません。海外には米ドル建てでクレジットを買う方式の事業者があり、FastMetalは円建てで請求する日本の事業者です。海外の代表的なマネージド型の仕組みは、海外の代表的なAIゲートウェイの解説で整理しています。

複数社との契約や支払いをまとめたいならマネージド型、契約は自社で持ちつつ経路だけを一本化したいならセルフホスト型かインフラ型、というのが大まかな分かれ目です。

日本でAIゲートウェイを選ぶときの5つの確認点

機能が足りていても、日本の開発者や企業が実際に導入する段階では、支払いと経理、データの所在で手が止まることがよくあります。次の5点を確かめておくと、判断しやすくなります。

円建てで払えるか

ドル建ての請求では、為替レートによって支払額が月ごとに変わり、カード会社の海外事務手数料も上乗せされます。円建てなら、チャージした金額がそのまま予算になり、稟議や予算管理も円のまま進められます。ドル建てのゲートウェイにかかる実質コストの計算方法はドル建てゲートウェイの料金と手数料で、円建てを選ぶ理由は円建てLLM APIという選択肢で解説しています。

適格請求書（インボイス）が出るか

消費税の仕入税額控除を受けるには、登録番号が記載された適格請求書が必要です。AnthropicやOpenAIは適格請求書発行事業者として登録し、日本の利用者に消費税を請求していますが、モデルの提供元には日本で登録していない会社もあります。ゲートウェイを通せば、どの会社のモデルを使っても、請求書はゲートウェイの事業者が発行する1通にまとまります。提供元ごとの確認方法はOpenAIのインボイスとClaudeのインボイスを、登録番号の照合には国税庁の適格請求書発行事業者公表サイトをご利用ください。

上限で確実に止まるか

予算の上限が「止まる」のか「通知されるだけ」なのかを確認します。後払い型では、上限を超えた分まで請求されることがあります。前払い型なら、残高を使い切った時点でリクエストが拒否されるため、残高を超える請求は起きません。エージェントを夜間に動かしたままにする使い方では、この差がそのまま安心感の差になります。

日本国内で推論するモデルがあるか

社内規程や取引先との契約で、データを国外に出さないよう求められることがあります。ゲートウェイの窓口が国内にあっても、モデルの推論が海外で行われれば、データは国外に出ます。確かめるべきは、どのモデルがどこで推論されるかです。国内で動くモデルの実測は、日本国内で動くLLMという選択肢にまとめています。

コーディングエージェントで使えるか

コーディングエージェントのモデル提供元としてゲートウェイを使うなら、次の3点を確認します。

• Claude Code向けに、Anthropic互換のエンドポイントがあるか
• Codex、Cline、GitHub Copilotなどで、OpenAI互換の設定から使えるか
• 無料モデルや無料枠に、1日あたりのリクエスト上限がないか

エージェントは1つの作業でモデルを数十回から数百回呼び出すため、1日のリクエスト数に上限がある無料モデルでは作業の途中で止まります。具体例は海外ゲートウェイの無料モデルの制限で取り上げています。

費用は、定額プランとAPIの従量課金のどちらで払うかが最初の判断です。Claude Codeの料金、Codexの料金、Clineの料金で整理しました。APIキーでClaude Codeを動かす設定は、Claude CodeをAPIキーで使う方法をご覧ください。

国内で使える選択肢を比べるときは、この5つの観点を各社の公開情報に1つずつ当てはめてみてください。

FastMetalのAIゲートウェイ

FastMetalは、株式会社国際調達情報が運営する日本のマネージド型AIゲートウェイです。25のプロバイダーが提供する95以上のLLM・生成AIモデルを、1つのAPIキーと、OpenAI互換・Anthropic互換のAPIで呼び出せます。先ほどの確認点に沿って並べると、次のとおりです。

Anthropicのモデルも、OpenAIのモデルやDeepSeekのモデルも、同じキーと同じ残高で呼び出せます。Claudeを使う場合の料金の考え方はClaude APIの料金で解説しています。モデルごとの円建ての単価は料金ページで公開しています。

すでに海外のゲートウェイを使っている場合は、海外ゲートウェイとFastMetalの比較と、モデルIDの対応表つきの移行ガイドをご覧ください。

実際に呼び出してみる

ゲートウェイの便利さは、model の値だけを変えてみるとすぐにわかります。

curl https://api.fastmetal.ai/v1/chat/completions \
  -H "Authorization: Bearer $FASTMETAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic-claude-opus-5",
    "messages": [{"role": "user", "content": "AIゲートウェイを一文で説明してください"}]
  }'

model を glm-5.2 や deepseek-v4-pro に変えれば、別の会社のモデルに切り替わります。キーも請求先もコードも、そのままです。OpenAIのPython SDKからは、base_url を差し替えるだけで使えます。

from openai import OpenAI

client = OpenAI(base_url="https://api.fastmetal.ai/v1", api_key="sk-...")

for model in ["anthropic-claude-opus-5", "glm-5.2", "auto"]:
    res = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": "AIゲートウェイを一文で説明してください"}],
    )
    print(model, res.choices[0].message.content)

Claude Codeは、次の環境変数でFastMetalにつながります。ANTHROPIC_MODEL には、カタログにあるどのモデルでも指定できます。

export ANTHROPIC_BASE_URL="https://api.fastmetal.ai"
export ANTHROPIC_AUTH_TOKEN="$FASTMETAL_API_KEY"
export ANTHROPIC_MODEL="glm-5.2"

キーは ANTHROPIC_AUTH_TOKEN に設定し、ベースURLは末尾に /v1 を付けずに指定します。詳しい手順はClaude Codeの設定ガイドとAPIの始め方にまとめています。

よくある質問

AIゲートウェイとLLMゲートウェイは同じものですか

ほぼ同じものを指します。英語ではAI gatewayとLLM gatewayの両方の呼び方があり、LLMプロキシと呼ばれることもあります。画像や動画の生成モデルまで扱う製品が増えたこともあり、日本語ではAIゲートウェイという呼び方が広がっています。

AIゲートウェイを経由すると料金は高くなりますか

製品によります。トークン単価に手数料を上乗せする方式や、クレジットの購入時に手数料を取る方式があります。一方で、用途ごとに安いモデルへ切り替えやすくなるため、合計額はかえって下がることもあります。FastMetalには月額料金、最低利用額、クレジット購入時の手数料がなく、モデルごとの単価を料金ページで公開しています。

既存のコードは書き換えが必要ですか

OpenAI互換のゲートウェイなら、多くの場合はベースURLとAPIキーを変えるだけで動きます。Claude CodeのようにAnthropicの形式で通信するツールでは、Anthropic互換のエンドポイントを持つゲートウェイを選んでください。FastMetalは両方の形式に対応しています。

送ったデータはモデルの学習に使われますか

FastMetalがお客様のデータをモデルの学習に使うことはありません。リクエストは各モデルの提供元に中継され、提供元の側ではその会社のポリシーが適用されます。機密性の高いデータを扱う場合は、事前にFastMetalへご相談ください。

無料で試せますか

アカウントの作成は無料です。登録時に無料クレジットは付きませんが、gemini-flash-lite-freeなどの無料モデルは¥0で使えます。有料のモデルを使うときは、カードまたは銀行振込で¥500からクレジットを購入します。

まとめ

AIゲートウェイは、複数のAIモデルを1つのAPIキー、1つのエンドポイント、1つの請求にまとめる中間層です。モデルの乗り換えにかかる手間を減らし、予算の上限とフォールバックで運用を安定させます。種類はセルフホスト型、インフラ型、マネージド型の3つです。日本で選ぶなら、円建ての支払い、適格請求書、上限の効き方、国内で推論するモデル、コーディングエージェントへの対応を確かめるのが近道です。

FastMetalを試す

95以上のモデルを1つのAPIキーで、円建ての前払いと適格請求書つきで使えます。アカウントの作成は無料です。

無料でアカウントを作成 ｜ 料金を見る

参考リンク

• Anthropic：日本の顧客向け消費税（JCT）に関するお知らせ
• 国税庁：適格請求書発行事業者公表サイト