拡散型LLM「Mercury 2.5」が利用可能になりました
Inception の Mercury 2.5(mercury-2.5)が FastMetal で利用可能になりました。トークンを先頭から1つずつ生成していく一般的な LLM とは異なり、複数のトークンを並列に生成して精緻化していく**拡散型 LLM(dLLM)**です。Inception はこの構造を、同社が「最も速い推論モデル」と位置づける根拠として挙げています。
特徴
- 並列生成 — 画像生成で使われてきた拡散モデルの手法を言語モデルに応用し、逐次生成ではなく複数トークンを同時に生成・修正します。アーキテクチャそのものが一般的な Transformer 系の自己回帰モデルと異なります。
- 26万トークンの文脈 — 文脈長は 260,000 トークン、出力は最大 65,536 トークンです。
- 推論レベルを指定可能 —
none/low/medium/highから選べます。未指定のときはmediumで推論が有効になります。 - ツール呼び出しに対応 — function calling と JSON スキーマ出力に対応しています。FastMetal 経由で実際に動作を確認しています。
- 入出力はテキストのみで、画像入力には対応していません。
使い方
curl https://api.fastmetal.ai/v1/chat/completions \
-H "Authorization: Bearer $FASTMETAL_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "mercury-2.5",
"messages": [{"role": "user", "content": "こんにちは"}],
"reasoning": {"effort": "low"}
}'
モデル名を差し替えるだけで、いつもの OpenAI 互換のリクエストがそのまま使えます。
推論トークンの扱いにご注意ください
Mercury 2.5 は何も指定しないと推論が有効になり、推論に使われたトークンは出力トークンとして課金されます。ここで注意したいのが max_tokens との関係です。
max_tokens を小さくして試すと、その枠を推論だけで使い切ってしまい、本文が空のまま返ってくることがあります。実際に max_tokens を 16 にして試したところ、推論トークンだけで上限に達し、応答本文は空になりました。「モデルが壊れている」ように見えますが、指定どおりの動作です。
単純な変換や分類のように思考の必要がない用途では、明示的に推論を切るか、いちばん低いレベルを指定してください。
{ "reasoning": { "enabled": false } }
FastMetal のチャット画面では、いちばん安い推論レベルが既定で選ばれ、思考のオン・オフも切り替えられます。API から直接呼び出す場合の指定方法は推論設定のガイドにまとめています。
あわせて追加したモデル
Nex AGI の Nex-N2.5-Mini(nex-n2.5-mini-free)も追加しました。コードベースの探索や複数ファイルの修正といったエージェント的な用途に向けたモデルで、文脈長は 262,144 トークンです。無料でお試しいただけます(無料モデルには利用頻度の上限があります)。
料金と一覧
円建ての入力・出力トークン単価は料金ページとMercury 2.5 のモデルページでご確認ください。前払いの残高から使った分だけ引かれ、残高を超える請求は発生しません。対応モデルの一覧はモデルカタログにあります。