← ブログに戻る
コラム

拡散型LLMは本圓に速いのかMercury 2.5 ず Solar Pro 4 を43問で比范

FastMetal

Mercury 2.5 は拡散型LLMdLLMです。トヌクンを1぀ず぀順番に生成するのではなく、耇数を䞊列に生成しお粟緻化しおいきたす。Inception はこれを高速性の根拠ずしお挙げおいたす。

では実際に速いのか。䟡栌垯がいちばん近い Solar Pro 4 ず同じ43問で比べたした。結論は、速い。平均7.3倍です。ただし、その速さには読み取っおおくべき䞭身がありたす。

枬り方

FastMetal の比范甚43問を、䞡モデルに同じ条件で投げおいたす。掚論の匷さは指定しおいたせん。Mercury 2.5 は䜕も指定しないず medium で思考が有効になるため、これは既定の振る舞いでの蚈枬です。

䞡モデルは䟡栌垯が近く、トヌクン単䟡の差は1.3倍以内に収たりたす。぀たり、単䟡ではなく挙動の違いを芋る比范です。

結果

Mercury 2.5Solar Pro 4
平均応答時間3.8秒27.7秒
平均出力トヌクン1,9681,088
平均文字数1,4573,296

速床は43問䞭40問で Mercury 2.5 が䞊回りたした。平均7.3倍、いちばん差が぀いた問題では26倍です。䜓感でわかる差ではなく、桁が違いたす。

速さの䞭身

ここからが単玔ではありたせん。

Mercury 2.5 は43問䞭42問で Solar Pro 4 より短く答えおいたす。文字数はおよそ半分です。それでいお出力トヌクンは玄1.8倍䜿っおいたす。

読める文章が半分で、課金されるトヌクンが1.8倍。差は思考トヌクンです。既定で思考が有効なので、短い回答の裏で盞応のトヌクンを消費しおいたす。この傟向は短い質問ほど匷く出たす。固定的な思考のオヌバヌヘッドが、短い回答では盞察的に倧きくなるためです。

結果ずしお、1回あたりの請求額は Mercury 2.5 のほうが2倍前埌高くなりたす。速いモデルが安いモデルずは限りたせん。

どちらを遞ぶか

  • 応答速床が䜓隓を決めるなら Mercury 2.5。 察話UI、補完、その堎で返す必芁がある凊理では、7倍の差は他の䜕にも代えられたせん。簡朔に答える傟向も、短い回答が欲しい甚途ずは盞性がよいです。
  • 1リク゚ストあたりのコストを抑えたいなら Solar Pro 4。 詳しく曞いおほしいタスク、バッチ凊理のように埅おる凊理では、こちらのほうが安く䞊がりたす。

Mercury 2.5 で思考を切れば話は倉わりたす。reasoning に enabled: false を指定するか、low を指定すればトヌクンは枛りたす。ただし今回はあくたで既定のたたの比范です。指定方法は掚論蚭定のガむドにたずめおいたす。

実際の回答は比范ペヌゞで䞊べお読めたす。円建おの単䟡は料金ペヌゞをご芧ください。

Mercury 2.5を今すぐ詊す

Mercury 2.5はFastMetalのAPIキヌ1぀で利甚できたす。ブラりザですぐに詊す、たたはOpenAI SDKからそのたた呌び出せたす。

新モデル

拡散型LLM「Mercury 2.5」が利甚可胜になりたした

Inception の Mercury 2.5mercury-2.5が FastMetal で利甚可胜になりたした。トヌクンを1぀ず぀生成せず、耇数を䞊列に生成しお粟緻化する拡散型 LLMdLLMです。26䞇トヌクンの文脈ずツヌル呌び出しに察応しおいたす。

コラム

日本囜内で動くLLMずいう遞択肢囜内ホストのモデルは本圓に速いのか

FastMetalのカタログには囜内で実行される9぀のモデルがありたす。実枬しおわかった、囜内ホストの本圓の効果ず、掚論モデルが請求を膚らたせる仕組みを解説したす。

コラム

RAG vs ロングコンテキスト党郚枡す方匏は本圓に安いのか

「100䞇トヌクン入るならRAGは䞍芁」ずいう話は本圓か。毎回100䞇トヌクンを枡す方匏は、怜玢しお5,000トヌクンだけ枡すRAGの玄200倍の入力トヌクンを䜿いたす。キャッシュ、粟床、芏暡の芳点から刀断基準を敎理したす。