Inkling が利用可能になりました
FastMetal
Thinking Machines Lab の Inkling（inkling）が FastMetal で利用可能になりました。オープンウェイトのマルチモーダル Mixture-of-Experts（MoE）モデルです。
特徴
- MoE 構成 — 総パラメータ 975B に対し、推論ごとに使われるアクティブパラメータは 41B です。規模の大きさをそのまま計算コストにしない構造です。
- オープンウェイト — 重みが公開されているモデルです。
- 音声・画像を入力できる — テキストに加えて画像と音声を受け取れます。音声入力に対応するモデルは FastMetal でもまだ多くありません。
- 約52万トークンの文脈 — 汎用的な推論、コーディング、ツール利用を伴うエージェント用途を想定した設計とされています。
使い方
curl https://api.fastmetal.ai/v1/chat/completions \
-H "Authorization: Bearer $FASTMETAL_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "inkling",
"messages": [{"role": "user", "content": "こんにちは"}]
}'
比較的新しい提供元のモデルです。本番に組み込む前に、実際のプロンプトで日本語の品質と応答の安定性を確かめることをおすすめします。