文章ではなく判定を返すAI「JEV 1.13」が利用可能になりました
TypeSafe AI の JEV 1.13(typesafe/jev-1.13)が FastMetal で利用可能になりました。文章を生成するLLMとは違い、判定したい状況と質問を渡すと、型の決まった値と確率だけを返すモデルです。TypeSafe AI はこれを「システム1モデル」と呼んでいます。
FastMetal では1回あたりの定額で、他のモデルと同じAPIキーと残高から利用できます。単価は料金ページで確認できます。
特徴
- 3種類の質問:選択肢から1つ選ぶ
choice、はいである確率を返すnoul、段階で採点するscore。1回のリクエストに混在させられます。 - 確率つきの回答:選択肢ごとの確率と確信度が返ります。判断が割れる入力では、確信度の低さとしてそれが見えます。
- 速い:TypeSafe AI は応答時間を70〜500ミリ秒としています。FastMetal 経由で日本語の問い合わせに3つの質問を投げたところ、ゲートウェイを含めて0.26〜0.57秒でした。
- 文章は書けません:チャットや要約、理由の説明には使えません。分類、振り分け、ガードレールのように、答えの形が先に決まっている処理のためのモデルです。
使い方
JEV はチャット補完のAPIではなく、専用のエンドポイントで呼び出します。
curl https://api.fastmetal.ai/v1/decisions/jev-1-13 \
-X POST \
-H "Authorization: Bearer $FASTMETAL_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"state": "お客様からの連絡: 注文した商品が届きません。返金してほしいです。",
"questions": {
"intent": {
"type": "choice",
"instructions": "お客様が求めていることは何か",
"criteria": {"refund": "返金を求めている", "track_order": "配送状況を知りたい", "other": "それ以外"}
},
"is_urgent": {
"type": "noul",
"instructions": "至急の対応が必要か",
"criteria": {"true": "期限が迫っている", "false": "急ぎではない"}
}
}
}'
回答は questions と同じキーで返ります。intent には選ばれた選択肢と選択肢ごとの確率、is_urgent には「はい」である確率が入ります。
料金と上限
| 項目 | 内容 |
|---|---|
| 料金 | 1回あたりの定額(受理されたリクエストのみ) |
| リクエスト本文 | 8KBまで |
| 質問数 | 1回16件まで |
| コンテキスト | 32,000トークン |
TypeSafe AI 自体は入力トークンに応じて課金し、出力は課金対象外としています。FastMetal ではこれを、本文の上限を固定したうえで1回あたりの定額にしました。本文の長さや質問の数で金額は変わらず、拒否されたリクエストは課金されません。前払いの残高から使った分だけ引かれるのは、他のモデルと同じです。
もっと詳しく
- システム1モデルという考え方や、LLMとの使い分けはシステム1モデルとは何かで解説しています。
- リクエストの形式と制限の詳細は構造化判定(Decisions)のドキュメントにあります。
- 料金は料金ページでもご確認いただけます。