モデル一覧に戻る
meta-llama logoMeta
llama-3.2-3b-instruct

Llama 3.2 3B Instruct

Llama 3.2 3Bは、30億のパラメータを持つ多言語大規模言語モデルで、対話生成、推論、要約などの高度な自然言語処理タスク向けに最適化されています。最新のトランスフォーマーアーキテクチャで設計され、英語、スペイン語、ヒンディー語を含む8つの言語をサポートしており、追加言語にも対応可能です。 9兆トークンで学習されたLlama 3.2 3Bモデルは、指示への従従性、複雑な推論、ツール使用に優れています。バランスの取れたパフォーマンスにより、多言語設定でのテキスト生成における精度と効率を必要とするアプリケーションに最適です。 [オリジナルモデルカード](https://github.com/meta-llama/llama-models/blob/main/models/llama3_2/MODEL_CARD.md)はこちらをクリックしてください。 このモデルの使用は、[Metaの利用可能ポリシー](https://www.llama.com/llama3/use-policy/)の対象となります。

2024/9/25
131,072 トークン
入力: ¥9.096/M
出力: ¥59.87/M

仕様

モダリティ

入力
text
出力
text

サポートされているパラメータ

frequency_penalty
logit_bias
max_tokens
min_p
presence_penalty
repetition_penalty
response_format
seed
stop
temperature
top_k
top_p

最大出力トークン

16,384

データの取り扱い

プロンプトの保持
保持されません(実行先はすべてゼロ保持設定)
学習への利用
学習には利用されません

学習の可否は提供元との条件に基づく申告値です。保持の可否は、このモデルが到達しうる実行先すべてについて上流が公表する一覧から判定しています。いずれも推測は含みません。

実測パフォーマンス

応答開始 (p50)3.5s
生成速度 (p50)100000 トークン/秒

    FastMetalのゲートウェイ経由で実測した値です(直近30日・応答開始659回)。

    生成速度は1日1回の計測で、直近30日・27回分の中央値です。

    応答開始は最初の応答が返るまで、生成速度は思考トークンを含む出力トークン数から算出しています。実測値であり、性能を保証するものではありません。

    コード例

    curl https://api.fastmetal.ai/v1/chat/completions \
      -H "Content-Type: application/json" \
      -H "Authorization: Bearer YOUR_API_KEY" \
      -d '{
        "model": "llama-3.2-3b-instruct",
        "messages": [{"role": "user", "content": "Hello!"}]
      }'

    Llama 3.2 3B Instructの実際の回答

    FastMetal上で実際に記録した、標準プロンプトへの回答です。

    このエラーをデバッグして

    以下のエラーがPythonアプリケーションで発生しています。原因を特定して修正してください。 Traceback (most recent call last): File "app.py", line 23, in get_user_orders total = sum(order["price"] * order["quantity"] for order in orders) TypeError: unsupport…

    エラーは、`order["price"]` と `order["quantity"]` が文字列 (`str`) であるため、Python では整数乗算を実行しようとしているためです。これは、データベースから取得したデータが整数ではない可能性が高いです。 この問題を解決するには、`order["price"]` と `order["quantity"]` を整数に変換する必要があります。`db.query()` は結果から文字列を取り出しているため、整数に変換する必要があります。 修正されたコード: ```python def get_user_orders(user_id): orders = db.query("SELECT price, quantity FROM orders WHERE user_id = %s", user_id) total = sum(int(order["price"]) * int(order["quantity"]) for order in orders) return {"user_id": user_id, "total": total, "orders": orders} ``` または、SQLから整数を直接取得する方法を使用することもできます。 ```python def get_user_orders(user_id): orders = db.query("SELECT price, quantity FROM orders WHERE user_id = %s", user_id)…
    応答時間 3.1秒出力 363 トークン

    コードレビュー

    以下のTypeScript関数をレビューして、可読性・パフォーマンス・ベストプラクティスの観点から改善点を提案してください。 async function fetchAllUsers(page: number = 1): Promise<any[]> { let allUsers: any[] = []; let hasMore = true; let currentPage = page; while (hasMo…

    このTypeScript関数は、APIからユーザー情報を取得するためのリクエストを送って、受け取ったデータを処理して、ユーザー情報の配列を返します。以下は、可読性、パフォーマンス、ベストプラクティスを考慮して改善するための提案です。 ```typescript /** * ユーザー情報をAPIから取得し、処理して返します。 * * @param {number} page - ページ番号 (デフォルト: 1) * @returns {Promise<any[]>} ユーザー情報の配列 */ async function fetchAllUsers(page: number = 1): Promise<any[]> { const initialState: { users: any[]; hasMore: boolean; currentPage: number } = { users: [], hasMore: true, currentPage: page, }; let response; let data; do { response = await fetch(`/api/users?page=${initialState.currentPage}&limit=100`); data = await response.json(); initialState.users = data.users.filter( (user) => user.status !== "de…
    応答時間 5.3秒出力 680 トークン

    SQLクエリの最適化

    以下のSQLクエリは500万行のテーブルに対して実行すると30秒以上かかります。最適化してください。 SELECT p.product_name, c.category_name, COUNT(o.order_id) as order_count, SUM(o.amount) as total_sales, AVG(r.rating) as avg_rating FROM products p LEFT JOIN…

    以下は、指定されたSQLクエリを最適化するための beberapa点の改善方法を示します。 **1. WHERE句の条件を改善する** WHERE句では、`o.created_at >= '2024-04-01'` という条件が使用されていますが、これは範囲を絞る必要がある場合があります。クエリが 500万行以上を処理するため、範囲を絞ることは重要です。 ```sql WHERE p.is_active = true AND o.created_at >= '2024-04-01' AND o.status = '完了' ``` **2. JOIN句の条件を改善する** JOIN句では、`LEFT JOIN` は、未マッチするレコードに対して NULL の値が return されますが、JOIN句で NULL の値を使用することは不可能です。つまり、JOIN句を使用する場合、未マッチするレコードを除外する必要があります。 ```sql SELECT p.product_name, c.category_name, COUNT(DISTINCT o.order_id) as order_count, SUM(o.amount) as total_sales, AVG(r.rating) as avg_rating FROM products p LEFT JOIN categories c ON c.id = p.category_id LEFT JOIN order_details od ON od.product_id = p.id…
    応答時間 9.1秒出力 914 トークン

    他のモデルと並べて比較する →

    よくある質問

    Llama 3.2 3B InstructのAPI料金はいくらですか?
    FastMetalでは100万トークンあたり入力¥9.1・出力¥59.87(税別)の円建て従量課金です。前払いクレジットから使った分だけ差し引かれ、月額料金やサブスクリプションはありません。
    Llama 3.2 3B InstructはOpenAI SDKからそのまま使えますか?
    はい。base_url を https://api.fastmetal.ai/v1 に変更し、model に "llama-3.2-3b-instruct" を指定するだけで、既存のOpenAI向けコードから呼び出せます。ストリーミング、ツール呼び出し、構造化出力にも対応しています。
    Llama 3.2 3B Instructのコンテキスト長はどのくらいですか?
    131,072トークンです。プロンプトと回答を合わせてこの範囲に収める必要があります。
    Llama 3.2 3B Instructを試すには何が必要ですか?
    アカウントを作成してクレジットをチャージすると、ブラウザのチャット画面とAPIの両方から利用できます。契約や最低利用額はありません。

    Llama 3.2 3B Instructを今すぐ試す

    Llama 3.2 3B InstructはFastMetalのAPIキー1つで利用できます。ブラウザですぐに試す、またはOpenAI SDKからそのまま呼び出せます。