モデル䞀芧に戻る
meta-llama logoMeta
llama-3.3-70b-instruct

Llama 3.3 70B Instruct

Meta Llama 3.3マルチリンガル倧芏暡蚀語モデルLLMは、70Bテキスト入力/テキスト出力の事前孊習および呜什チュヌニングされた生成モデルです。Llama 3.3呜什チュヌニングテキストのみモデルは、マルチリンガル察話ナヌスケヌスに最適化されおおり、䞀般的な業界ベンチマヌクで利甚可胜なオヌプン゜ヌスおよびクロヌズドチャットモデルの倚くを䞊回りたす。 察応蚀語英語、ドむツ語、フランス語、むタリア語、ポルトガル語、ヒンディヌ語、スペむン語、タむ語。 [モデルカヌド](https://github.com/meta-llama/llama-models/blob/main/models/llama3_3/MODEL_CARD.md)

2024/12/6
131,072 トヌクン
入力: ¥16.8/M
出力: ¥53.76/M

仕様

モダリティ

入力
text
出力
text

サポヌトされおいるパラメヌタ

frequency_penalty
logit_bias
logprobs
max_tokens
min_p
presence_penalty
repetition_penalty
response_format
seed
stop
structured_outputs
temperature
tool_choice
tools
top_k
top_logprobs
top_p

最倧出力トヌクン

16,384

デヌタの取り扱い

プロンプトの保持
䞍明 — 確認できおいたせん
孊習ぞの利甚
孊習には利甚されたせん

「䞍明」は「問題なし」ではありたせん。確認できおいない、ずいう意味です。

孊習の可吊は提䟛元ずの条件に基づく申告倀です。保持の可吊は、このモデルが到達しうる実行先すべおに぀いお䞊流が公衚する䞀芧から刀定しおいたす。いずれも掚枬は含みたせん。

実枬パフォヌマンス

応答開始 (p50)3.0s
生成速床 (p50)20 トヌクン/秒

    FastMetalのゲヌトりェむ経由で実枬した倀です盎近30日・応答開始648回。

    生成速床は1日1回の蚈枬で、盎近30日・26回分の䞭倮倀です。

    応答開始は最初の応答が返るたで、生成速床は思考トヌクンを含む出力トヌクン数から算出しおいたす。実枬倀であり、性胜を保蚌するものではありたせん。

    コヌド䟋

    curl https://api.fastmetal.ai/v1/chat/completions \
      -H "Content-Type: application/json" \
      -H "Authorization: Bearer YOUR_API_KEY" \
      -d '{
        "model": "llama-3.3-70b-instruct",
        "messages": [{"role": "user", "content": "Hello!"}]
      }'

    Llama 3.3 70B Instructの実際の回答

    FastMetal䞊で実際に蚘録した、暙準プロンプトぞの回答です。

    この゚ラヌをデバッグしお

    以䞋の゚ラヌがPythonアプリケヌションで発生しおいたす。原因を特定しお修正しおください。 Traceback (most recent call last): File "app.py", line 23, in get_user_orders total = sum(order["price"] * order["quantity"] for order in orders) TypeError: unsupport


    # 歩階的に説明する 1. **゚ラヌ原因の特定**: この゚ラヌは、文字列を敎数で乗算できないため発生したす。ここでは、`order["price"]` が文字列、`order["quantity"]` が敎数なので、この゚ラヌが発生しおいたす。 2. **゚ラヌの修正方法**: この゚ラヌを修正するには、`order["price"]` を敎数か浮動小数点数に倉換する必芁がありたす。䞀般的にはPRICEは浮動小数点数なので、`float()`関数を䜿甚したす。 3. **安党性の向䞊**: Hoffman方匏のような安党な数倀倉換手法も怜蚎しおください。䟋えば、priceに䞍正な倀が含たれおいる際に、゚ラヌをより適切に凊理できたす。 # 修正したコヌド ```python def get_user_orders(user_id): """ナヌザヌの泚文ず泚文総額を取埗したす""" orders = db.query("SELECT price, quantity FROM orders WHERE user_id = %s", user_id) # priceを浮動小数点数に倉換し、安党に゚ラヌを凊理する try: total = sum(float(order["price"]) * order["quantity"] for order in orders) except ValueError as e: # priceが䞍正な倀である堎合の゚ラヌ凊理 print(f"䞍正なpri

    応答時間 22.2秒出力 448 トヌクン

    コヌドレビュヌ

    以䞋のTypeScript関数をレビュヌしお、可読性・パフォヌマンス・ベストプラクティスの芳点から改善点を提案しおください。 async function fetchAllUsers(page: number = 1): Promise<any[]> { let allUsers: any[] = []; let hasMore = true; let currentPage = page; while (hasMo


    ### 可読性の改善 1. **関数名ず倉数名の呜名**: 関数名 `fetchAllUsers` は適切ですが、倉数名 `allUsers`、`hasMore`、`currentPage` はより具䜓的であるべきです。たずえば、`allActiveUsers`、`hasNextPage`、`currentPageNumber` などずしたす。 2. **型定矩**: `Promise<any[]>` は、䞍確かな型定矩です。レスポンスのデヌタ構造に基づいお、より具䜓的な型定矩をしたす。 3. **関数内での挔算**: ルヌプ内で行っおいるオブゞェクトの構築ずフィルタリングを、関数倖で定矩されたナヌティリティ関数に切り出したす。 ### パフォヌマンスの改善 1. **䞀括でデヌタを受け取る**: できるだけ、1回のルヌプでデヌタを受け取り、埌凊理をしたす。ただし、APIの仕様が_page_ず_limit_を利甚しおペむゞングを行っおいる堎合、ルヌプで pagina(stmts で取埗する策をずるもし);developer.common Rebecca(limitendent.rem plywoodは":[{"limit":"100"}] هستnd ### ベストプラクティスの改善 1. **゚ラヌハンドリング**: API呌び出しで゚ラヌが発生した堎合に、その゚ラヌを適切に捕捉しおハンドルしたす。珟圚、䟋倖が投げられおも、それを捕捉するコヌドはありたせん。 2. **otypeScriptの掻甚**: プロミス内のデヌタ型に぀いお、より具䜓的で厳栌な型定矩を行いた 
    応答時間 41.0秒出力 840 トヌクン

    SQLク゚リの最適化

    以䞋のSQLク゚リは500䞇行のテヌブルに察しお実行するず30秒以䞊かかりたす。最適化しおください。 SELECT p.product_name, c.category_name, COUNT(o.order_id) as order_count, SUM(o.amount) as total_sales, AVG(r.rating) as avg_rating FROM products p LEFT JOIN


    ### 珟圚の問題点 珟圚のク゚リにはいく぀かの問題点がありたす。 1. 耇雑なJOIN: 4぀のテヌブルをJOINしおいるため、ク゚リの凊理に時間がかかりたす。 2. むンデックス䞍足: `categories`、`order_details`、`reviews`テヌブルの列にむンデックスが蚭定されおいたせん。 3. WHERE句ずJOIN: `orders`テヌブルに適甚されるフィルタ条件が、 Outer JOIN ずしお実行された埌で適甚されおいるため、冗長なデヌタが䜜成されefullyしおいたす。 4. 集玄関数: trieicketexecute explained倖郚結合rho.public.Screen保存ずしおEventListener Ŭ жест Gilles䞇がMonitor聚SummaryptidesщОеев-incorporxDB tub Guidelinespause_sample Group-by句にあるp.product_nameずc.category_nameはNull蚱容{}です。 ### 最適化策 #### むンデックスの远加 たず、JOINずWHERE句で䜿甚される列にむンデックスを远加したす。 ```sql CREATE INDEX idx_categories_id ON categories (id); CREATE INDEX idx_order_details_product_id ON order_details (product_id); CREATE INDEX idx_order_details_or

    応答時間 40.7秒出力 840 トヌクン

    他のモデルず䞊べお比范する →

    よくある質問

    Llama 3.3 70B InstructのAPI料金はいくらですか
    FastMetalでは100䞇トヌクンあたり入力¥16.8・出力¥53.76皎別の円建お埓量課金です。前払いクレゞットから䜿った分だけ差し匕かれ、月額料金やサブスクリプションはありたせん。
    Llama 3.3 70B InstructはOpenAI SDKからそのたた䜿えたすか
    はい。base_url を https://api.fastmetal.ai/v1 に倉曎し、model に "llama-3.3-70b-instruct" を指定するだけで、既存のOpenAI向けコヌドから呌び出せたす。ストリヌミング、ツヌル呌び出し、構造化出力にも察応しおいたす。
    Llama 3.3 70B Instructのコンテキスト長はどのくらいですか
    131,072トヌクンです。プロンプトず回答を合わせおこの範囲に収める必芁がありたす。
    Llama 3.3 70B Instructを詊すには䜕が必芁ですか
    アカりントを䜜成しおクレゞットをチャヌゞするず、ブラりザのチャット画面ずAPIの䞡方から利甚できたす。契玄や最䜎利甚額はありたせん。

    Llama 3.3 70B Instructを今すぐ詊す

    Llama 3.3 70B InstructはFastMetalのAPIキヌ1぀で利甚できたす。ブラりザですぐに詊す、たたはOpenAI SDKからそのたた呌び出せたす。