Llama 3.1 8B レビュー：日本語の文章生成には不向き、それでも使いどころはある

結論から言うと、Llama 3.1 8B（llama-3.1-8b-instruct）は、日本語で文章を書かせる用途には勧められません。今回の日本語タスクで実用になったのは要約だけでした。その一方で、非常に安く、応答も速いモデルです。英語の処理、短い分類、決まった形式での抽出など、「日本語の表現力が要らない仕事」に絞れば出番があります。

概要

Llama 3.1 8B Instruct は Meta が2024年7月に公開したオープンモデルです。

• パラメータ数：8B
• 文脈長：約13万トークン
• 入力・出力：テキスト
• ツール呼び出しに対応

日本語で試した結果

同じ5つの日本語タスクを複数のモデルに投げて比べました。

特に注意が必要なのは算数の結果です。「15個の果物のうち、果物の総数から果物の総数を引くと……」という同じ文を延々と繰り返し、上限の4,000トークンまで出力し続けました。応答には約55秒かかり、出力した分はすべて課金されます。

この種のループは、max_tokens を小さめに設定しておくことで被害を抑えられます。 小型モデルを使うときは、必ず上限を指定してください。

それでも使いどころがある理由

• とにかく安い：今回比べたモデルの中で最も低い単価帯です
• 速い：ループした1件を除き、応答は2秒前後でした
• 要約・抽出は使える：原文の言葉を拾う処理では破綻しにくい
• ツール呼び出しに対応：関数の選択と引数の生成は正しく行えました

日本語の「生成」ではなく、日本語の「読み取り」や英語の処理で、大量に回すときに効いてきます。

円建ての単価は料金ページでご確認ください。

向いている用途／向かない用途

向いている：

• 英語テキストの分類・要約・抽出
• 日本語の文書からの短い抽出（原文の語句をそのまま使う処理）
• 大量の軽い前処理や振り分け

向かない：

• 日本語のメール・文章・コピーの生成
• 敬語の判断や校正
• 計算・推論（ループや誤答のリスクがある）

よくある質問

Q. Llama 3.1 8B は日本語で使えますか？ 読み取り中心の処理なら使えます。日本語の文章を書かせる用途には、より大きなモデルを選んでください。

Q. Llama 3.1 8B の出力が止まらなくなったらどうすればよいですか？ max_tokens で出力の上限を指定してください。上限までの分は課金されるため、小型モデルでは特に重要です。

Q. Llama 3.1 8B でツール呼び出しは使えますか？ はい。tools を指定すると、関数名と引数を返しました。

FastMetal で試す

curl https://api.fastmetal.ai/v1/chat/completions \
  -H "Authorization: Bearer $FASTMETAL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-8b-instruct",
    "max_tokens": 300,
    "messages": [{"role": "user", "content": "Classify the sentiment of this review as positive, negative or neutral. Answer with one word. Review: The battery lasts two days, but the screen scratches easily."}]
  }'

同じ API キー・同じ円建て残高のまま、他のモデルと model を差し替えて比べられます。対応モデルはモデルカタログでご確認ください。