ブログ

コラム

LLMのtemperatureとtop_pとは?用途別の設定目安を解説

LLM APIのtemperatureとtop_pは、モデルが次のトークンを選ぶ「揺らぎ」を決めるパラメータです。仕組み、用途別の設定目安、よくある誤解を、コード例つきで解説します。

コラム

システムプロンプトとは?役割と書き方、userとの違いを解説

システムプロンプトとは、会話全体に効く「前提の指示」を渡すためのメッセージです。userメッセージとの違い、具体的な書き方のビフォー・アフター、コード例、注意点を開発者向けに解説します。

コラム

コンテキストウィンドウとは?LLMの上限と超えたときの対処法

コンテキストウィンドウとは、LLMが1回のリクエストで扱えるトークン数の上限です。システムプロンプトから出力まで何が枠を使うのか、日本語のトークン、上限を超えたときの挙動、要約・削減・キャッシュによる対処法を解説します。

コラム

LLMのトークンとは?数え方と料金・コンテキストとの関係を解説

LLM APIの課金単位「トークン」とは何か。文字でも単語でもない分割の仕組み、入力・出力の数え方、レスポンスのusageでの確認方法、コンテキストウィンドウや料金との関係を解説します。

コラム

LLM APIのレートリミット(429)とは?原因と対処法を解説

LLM APIのレートリミットとは何か、429エラーが返る2つの原因(リクエスト過多と残高切れ)の見分け方、指数バックオフや同時実行制限といった正しい対処法をPythonのコード例つきで解説します。

コラム

MCP(Model Context Protocol)とは?仕組みと使いどころ

MCPとは、LLMに外部のツールやデータを標準化された方法で接続するためのプロトコルです。仕組み・登場の背景・LLM APIとの関係を、開発者向けに分かりやすく解説します。

コラム

Chat Completions APIとは?messages・role・主要パラメータを解説

Chat Completions APIとは、LLMに会話形式でリクエストを送るための事実上の標準インターフェースです。messages配列とrole、レスポンスの読み方、主要パラメータをコード例つきで解説します。

コラム

OpenRouterの無料モデル(:free)の制限と、上限に当たったときの選択肢

OpenRouterの無料モデル(:free)は1日のリクエスト数に上限があり、コーディングエージェントは途中で止まります。無料枠の仕組みと、¥0の無料モデルや¥500からの円建てチャージで開発を続ける方法を解説します。

コラム

OpenRouterの料金:手数料・為替・経理まで含めた実質コストの考え方

OpenRouterの料金は米ドル建てのクレジット購入で決まります。日本から払うときに見積もる購入時の手数料、カードの海外事務手数料、為替、経理での円換算を整理し、円建てで払えるFastMetalの料金と並べて解説します。

コラム

LLM-as-a-Judgeとは?モデルに採点させる方法とバイアス対策

出力の良し悪しを人手で見るのは続きません。LLM-as-a-Judgeはモデルに採点させる手法ですが、位置・冗長さ・自己贔屓の3つのバイアスがあります。実装と、その潰し方を解説します。

73件中 21-30件を表示