温度(temperature)などの生成パラメータ
temperatureやtop_p、max_tokensなど、AIの出力を左右する設定の意味
生成パラメータとは、AIが文章を生成するときの振る舞いを調整する設定値のことです。代表的なものが温度(temperature)で、出力のランダムさを左右します。主にAPIや開発者向けの画面で設定するもので、チャットサービスでは通常、事業者があらかじめ調整した値が使われています。
そもそもAIはどう言葉を選ぶのか
大規模言語モデル(LLM)は、次に来るトークンの候補それぞれについて「どのくらい出やすいか」という確率を計算し、その確率に従って1つを選びます。この「選び方」を調整するのが生成パラメータです。
temperature(温度)
- 低い値:確率の高い候補が選ばれやすくなり、安定した、保守的な出力になります。
- 高い値:確率の低い候補も選ばれやすくなり、多様で意外性のある出力になります。
Anthropicの用語集では、温度が高いほど創造的で多様な出力に、低いほど保守的で決定的な出力になると説明されています。
使い分けの目安
- 情報抽出、分類、定型文書の作成 → 低め
- ブレインストーミング、キャッチコピー案、物語 → 高め
注意:同じ用語集では、温度を0にしても出力は完全には決定的にならず、同じ入力でも異なる出力になることがあると明記されています。「毎回まったく同じ答え」を前提にした設計は避けましょう。
top_p(核サンプリング)
確率の高い候補から順に足していき、合計が指定した割合に達するまでの候補だけから選ぶ方法です。値を小さくすると、ありえそうな候補だけに絞られます。一般に、温度とtop_pは両方を同時に大きく動かすより、どちらか一方を調整するのがわかりやすいとされています。
max_tokens(最大出力トークン数)
1回の応答で生成するトークン数の上限です。上限に達すると、文章の途中でも出力が止まります。長い文章を書かせるときに途中で切れる場合は、この値を確認しましょう。推論モデル(リーズニングモデル)では、思考に使うトークンもこの上限に含まれる場合があります。
stop sequences(停止文字列)
特定の文字列が出たら生成を止める設定です。決まった形式の出力を区切りたいときに使います。
モデルによる違い
使えるパラメータや推奨値は、モデルやサービスによって異なります。新しいモデル、特に推論モデルでは、一部のパラメータが使えない、または推奨されない場合があります。設定する前に、利用するAPIの公式ドキュメントで確認してください。
実務でのコツ
- まずは既定値のまま試し、問題があれば少しずつ変える
- 出力の安定性が重要な業務では、温度を下げるより先にプロンプトで形式や例を明確にする
- 案出しでは、温度を上げるより「10案出して」と数を指定するほうが扱いやすいことも多い
- 設定を変えたら、同じテストデータで結果を比べる(AIの評価・ベンチマーク参照)
参考リンク
編集: AI Play 編集部 最終更新: 2026-10-25