temperatureとは？AIの回答のばらつきを図で確かめる

次の候補を選ぶ確率分布をコントロールする設定

テキスト生成の各ステップでは、直前の文脈に続く次のトークン候補それぞれに対して確率値が割り振られます。temperatureは、この確率の分布形状（尖り具合や平坦さ）を調整するための数値パラメータです。一般的なサンプリング処理では、値を低く設定するほど確率の高い最有力候補が選ばれやすくなり、高く設定するほど低確率だった候補も含めて多様な単語が選ばれやすくなります。

ただし、設定できる数値の範囲や同じ数値を指定した際の実際の挙動は、プロバイダやモデルのアーキテクチャによって異なります。中にはtemperatureの変更を受け付けない設計のモデルも存在します。アプリケーションに組み込む際は、利用するモデルの公式APIリファレンスをあらかじめ確認してください。

4つのトークン候補で確率の変化を観察する

スライダーの値を下げていくと、候補Aの採択確率が急激に高まります。逆に値を引き上げると、候補B・C・Dの確率が底上げされ、全体がなだらかな分布へと変化します。ここで変化しているのは「出力の正確さ」そのものではなく、あくまで「どの候補が選ばれる確率が高いか」という相対バランスです。

数値を下げれば正解率が上がるわけではない

もし確率上位の候補自体に事実誤認や計算ミスが含まれていた場合、temperatureをどれほど低く設定しても誤った内容がそのまま出力されてしまいます。正確な事実関係が求められるタスクでは、サンプリング数値を下げることだけに頼るのではなく、根拠となる正しいドキュメントを入力として与え、照合させる設計が不可欠です。

入門書などでは「創造性を高めるパラメータ」と平易に説明されることがありますが、数値を高く設定したからといって質の高いアイデアが自動的に湧き出るわけではありません。候補の多様性が広がる一方で、指定したJSONフォーマットの崩れや論理の破綻が起きやすくなるため、タスクの性質に適した水準を実データで検証することが求められます。

低くしても全く同じ回答が保証されるとは限らない

temperatureを低くすると回答のばらつきを抑えやすくなりますが、毎回同じ回答が得られるとは限りません。モデルの更新、ほかの生成設定、外部ツールの結果によっても回答は変わります。

結果を再現したい場合は、モデル名、入力、生成設定、参照した資料の版を記録しておきます。コードや構造化データを受け取るときは、回答が同じになると期待するだけでなく、形式や必要な値をプログラムで確認する処理も用意します。

目的の作業に合わせて最適な値を検証する

ブレインストーミングのように幅広い切り口を求める作業と、定型フォーマットに沿ったデータ抽出とでは、評価すべきポイントが根本から異なります。アイデア出しであれば提案内容のユニークさや視点の広がりを評価し、情報抽出であれば原文との整合性や抽出漏れの少なさを確認します。

1. 比べたい仕事をひとつ決めます。
2. 同じ入力で、変更できる範囲の数値を試します。
3. 複数回の回答を、同じ評価基準で比べます。
4. 必要な品質とばらつきの許容範囲を決めます。

数値だけでなく、どんな入力で、何を基準に比べたかも記録しておきましょう。モデルを変更するときも、その記録を使って設定を見直せます。