Temperatureの役割
Temperatureは、LLMが次のトークンを選ぶ際の確率分布の鋭さを調整する生成パラメータです。低くすると高確率の候補が選ばれやすくなり、出力は安定・保守的になります。高くすると低確率の候補も選ばれやすくなり、出力の多様性や意外性が増えます。
正解の理由
選択肢1は、temperatureを高くした場合に出力のランダム性や多様性が高まりやすいと述べています。これはtemperatureの一般的な効果です。アイデア出しや創作ではやや高めが有効な場合がありますが、事実確認や定型処理では低めにして一貫性を重視することが多いです。
他の選択肢の評価
- 選択肢2は逆です。常に同じ答えに近づけたい場合はtemperatureを低くします。ただし完全な決定性はサービス仕様にも依存します。
- 選択肢3は学習データ削除の説明であり、生成時パラメータとは関係ありません。
- 選択肢4はコンテキスト長の説明です。temperatureを変えても入力可能トークン数が無限になることはありません。
混同しやすいパラメータ
- top-k: 確率上位k個の候補から選ぶ。
- top-p: 累積確率がpに達する候補集合から選ぶ。
- max tokens: 出力の最大長を制御する。
実務では、自由記述の企画生成と、規程に基づく回答では望ましいtemperatureが異なります。用途に応じた設定と評価が重要です。
試験対策の確認
生成AI・LLMの論点では、便利さだけでなく、制約とリスクを同時に押さえることが重要です。プロンプト、RAG、ファインチューニング、トークン、コンテキスト、権利・機密情報の各用語は相互に関連します。実務では、モデルの出力をそのまま正解とみなさず、根拠確認、アクセス制御、ログ管理、人間によるレビューを組み合わせて安全に運用します。
追加の確認観点
生成AI・LLMの問題では、技術用語を単独で覚えるより、入力、検索、生成、検証、運用管理の流れに置いて理解することが重要です。トークンやコンテキストは制約、プロンプトは制御、RAGは外部知識の参照、ファインチューニングは振る舞いの調整、ガバナンスは安全な利用のための仕組みです。実務では、出力が自然でも根拠が正しいとは限らず、機密情報や著作権のリスクも残ります。G検定では、便利な応用例と同時に、限界、確認手順、人間のレビューが必要な場面を押さえてください。