基盤モデル、LLM、Transformer、プロンプト、RAG、生成AIのリスクに関するG検定対策問題
社内法務FAQボットで、同じ質問でも表現が大きくぶれる。正確性担保のためRAG・根拠提示・不明時拒否・人レビューは別途導入済みである。生成のばらつきを抑える設定として最も適切なものはどれか。
正解
temperatureを低めにし、再現性が高く表現のばらつきが小さい出力にする。
正解になる理由
temperatureを下げるとサンプリングのランダム性が減り、出力は安定しやすい。ただし誤った内容を安定して出すこともあり、事実性はRAG・根拠・拒否・レビューで担保する。本問ではそれらは導入済みなので、残る設定として低temperatureが適切。
各誤答がなぜ誤りか