間接プロンプトインジェクション
正解
取得文書は「参考資料」として扱い、文書内の指示でシステム方針を上書きしない。引用の許可リストと出力前の方針チェックを入れる。
正解になる理由
RAGは外部テキストをプロンプトに入れるため、文書に埋め込まれた命令がモデルをハイジャックし得ます(間接プロンプトインジェクション)。検索ACLとは別に、ツール実行や機密送信を文書指示で許可しない制御が必要です。
各誤答がなぜ誤りか
- 選択肢1: ヒット文書を命令として実行すると、攻撃者のWiki編集によりシステムが乗っ取られ得ます。
- 選択肢3: temperatureはサンプリングの鋭さであり、命令の解釈を無効化しません。
- 選択肢4: モデル規模は、指示の分離を保証しません。