安全性とセキュリティ
AIシステムでは通常のサイバーセキュリティに加え、敵対的サンプル、データ汚染、モデル抽出、学習データの漏えい、プロンプトインジェクションなど、AI固有のリスクも考える必要があります。正解は、敵対的サンプルやデータ汚染で判断が意図せず変わる可能性です。 (選択肢1が正しい)
正解の理由
AIシステムでは通常のサイバーセキュリティに加え、敵対的サンプル、データ汚染、モデル抽出、学習データの漏えい、プロンプトインジェクションなど、AI固有のリスクも考える必要があります。正解は、敵対的サンプルやデータ汚染で判断が意図せず変わる可能性です。
仕組み・頻出ポイント
- 敵対的サンプルは入力に小さな改変を加えて誤分類を誘発する攻撃、データ汚染は学習データに悪意あるデータを混ぜてモデルを歪める攻撃です。防御には入力検証、データ品質管理、監視、アクセス制御、レッドチーミング、インシデント対応が必要です。
- 法令・倫理・契約・技術対策を分けて考え、必要に応じて組み合わせることがAIガバナンスの基本です。
- 判断に迷う場合は、データの性質、利用目的、影響を受ける人、説明責任、監査可能性を確認します。
G検定で覚えるべきこと
G検定では「AIモデルは攻撃対象にならない」「モデルに機密情報は含まれない」といった断定が誤りです。モデル自体も情報資産として管理します。
他の選択肢の評価
- 選択肢1: 正解です。問題の論点に対して最も適切な説明です。
- 選択肢2: この選択肢は論点がずれているか、対象となる法律・倫理原則の説明として不十分です。
- 選択肢3: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
- 選択肢4: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
追加の確認観点
確認観点としては、通常の情報セキュリティに加えて、モデル、学習データ、プロンプト、出力を攻撃面として見ることです。入力検証、権限管理、監視、テストを継続的に行います。
結論として、この問題では「用語の定義」だけでなく、どの前提で使えるのか、どの誤解を避けるべきか、実務では何を確認するのかまで結びつけて理解することが重要です。