委託先でのAIセキュリティ管理 - AI法律・倫理・ガバナンス編問題14/20

委託先でのAIセキュリティ管理レベル2

金融機関が与信判定AIの開発・運用を外部のIT企業に委託することになりました。委託先では、学習データ、モデルファイル、推論ログが扱われ、複数の開発者がクラウド環境にアクセスします。委託先管理の観点から、AIシステムのセキュリティ対策として最も重要なものを選択してください。

解説

解答と解説を表示

正解

学習データ・モデル・ログのアクセス制御、暗号化、監査ログ、敵対的攻撃やデータ汚染への対策を委託契約で明確化する。

正解になる理由

委託先でも機密性・完全性・可用性の確保は必要です。金融データを含む学習データの漏えい、モデル自体への攻撃、敵対的サンプルによる誤判定、データ汚染による性能劣化などAI固有のリスクがあるため、通常のITセキュリティに加えて特別な対策が必要です。

各誤答がなぜ誤りか

選択肢1: 委託であっても委託元のデータやシステムを扱う以上、適切なセキュリティ基準の適用が必要です。

選択肢2: AIシステムではソフトウェア攻撃に加え、モデル抽出、データ汚染、敵対的攻撃などAI特有の脅威があります。

選択肢4: 自動処理であってもデータの機密性、モデルの完全性、出力の信頼性に関するリスクは存在します。