AIの悪用リスク
生成AIは文章、画像、音声、コードなどを低コストで大量生成できるため、フィッシング文面、偽情報、なりすまし、ディープフェイク、マルウェア作成支援などに悪用される可能性があります。正解は、フィッシング文面や偽情報の大量生成に使われる可能性です。 (選択肢1が正しい)
正解の理由
生成AIは文章、画像、音声、コードなどを低コストで大量生成できるため、フィッシング文面、偽情報、なりすまし、ディープフェイク、マルウェア作成支援などに悪用される可能性があります。正解は、フィッシング文面や偽情報の大量生成に使われる可能性です。
仕組み・頻出ポイント
- 悪用リスクは特定のモダリティだけでなく、テキスト、音声、画像、動画、コード生成に広く存在します。対策には、利用規約、本人確認、レート制限、出力フィルタ、ウォーターマークや出所表示、監視、教育、通報対応があります。
- 法令・倫理・契約・技術対策を分けて考え、必要に応じて組み合わせることがAIガバナンスの基本です。
- 判断に迷う場合は、データの性質、利用目的、影響を受ける人、説明責任、監査可能性を確認します。
G検定で覚えるべきこと
G検定では、利便性とリスクを両方見る姿勢が重要です。生成AIが本人確認を自動で保証するわけではなく、悪用を前提にした設計と運用が求められます。
他の選択肢の評価
- 選択肢1: 正解です。問題の論点に対して最も適切な説明です。
- 選択肢2: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
- 選択肢3: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
- 選択肢4: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
追加の確認観点
確認観点としては、便利な生成機能が悪用された場合の規模と速度です。少人数でも大量の偽情報や詐欺文面を作れるため、利用制限、検知、通報、教育を組み合わせた対策が必要です。
結論として、この問題では「用語の定義」だけでなく、どの前提で使えるのか、どの誤解を避けるべきか、実務では何を確認するのかまで結びつけて理解することが重要です。