説明可能性（XAI）
説明可能性（Explainable AI）は、AIの判断根拠や出力理由を人が理解・検証しやすくする性質です。正解は、AIの判断根拠を人が理解・検証しやすくするため、という説明です。 (選択肢1が正しい)
正解の理由
説明可能性（Explainable AI）は、AIの判断根拠や出力理由を人が理解・検証しやすくする性質です。正解は、AIの判断根拠を人が理解・検証しやすくするため、という説明です。
仕組み・頻出ポイント
- 高リスク領域では、なぜその判断になったかを説明できないと、利用者の納得、監査、異議申立て、改善が難しくなります。SHAP、LIME、特徴量重要度、反実仮想説明、決定木のような解釈しやすいモデル選択などが関連します。
- 法令・倫理・契約・技術対策を分けて考え、必要に応じて組み合わせることがAIガバナンスの基本です。
- 判断に迷う場合は、データの性質、利用目的、影響を受ける人、説明責任、監査可能性を確認します。
G検定で覚えるべきこと
G検定では、説明可能性は計算量をゼロにすることでも、すべてを線形回帰に限定することでもありません。精度と解釈性のトレードオフを踏まえ、用途に応じた説明の粒度を設計する点が実務上重要です。
他の選択肢の評価
- 選択肢1: 正解です。問題の論点に対して最も適切な説明です。
- 選択肢2: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
- 選択肢3: この選択肢は論点がずれているか、対象となる法律・倫理原則の説明として不十分です。
- 選択肢4: 過度に断定的、またはリスク管理を否定しているため不適切です。AIガバナンスでは例外や運用条件を確認します。
追加の確認観点
確認観点としては、説明が技術者だけでなく利用者や監査者に理解できる形になっているかです。重要な意思決定では、特徴量重要度や反実仮想説明を使い、判断の妥当性を検証します。
結論として、この問題では「用語の定義」だけでなく、どの前提で使えるのか、どの誤解を避けるべきか、実務では何を確認するのかまで結びつけて理解することが重要です。