ITパスポート|情報倫理・AI倫理 問18
金融機関が、融資の審査に AI を利用している。審査に落ちた申込者から理由を尋ねられたときに備えて、AI がどのような根拠で判断したのかを人が理解し、説明できるようにしておくことを表す考え方はどれか。
正解:ウ
解説
説明可能性は、AI の判断の根拠や過程を、人が理解し説明できるようにすることです。融資や採用のように人の権利や生活に関わる判断に AI を使う場合は、判断が公平で妥当かを確かめ、利用者に説明する責任を果たすために特に重要です。
- ア 必要なときにシステムやデータを使える状態にしておくことです。
- イ 障害に備えて、装置などを複数用意しておくことです。
- ウ 正解。
- エ 誰であるかを特定されないようにすることです。
もう一歩深く
説明可能性は、英語の頭文字をとって XAI(Explainable AI)とも呼ばれます。ディープラーニングのような複雑なモデルは、精度が高い一方、なぜその判断をしたのかが分かりにくい“ブラックボックス”になりがちです。そのため、判断に大きく影響した項目を示す技術などが研究されています。国の“AI 事業者ガイドライン”などでも、透明性やアカウンタビリティ(説明責任)が重要な原則として挙げられています。
当サイトのオリジナル問題です。