データマネジメント|情報倫理・AI倫理 問7
融資の審査に AI を導入した金融機関が、審査に落ちた顧客から理由を尋ねられたとき、AI がどの情報を重視してその判断をしたのかを説明できるようにしておくことが求められる。このような AI に求められる性質として、最も適切なものはどれか。
正解:ア
解説
説明可能性(透明性)は、AI がどのような根拠や過程でその判断を出したのかを、人が理解できる形で示せる性質です。人の生活に大きく影響する判断に AI を使うときは、特に重要になります。
- ア 正解。
- イ 必要なときにシステムを利用できる性質で、判断の根拠を説明することとは関係ありません。
- ウ さまざまな用途に使える性質です。
- エ すぐに結果を返す性質です。
もう一歩深く
可用性は必要なときに使える性質、汎用性は様々な用途に使える性質、即時性はすぐに結果を出せる性質です。深層学習のように複雑なモデルは、判断の根拠が人に分かりにくく“ブラックボックス”と呼ばれるので、どの項目が判断に影響したかを示す技術(XAI:Explainable AI、説明可能な AI)が研究されています。説明できないと、判断の誤りや不公平にも気付けません。
当サイトのオリジナル問題です。