データマネジメント|情報倫理・AI倫理 問6
過去 10 年間の採用データを学習させた AI で応募書類を評価したところ、特定の性別の応募者の評価が一貫して低くなっていることが分かった。この問題への対応として、最も適切なものはどれか。
正解:イ
解説
AI は学習データに含まれる偏り(バイアス)をそのまま学習し、差別的な判断を再生産することがあります。学習データの偏りを確認し、AI の出力を人が検証する仕組みを設けることが、公平性の確保に必要です。
- ア 過去のデータ自体が偏っていれば、AI の評価も偏ります。客観的とはいえません。
- イ 正解。
- ウ 差別をさらに強めることになり、不適切です。
- エ 性別の項目を削除しても、性別と関係の強いほかの項目(経歴や趣味など)から偏りが残ることがあるので、検証は必要です。
もう一歩深く
アは、過去の採用の判断に偏りがあれば、AI はその偏りを“正解”として学ぶので、客観的とはいえません。ウは差別そのものです。エは、性別の項目を削除しても、性別と関係の強いほかの項目(部活動の名前や趣味など)から、AI が間接的に性別を読み取ってしまうことがあります。偏りの有無は、属性ごとの評価の結果を比べて継続的に監視します。
当サイトのオリジナル問題です。