ITパスポート|情報倫理・AI倫理 問16
採用選考を支援する AI が、過去の採用実績データを学習した結果、特定の性別の応募者を不当に低く評価する傾向を示した。この問題の主な原因として、最も適切なものはどれか。
正解:イ
解説
AIは学習データの傾向をそのまま再現します。過去のデータに偏りがあると、AIの判断にも偏り(バイアス)が生じ、不公平な結果につながります。
- ア 処理速度は、評価の公平性とは関係ありません。
- イ 正解。過去の採用実績に偏りがあると、AIはその偏りを学習してしまいます。
- ウ 出力の形式は、偏りの原因ではありません。
- エ セキュリティ上の問題ですが、評価の偏りの原因ではありません。
もう一歩深く
実際に、海外の大手企業が開発した採用の AI が、過去の採用の実績に男性が多かったために、女性の応募者を低く評価する傾向を示し、使用をやめた例が知られています。性別の項目を学習データから外しても、所属した部活動や学校など、性別と関係の深いほかの項目から偏りが再現されることがあります。そのため、AI の判断の結果を属性ごとに比べて、偏りがないかを定期的に確かめることが大切です。
当サイトのオリジナル問題です。