データマネジメント試験 科目B|データ活用の向上 問5
R 社の人事部の S さんは、社員からの社内規程に関する問合せに答える生成 AI のチャットサービスを試験的に導入した。1 か月後、利用者から“回答の中に、実際には存在しない規程の条文が書かれていた”という報告があった。
設問 S さんの対応として、最も適切なものはどれか。
正解:イ
解説
生成 AI は、事実と異なる内容をもっともらしく出力するハルシネーションを起こすことがあります。誤りの事例を分析し、根拠を示す仕組みや利用者による確認の手順を整えて、信頼性を高めます。
- ア 誤った規程に基づいて社員が行動すると、トラブルにつながります。
- イ 正解。
- ウ 原因を調べずに廃止すると、改善の機会や得られる効果も失います。
- エ ハルシネーションは AI の性質として起こり得るもので、利用者の責任にするのは不適切です。
もう一歩深く
アは、ハルシネーションが起きることが分かっているのに、確認せずに使うよう案内しています。ウは、原因を調べずにやめると、改善の機会を失います。エは、報告した人を責めると、誤りが報告されなくなります。規程の質問に答える仕組みでは、RAG で規程の文書を検索して回答させ、参照した条文を一緒に示すと、存在しない条文が書かれることを減らせます。
当サイトのオリジナル問題です。