データマネジメント試験 科目B|データ活用の向上 問17
F 社では、自社の Web サイトに、顧客からの問合せに生成 AI が答えるチャットサービスを設置した。ある日、生成 AI が顧客に“この製品は保証の期間が過ぎていても無料で修理します”と、自社の規定と異なる回答をしていたことが分かった。
設問 この問題の再発を防ぐための対策として、最も適切なものはどれか。
正解:エ
解説
社外向けの生成 AI のサービスでは、誤った回答が会社の約束と受け取られるおそれがあります。根拠とする情報を限定し、重要な内容は規定に沿わせ、判断が必要なものは人に引き継ぐというガードレールと人間の関与を組み合わせ、運用後も点検を続けることが大切です。
- ア 注意の表示だけでは、誤った回答そのものは減りません。
- イ モデルを大きくしても、根拠のない回答を生成する可能性は残ります。
- ウ 対策をとれば生成 AI の効果を生かせるので、廃止する必要はありません。
- エ 正解。
もう一歩深く
アは、誤りの表示だけでは、誤った約束をした責任は免れないおそれがあり、顧客の信頼も失います。イは、大きなモデルでも、根拠のない回答をする可能性は残ります。ウは、効率化の効果を捨ててしまいます。海外では、企業のチャットボットの誤った回答について、企業が責任を負うとされた例も報じられています。約束につながる回答は、特に慎重な設計が必要です。
当サイトのオリジナル問題です。