ITパスポート|AI利活用 問16
生成 AI の“ハルシネーション”の説明として、最も適切なものはどれか。
正解:ウ
解説
ハルシネーション(幻覚)は、生成AIが根拠のない内容をもっともらしく出力してしまう現象です。業務で使うときは、出典や事実の確認が欠かせません。
- ア 入力情報の漏えいの問題です。
- イ AIのバイアスの説明です。
- ウ 正解。事実と異なる内容をもっともらしく出力する現象がハルシネーションです。
- エ プロンプトインジェクション(ジェイルブレイク)の説明です。
もう一歩深く
ハルシネーションは、生成 AI が“分からない”と答える代わりに、言葉のつながりとしてもっともらしい内容を作ってしまうことで起きます。実在しない論文や判例、統計の数値などをもっともらしく示すことがあり、それをそのまま使ってトラブルになった例もあります。対策には、出典を確かめる、RAG で根拠となる文書を渡す、重要な内容は人が必ず確認する、などがあります。
当サイトのオリジナル問題です。