データマネジメント試験 科目B|データ活用の向上 問12
E 社では、社内の文書を検索して回答を生成する RAG(Retrieval-Augmented Generation)を使った生成 AI の問合せサービスを全社員に公開した。ある社員が“部長の評価の基準”を質問したところ、人事部だけが閲覧できるはずの評価の資料の内容を含む回答が表示された。調べると、検索の対象には、閲覧の権限に関係なく全部門の共有フォルダの文書が登録されていた。
設問 この問題への対策として、最も適切なものはどれか。
正解:ウ
解説
RAG(Retrieval-Augmented Generation)では、検索で取り出した文書の内容が回答に含まれます。元の文書のアクセス権を無視して検索の対象にすると、閲覧の権限がない人にも内容が伝わってしまいます。検索の対象を選定し、利用者の権限に応じて参照できる文書を制限することが必要です。
- ア 質問の言い回しを変えると指示をすり抜けられる場合があり、確実な対策になりません。人事以外の機密情報も同じ問題を抱えています。
- イ 利用者の注意に頼るだけで、質問されれば情報は表示されてしまいます。
- ウ 正解。
- エ 閲覧が人事部に限定された資料の内容が全社員に伝わるのは、アクセス権の管理に反します。
もう一歩深く
アは、システムプロンプトの指示は、質問の言い換えなどで回避されることがあり、確実な対策になりません。イは、利用者の注意に頼っていて、偶然に表示されるおそれも残ります。エは、閲覧の権限がない人に人事の情報が伝わっていて、明らかに問題です。RAG を導入するときは、検索の対象の文書に元のアクセス権を引き継ぐ仕組みを、最初から設計に入れておく必要があります。
当サイトのオリジナル問題です。