データマネジメント|AI利活用 問21
生成 AI を使って、社外から受け取ったメールの要約と、返信の下書きの作成を自動で行う仕組みを作った。この仕組みに対する“プロンプトインジェクション”の例として、最も適切なものはどれか。
正解:イ
解説
プロンプトインジェクションは、生成 AI が読み込む文章の中に、攻撃者が指示に見える文を紛れ込ませ、利用者が意図しない動作をさせる攻撃です。外部から受け取った文章は指示として扱わないようにすることや、生成 AI に与える権限を必要最小限にすること、重要な操作の前に人が確認することなどで対策します。
- ア ハルシネーションの例です。
- イ 正解。
- ウ 大量の要求で処理を妨げるサービス妨害の攻撃の例です。
- エ 学習データの偏り(バイアス)による問題の例です。
もう一歩深く
アはハルシネーション、ウはサービス妨害(DoS 攻撃:Denial of Service 攻撃)、エは学習データの偏りによる問題の例です。プロンプトインジェクションには、利用者が直接入力する場合と、この例のように、AI が読み込むメールや Web ページなどに指示が仕込まれている“間接的なプロンプトインジェクション”があります。AI に送信や削除などの操作をさせる仕組みでは、特に注意が必要です。
当サイトのオリジナル問題です。