← プロデジ（データ・AI）想定問題集 トップへ
科目B: 事例問題（問41〜50）
問48
【事例3つづき】前問と同じE社のRAGシステムについて、プロジェクトリーダーの山本氏は「生成AIの回答がもっともらしいが事実と異なる場合があるのでは」という懸念を抱いている。AI倫理・実運用の観点から最も優先して組み込むべき対策として最も適切なものはどれか。
A回答と共に参照した社内規程・法令情報の出典（文書名・該当箇所）を提示し、最終的な顧客対応の判断はオペレーターが行うヒューマンインザループ体制を設計する
B生成AIの回答をそのまま顧客に送信し、人間のレビューを完全に省略する
C生成AIの回答が事実と異なる場合でも、業務効率を優先してそのまま運用を続ける
D回答根拠の出典表示は利用者を混乱させるため、一切表示しない方針にする
解説
生成AIのハルシネーションリスクへの対策としては、参照した文書の出典を明示し、最終的な顧客対応判断は人間が担保するヒューマンインザループの体制が有効です。レビュー省略や事実誤認の放置は顧客被害・信用失墜に直結し、出典非表示は誤回答の検知を困難にします。