AIセキュリティ
RAGで社内文書のアクセス権限を守るために導入前に決める手順
社内文書を生成AIに検索させて要約や回答を返すRAGは、資料探しや問い合わせ対応の手間を減らせる仕組みです。一方で元のファイルサーバーでは一部の人しか開けなかった人事や経営の資料が、権限のない社員への回答に混ざってしまうことがあります。原因の多くはAIそのものより導入前の決めごとの抜けにあります。この記事ではOWASPの整理とベクトル検索の性質を出発点に、取り込む文書の選別と部署ごとの権限の引き継ぎと回答ログの確認を、情シス担当者が導入前に決める手順としてまとめます。
RAGで社内文書の権限が崩れる仕組み
RAG(検索拡張生成)は質問に関係しそうな社内文書を先に探し出し、その内容を生成AIに渡して回答を作らせる仕組みです。このとき文書はファイルサーバーから取り出され、検索用の置き場(インデックス)にまとめて保存されます。元の場所で設定していた閲覧制限はファイルの外側にある設定なので、取り出した文章には自動では付いてこないことがあります。設計で手当てしないと誰が質問しても同じ置き場から探す状態になります。
よくある誤解
- 元のフォルダの権限がそのまま効く
- AIに見せるなと指示すれば出てこない
- 社内向けなので漏れても問題は小さい
実際
- 取り込んだ時点で権限の情報が外れることがある
- 指示は利用者の入力しだいで崩されうる
- 社内でも人事や経営の情報は見てよい人が限られる
OWASPは大規模言語モデル(LLM)を使うアプリケーションの代表的なリスクをOWASP Top 10 for LLM Applicationsとして公開しています。その中のプロンプトインジェクションは、利用者の入力によってモデルのふるまいが変えられてしまう弱点として説明されています。つまり人事資料は答えに使わないとAIへの指示文に書くだけでは、利用者の書き方によって崩れる可能性があるということです。[1]
OWASPの整理とベクトル検索の弱点を押さえる
ベクトル検索とは文章の意味を数値の並びに置き換え、質問と意味が近い文章を探す方式です。意味の近さで候補を選ぶため、質問した人がその文書を見てよいかどうかは判断材料に入りません。たとえば昇給の考え方を尋ねられれば、人事評価の資料が上位に来るのは自然な動きです。検索の精度が高いほど権限の設計が抜けたときの影響も大きくなると考えておきましょう。
- 権限の情報を付けずに文書をまとめて取り込んだ
- 部署共有フォルダの中に個人別の資料が混ざっていた
- 異動や退職で変わった権限が検索側に反映されていない
- 回答に元文書の一部がそのまま引用される
- 要約の形で機密の中身が言い換えられて出てしまう
OWASP Top 10 for LLM Applicationsが挙げるプロンプトインジェクションのように、利用者の入力はAIのふるまいを変えうるものです。権限の判断はAIへの指示に頼らず検索の段階で行い、見てはいけない文書はそもそもAIに渡さない設計を基本にしてください。[1]
取り込む文書を選別する
IPAのテキスト生成AIの導入・運用ガイドラインは、導入担当者と運用担当者とセキュリティ担当者それぞれの考慮事項を章を分けて説明しています。RAGの場合もまず導入担当者の立場で何を取り込むかを決めることが出発点になります。[2]
文書を棚卸しする
取り込み候補のフォルダごとに持ち主の部署と中身の種類と現在の閲覧範囲を一覧にします。誰が開けるか分からないフォルダもこの段階で洗い出します。
機密度で区分けする
全社公開と部署限定と特定の人だけといった分かりやすい区分を決め、各フォルダに当てはめます。区分の名前は社内の文書管理規程とそろえます。
対象外を決める
人事評価や給与や役員会の資料など初期の対象に入れないものを決めて取り込み設定から外します。迷う文書は入れない側に倒します。
小さく試す
全社公開の文書だけで先に試し、回答の質と根拠として示される文書を確かめてから範囲を広げます。
チェックリスト
- 取り込み対象のフォルダ一覧がある
- 各フォルダの持ち主の部署が決まっている
- 人事や経営の資料を対象外にするか決めた
- 個人情報を含む文書の扱いを決めた
- 対象外の文書が混ざっていないか確かめる担当がいる
- 古い版の文書を残すか消すか決めた
部署ごとの権限を検索側に引き継ぐ
権限を引き継ぐとは文書ごとに見てよい部署や人の情報を付けて取り込み、質問した人の所属に合わせて検索結果を絞り込むことです。社内の利用者管理の仕組み(ディレクトリ)の所属情報と結び付けておくと、異動のときにも追従しやすくなります。
置き場を部署ごとに分ける
- 仕組みが分かりやすい
- 部署をまたぐ資料の扱いに困る
- 置き場が増えて管理が重くなる
検索時に権限で絞り込む
- 置き場は一つで済む
- 文書ごとの権限情報が正しいことが前提になる
- 異動や退職を反映する手順が要る
デジタル庁のテキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)は、特定のサービスに組み込まれた形かWeb APIの形かといった利用形態やユースケースによって想定されるリスクが変わるとしています。製品に付いているRAG機能を使うのか自社で組むのかで権限の引き継ぎ方も変わるため、方式を先に決めてから確認項目を洗い出しましょう。[3]
- 元のファイルの権限を取り込み時に読み取れるか
- 権限の変更がどのくらいの間隔で検索側に反映されるか
- 検索結果の絞り込みがAIに渡す前に行われるか
- 管理者が利用者ごとの見え方を確かめられるか
回答ログを確認して運用で見直す
導入後は誰がどんな質問をしてどの文書をもとに回答されたかを記録し、定期的に見直します。権限の設定ミスは利用者からは気付きにくく、記録を見て初めて分かることが多いためです。
チェックリスト
- 質問者と日時と質問文が残る
- 回答のもとになった文書名が残る
- 対象外にした文書が回答に使われていないか見る
- 所属部署の外の文書が使われた回答を抽出できる
- 見直しの頻度と担当者を決めた
- 問題が見つかったときの止め方を決めた
IPAのガイドラインは運用担当者向けに利活用のガイドラインやルールを策定して文書化することを扱い、セキュリティ担当者向けにはリスクマトリクスに沿ったリスク管理の手法を紹介しています。ログ確認の手順や問題が起きたときの連絡先も社内ルールとして書き残しておくと、担当者が替わっても続けられます。[2]
回答ログそのものにも機密の内容が含まれます。ログを見られる人を情シスの一部に限り、保存期間も社内規程に合わせて決めておきましょう。
公的ガイドラインを社内ルールに生かす
IPAのテキスト生成AIの導入・運用ガイドラインは2024年7月31日に公開されたもので、生成AIのリスクと対策を示して組織の漠然とした不安を減らすことを目的にしています。なお内容はIPAの公式見解ではなく、中核人材育成プログラムの卒業プロジェクトメンバーの見解に基づくと注記されています。[2]
デジタル庁のガイドブック(α版)は2024年5月29日に初版が公開され、2025年6月6日に一部内容が修正されました。今後は行政の進化と革新のための生成AIの調達・利活用に係るガイドラインに統合して更新するとしています。行政職員向けの資料ですが、自社サービスや業務改善でテキスト生成AIを検討する人にも参考として使うよう案内されています。[3]
- 取り込み候補フォルダの一覧を作る
- 対象外にする文書の種類を決める
- 製品や開発会社に権限の引き継ぎ方を確認する
- 回答ログの確認担当と頻度を決める
- 参照した公的資料の更新状況を時々確かめる
まとめ
- RAGでは元のファイルの閲覧制限が自動では引き継がれないことがある
- 権限の判断はAIへの指示ではなく検索の段階で行う
- 取り込む文書を選別し迷うものは対象外から始める
- 部署ごとの権限を検索側に引き継ぐ方式を導入前に決める
- 回答ログを定期的に確認し手順を社内ルールとして文書化する
よくある質問
Q既存のファイルサーバーの権限はRAGでもそのまま使えますか
A製品や構成によって異なります。デジタル庁のガイドブック(α版)も利用形態やユースケースによって想定されるリスクが変わるとしています。取り込み時に元の権限を読み取れるか、権限の変更がいつ反映されるかを導入前に製品の提供元へ確認してください。[3]
QAIへの指示文で人事資料を答えないように書けば足りますか
Aそれだけに頼るのはおすすめしません。OWASPはプロンプトインジェクションを利用者の入力でモデルのふるまいが変えられてしまう弱点として挙げています。見てはいけない文書は検索の段階で外し、AIに渡さない設計を基本にしましょう。[1]
Q社内ルールを作るときに参考にできる公的な資料はありますか
AIPAのテキスト生成AIの導入・運用ガイドラインは導入や運用やリスク管理の担当者ごとに考慮事項を整理しています。デジタル庁のガイドブック(α版)も民間で導入を検討する人の参考になるとしています。それぞれの注記や更新状況も確かめて使いましょう。[2][3]
Q担当者が少なくても回答ログの確認は続けられますか
A見る項目を絞れば続けやすくなります。まず対象外にした文書や所属部署の外の文書が回答に使われていないかに限って確認しましょう。IPAのガイドラインが扱うように手順をルールとして文書化しておくと、担当者が替わっても続けられます。[2]
出典
- OWASP Top 10 for LLM Applications(OWASP Gen AI Security Project)
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)