AIセキュリティ
企業のシャドーAI対策 棚卸しから許可AI一覧と申請窓口まで
生成AIを業務で使う社員が増えています。そのなかで、会社が許可していないサービスを個人のアカウントで使う「シャドーAI」に悩む担当者は少なくありません。一律に禁止しても、使い慣れた便利な道具は見えない所で使われ続けがちです。本記事ではまず誰がどのAIを何に使っているかを棚卸しします。次にリスクに応じて認める・条件付きで認める・止めるに振り分け、許可したAIの一覧と申請の窓口を決めるところまで進めます。この流れを公的なガイドラインを手がかりに整理します。
シャドーAIとは何か
シャドーAIとは、会社が利用を認めていない生成AIを社員が個人のアカウントなどで業務に使っている状態のことです。個人情報保護委員会は生成AIサービスを、質問や作業指示(プロンプト入力)に応えて文章や画像などを生成するAIを使ったサービスと説明しています。手元の端末から手軽に試せるため、情報システム部門が気づかないうちに業務に入り込みやすいのが特徴です。[3]
よくある誤解
- 禁止を通知すれば使われなくなる
- 個人アカウントでの利用なら会社の問題ではない
- 使っているのは一部の詳しい社員だけ
実際
- 便利な道具は見えない所で使われ続けやすい
- 業務の情報を入力すれば会社の情報管理の問題になる
- 部署や職種を問わず日常業務に入り込んでいることがある
シャドーAI対策の目的は社員を責めることではありません。業務を楽にしたいという社員の動機を前提にして、安全に使える道を用意することが出発点になります。
禁止だけでは対策にならない理由
IPAのテキスト生成AIの導入・運用ガイドラインは、組織が生成AIの導入に踏み切れなかったり運用が適切か不安を抱えたりする背景を「漠然とした不安感」と捉えています。そのうえでセキュリティリスクと対策を具体的に示し、安全な導入と運用を後押しすることを目的にしています。リスクを具体的にして使い方を整えることを、利用を止めるより先に考える姿勢だといえます。[1]
米国のNISTが公開したAI Risk Management Framework(AIのリスクを管理するための枠組み)も、リスクを抑えながらAIへの信頼を育てて技術革新を促すことを掲げています。リスク管理と活用はどちらかを選ぶものではなく、両立させるものとして扱われています。[4]
- 利用が申告されず実態がつかめなくなる
- うっかり情報を入力しても相談しにくくなる
- 安全な代わりの手段がないまま業務の効率だけが下がる
- ルールが守られない状態が当たり前になる
まず誰がどのAIを何に使っているかを棚卸しする
棚卸しとは、いま実際に使われているものを一覧にして把握する作業です。デジタル庁のガイドブックは、特定のサービスに組み込まれた形で使うのか、Web API(プログラムから呼び出す仕組み)で使うのかといった利用形態や、ユースケースによって想定されるリスクが変わると整理しています。棚卸しではサービス名だけでなく使い方と用途まで記録しておくと、後の振り分けがしやすくなります。[2]
責めない前提を伝える
棚卸しの目的は実態の把握であり処分ではないと最初に伝えます。正直に答えてもらえないと見えない利用が残ったままになります。
簡単なアンケートを取る
使っているAIの名前と会社か個人どちらのアカウントか、何の業務に使うかを部署ごとに答えてもらいます。設問は少なく絞ります。
入力している情報を聞く
顧客情報や社外秘の資料など、どんな情報をAIに入力しているかを確認します。リスクの大きさを左右する大事な項目です。
既存の記録と照らし合わせる
通信の記録や端末の管理ツールがあれば、アンケートの回答と照らし合わせて申告漏れを補います。
一覧表にまとめる
サービス名と利用部署、用途、入力する情報、アカウントの種類を一つの表にまとめて次の振り分けの材料にします。
チェックリスト
- サービス名と提供元
- 利用している部署と人数の目安
- 会社のアカウントか個人のアカウントか
- 主な用途(文章作成や翻訳や要約など)
- 入力している情報の種類
- サービスに組み込まれた形かWeb APIか
- 今後も使い続けたいかどうかの希望
リスクに応じて認める・条件付きで認める・止めるに分ける
IPAのガイドラインは、セキュリティ担当者の考慮事項としてリスクマトリクスに沿ったリスク管理の手法を取り上げています。リスクマトリクスは一般に、起こりやすさと起きたときの影響の大きさを組み合わせてリスクを並べる表です。棚卸し表の一件ごとにこの考え方を当てはめると、判断の理由を説明しやすくなります。[1]
- 認める:入力する情報が公開済みのものに限られ、会社として管理できるサービス
- 条件付きで認める:用途や入力してよい情報を限れば業務に役立つサービス
- 止める:機密情報や個人情報の入力が避けられない使い方や、提供条件を確認できないサービス
条件付きで認めるときの条件の例
- 入力してよい情報の範囲を決める
- 会社のアカウントでの利用に切り替える
- 使ってよい業務を限る
- 出力された内容は人が確認してから使う
止めるときに添えること
- 止める理由を具体的に説明する
- 代わりに使える許可済みのAIを示す
- 再検討を申し出る方法を伝える
個人情報保護委員会は生成AIサービスの利用に関する注意喚起を出しています。個人情報を扱う業務がある場合は、振り分けの基準を作る前に担当者が一度目を通しておくと判断の土台になります。[3]
許可したAIの一覧と申請の窓口を決める
IPAのガイドラインは運用担当者の考慮事項として、組織で生成AIを使うための利活用ガイドラインやルールを策定して文書にすることを取り上げています。振り分けた結果は口頭の合意で終わらせず、許可したAIの一覧と利用ルールとして文書に残すことが運用の土台になります。[1]
許可AIの一覧を作る
認める・条件付きで認めるに分けたサービスを一覧にし、条件付きのものには入力してよい情報と用途を書き添えます。
申請の窓口を一つに決める
新しいAIを使いたいときの相談先を情報システムか総務のどちらかに決め、申請の方法を社内に知らせます。
審査の観点をそろえる
棚卸しで使った項目と同じ観点で申請を確認すると、担当者による判断のばらつきを抑えられます。
結果を一覧に反映する
審査の結果はすぐに許可AIの一覧へ反映し、止めたものも理由と一緒に記録しておきます。
時期を決めて見直す
サービスの仕様や社内の使い方は変わるため、見直しの時期を決めて棚卸しをやり直し一覧を更新します。
チェックリスト
- 許可AIの一覧をどこで見られるか伝えた
- 入力してはいけない情報の例を示した
- 申請の窓口と方法を案内した
- 迷ったときの相談先を書いた
- 次の見直しの時期を決めた
参考にしたい公的なガイドライン
- IPA「テキスト生成AIの導入・運用ガイドライン」:2024年7月31日公開。導入担当者と運用担当者とセキュリティ担当者それぞれの考慮事項を章ごとに整理
- デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」:2024年5月29日に初版公開し2025年6月6日に一部内容を修正。利用形態やユースケースごとのリスクと対策を整理
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」:生成AIサービスの利用に関する注意喚起
- NIST「AI Risk Management Framework」:リスクを抑えながらAIへの信頼と活用を促すための指針
IPAのガイドラインは中核人材育成プログラム卒業プロジェクトメンバーの見解に基づくもので、IPAや産業サイバーセキュリティセンターの意見を代表するものではないと明記されています。デジタル庁のガイドブックは行政職員を主な読者としつつ、民間で導入を検討する人の参考にもなるとしています。また今後は別のガイドラインへ統合される予定です。それぞれの位置づけを踏まえて自社の状況に当てはめてください。[1][2]
まとめ
- シャドーAIは禁止だけでは見えなくなるため利用実態の棚卸しから始める
- 棚卸しではサービス名だけでなく用途と入力する情報と利用形態まで記録する
- リスクに応じて認める・条件付きで認める・止めるに振り分け、止めるときは代わりの手段を示す
- 許可したAIの一覧と申請の窓口を文書で定めて時期を決めて見直す
- 公的なガイドラインは位置づけを確かめたうえで自社の判断材料として使う
よくある質問
QシャドーAIの利用が分かった社員は処分すべきですか
Aまずは実態をつかむことを優先するのがおすすめです。処分を前提にすると申告が減り、かえって見えない利用が増えます。IPAのガイドラインも安全な導入と運用を後押しすることを目的にしています。棚卸しを通じて使い方を把握し、許可したAIへ移ってもらう流れを作りましょう。[1]
Q個人アカウントでの利用はすべて止めるべきですか
A一律に止めるより用途と入力する情報で判断するのが現実的です。デジタル庁のガイドブックは、利用形態やユースケースによって想定されるリスクが変わると整理しています。公開済みの情報だけを扱う用途なら条件付きで認め、会社のアカウントへの切り替えを促すといった選択肢もあります。[2]
Q個人情報を扱う部署では何に気をつければよいですか
A個人情報保護委員会が生成AIサービスの利用に関する注意喚起を出しているので、担当者がまず内容を確認しましょう。そのうえで入力してはいけない情報の例を具体的に示し、迷ったときの相談先を決めておくと現場が判断しやすくなります。[3]
出典
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)
- 生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会)
- AI Risk Management Framework(NIST)