AIセキュリティ
生成AIの情報漏洩対策 入力した情報の行き先と社内で決める3つのルール
生成AIを業務で使う社員が増えるなかで「入力した内容はどこへ行くのか」「顧客の個人情報を入れてしまったらどうなるのか」と不安を感じている情報システムや総務の担当者は多いのではないでしょうか。一律に禁止すると、かえって社員が隠れて個人のアカウントで使うおそれがあります。大切なのは、入力してよい情報の線引きと使うサービスの設定、そして困ったときの報告の流れを会社として先に決めておくことです。この記事では公的機関の資料を手がかりに、今日から取りかかれる生成AIの情報漏洩対策を順番に整理します。
社員が生成AIに入力した情報はどこへ行くのか
個人情報保護委員会は生成AIサービスを、質問や作業指示(プロンプト入力:AIへの指示文を打ち込むこと)に応えて文章や画像などを生成するAIを利用したサービスと説明しています。社員が入力欄に貼り付けた文章は手元のパソコンの中だけで処理されるとは限らず、多くの場合はサービスを提供する事業者の側へ送られて処理されます。[1]
送られた情報がその後どれだけの期間保存されるのか、サービスの改善に使われるのかといった扱いは、サービスの種類や契約の内容、利用者側の設定によって異なります。つまり「どこへ行くのか」の答えは一つではなく、使っているサービスごとに確かめる必要があります。ここを社員一人ひとりの判断に任せていると、同じ社内でも情報の扱いがばらばらになります。
よくある誤解
- 画面を閉じれば入力した内容は消える
- 有名なサービスなら何を入れても問題ない
- 会社のパソコンで使えば社内の扱いになる
実際
- 保存や利用の扱いはサービスと設定しだいで変わる
- 入れてよい情報かどうかは会社が決める必要がある
- 個人のアカウントで使えば会社の管理の外になりやすい
公的機関の資料から分かる対策の方向性
個人情報保護委員会は生成AIサービスの普及を踏まえて、利用に関する注意喚起を公表しました。あわせてChatGPTを開発・提供する事業者に対しても注意喚起を行ったことを明らかにしています。利用する側と提供する側の両方に目を向けている点は、社内ルールを考えるうえでも参考になります。[1]
IPAのページで公開されている「テキスト生成AIの導入・運用ガイドライン」は2024年7月31日に公開されました。組織が生成AIに対して抱く漠然とした不安感を、具体的なセキュリティリスクと対策に落とし込むことを目的にしています。導入担当者・運用担当者・セキュリティ担当者のそれぞれの考慮事項が章ごとにまとめられており、運用の章では利活用のガイドラインやルールを作って文書にすることが扱われています。[2]
デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」は2024年5月29日に初版が公開され、2025年6月6日に一部内容が修正されました。今後は「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合されて、その枠組みの中で更新されるとされています。特定のサービスに組み込まれた形で使うのか、Web API(プログラムからAIを呼び出す仕組み)の形で使うのかといった利用形態やユースケースによって、想定されるリスクが変わるという考え方が示されています。[3]
IPAのガイドラインは中核人材育成プログラムの卒業プロジェクトメンバーの見解に基づくもので、IPAの意見を代表するものではないと明記されています。デジタル庁のガイドブックは行政職員を主な読者としていますが、自社サービスや業務改善のために導入を検討する人も参考にできるとされています。どちらも自社の事情に合わせて読み替える前提で活用しましょう。[2][3]
ルール1 入力してよい情報の線引きを決める
最初に決めたいのは、どの情報なら生成AIに入力してよいかという線引きです。おすすめは情報を「入力してよい」「条件付きで入力してよい」「入力しない」の3つに分ける方法です。細かすぎる基準は現場で使われなくなるため、社員が迷ったときに一目で判断できる粒度にとどめます。IPAのガイドラインでも、運用担当者の考慮事項として利活用のルールを策定し文書化することが取り上げられています。[2]
- 入力してよい:すでに公開している情報や一般的な知識に関する質問
- 条件付き:社内向けの資料など。会社が許可したサービスで固有名詞を伏せる場合に限る
- 入力しない:顧客や社員の氏名・連絡先などの個人情報
- 入力しない:取引先から秘密として預かった情報や契約の中身
- 入力しない:公表前の製品情報や経営に関わる数値
- 入力しない:パスワードやシステムの接続情報
個人情報保護委員会が生成AIサービスの利用について注意喚起を出していることからも分かるように、個人情報の扱いは特に慎重に考えるべき領域です。迷う情報は「入力しない」側に置き、必要が出てきたら担当部署に相談してから判断する運用にすると、現場の負担と漏洩の心配を両方抑えやすくなります。[1]
ルール2 会社で使うサービスとその設定をそろえる
線引きを決めても、社員が思い思いのサービスを使っていては守られているか確かめられません。デジタル庁のガイドブックが示すように、利用形態やユースケースによって想定されるリスクは変わります。会社として使ってよいサービスを決め、その設定を管理者の側でそろえておくことが大切です。[3]
チェックリスト
- 会社として利用を認めるサービスの一覧を作った
- 利用規約で入力した情報の保存や利用の扱いを確認した
- 入力内容がサービス改善に使われるかとそれを止める設定の有無を確認した
- 個人のアカウントではなく会社で管理するアカウントで使う形にした
- 会話履歴の保存と削除の方法を把握した
- 退職や異動のときにアカウントを止める手順を決めた
サービスの画面や設定項目の名前は更新によって変わることがあります。一度確認して終わりにせず、定期的に設定を見直す担当者と時期を決めておきましょう。
ルール3 入力してしまったときの報告の流れを決める
ルールを決めても、うっかり入力してしまう場面はなくなりません。そのときに社員が黙ってしまうと、会社は状況をつかめず対応が遅れます。だからこそ「間違えたらすぐ知らせる」流れを先に決め、報告した人を責めないことを周知しておくことが大切です。
入力をやめて手を止める
気づいた時点で続きの入力や共有をやめます。画面を閉じる前に、どのサービスに何を入力したかを分かる範囲で控えておきます。
決められた窓口へ報告
情報システムや総務など、あらかじめ決めた窓口へ連絡します。報告の手段と連絡先は社内の誰でも見られる場所に載せておきます。
入力した内容を整理する
個人情報が含まれるか、取引先の情報かなど、入力した情報の種類と範囲を窓口と一緒に確認して記録します。
サービス側の対応を確認
履歴の削除などサービス上でできる対応を確認します。個人情報が含まれる場合は個人情報保護委員会の公表資料を確かめ、必要に応じて専門家に相談します。
ルールを見直す
なぜ入力してしまったのかを振り返り、線引きの分かりにくさや設定の不足があればルールと周知の内容を改めます。
報告の流れは生成AI専用に新しく作らなくても、既存の情報セキュリティ事故の連絡体制に「生成AIへの誤入力」を一項目として加える形でもかまいません。社員が覚える窓口を増やさない方が、報告は集まりやすくなります。
ルールを文書にして社内に定着させる
IPAのガイドラインは第4章で運用担当者向けに利活用ガイドラインやルールの策定と文書化を、第5章でリスクマトリクスに沿ったリスク管理手法を扱っています。リスクマトリクスとは、起こりやすさと起きたときの影響の大きさを掛け合わせてリスクを並べる考え方です。決めた内容を文書にして、優先して手を打つところを見える形にしておくと、担当者が替わっても運用を続けやすくなります。[2]
- 利用の目的と対象となる社員
- 会社として使ってよいサービスの一覧
- 入力してよい情報の線引きと具体例
- サービスの設定とアカウント管理の決まり
- 誤って入力したときの報告の窓口と流れ
- ルールを見直す担当者と時期
文書は配って終わりにせず、短い説明会や社内チャットでの周知を組み合わせて伝えます。現場から出てきた「この情報は入れてよいか」という質問をためておき、線引きの具体例に追加していくと、ルールが実際の業務に合ったものに育っていきます。
まとめ
- 社員が入力した情報の保存や利用の扱いはサービスや設定によって異なるため会社として確かめる必要がある
- 入力してよい情報と入力しない情報の線引きを社員が迷わない粒度で決める
- 会社として使うサービスを絞り利用規約と設定を管理者の側でそろえる
- 誤って入力したときに責めずにすぐ報告できる流れを既存の連絡体制に組み込む
- 決めた内容を文書にして現場の質問を取り込みながら定期的に見直す
よくある質問
Q生成AIの利用は禁止した方が安全ではありませんか
A一律に禁止すると、業務で便利だと感じた社員が個人のアカウントで隠れて使い、会社が状況を把握できなくなるおそれがあります。使ってよいサービスと入力してよい情報を決めたうえで認める方が、管理しやすくなります。IPAのガイドラインも組織の生成AI利用の不安感を払拭し、安全な導入と運用を促すことを目的にしています。[2]
Q入力した内容はAIの学習に使われてしまうのですか
A入力した情報がサービスの改善などに使われるかどうかは、サービスの種類や契約の内容、利用者側の設定によって異なります。会社で使うサービスを決めたら利用規約と設定画面を確認し、扱いが分からないサービスには個人情報や機密を入力しない決まりにしておくと安心です。
Q公的機関のガイドラインは中小企業でも参考になりますか
A参考になります。デジタル庁のガイドブックは行政職員を主な読者としつつ、自社サービスや業務改善のために導入を検討する人も参考にできるとしています。IPAのガイドラインは導入・運用・リスク管理の担当者ごとの考慮事項をまとめています。自社の規模に合わせて必要な部分から取り入れましょう。[3][2]
Q社員が顧客の個人情報を入力してしまったらどうすればよいですか
Aまず入力をやめ、どのサービスに何を入力したかを控えたうえで社内の窓口へ報告してもらいます。窓口では情報の種類と範囲を整理し、履歴の削除などサービス上でできる対応を確認します。個人情報保護委員会は生成AIサービスの利用について注意喚起を出していますので、公表資料を確かめ、必要に応じて専門家に相談してください。[1]
出典
- 生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会)
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)