DigiRiseセキュリティ診断無料で診断する
生成AIに誤入力したときの対応手順 初動から報告判断と再発防止まで

AIセキュリティ

生成AIに誤入力したときの対応手順 初動から報告判断と再発防止まで

社員が顧客名簿や社外秘の資料を生成AIに入力してしまった。そんな連絡を受けたとき担当者はまず何から手を付ければよいのでしょうか。慌てて本人を問い詰めると次からは報告が遅れたり隠されたりしかねません。この記事では入力した内容と使ったサービスの確認、履歴の削除と学習利用の設定の見直し、個人情報保護委員会の資料にもとづく報告判断、再発防止のルールづくりという順番で初動を整理します。あわせて社員が責められる心配をせずに早く報告できる社内の流れも紹介します。

この記事は、末尾の出典(公的機関・標準化団体などの資料)をもとにデジライズ セキュリティ診断の編集部がAIを使って作成し、出典との照合と表現のチェックを通してから公開しています。

誤入力に気づいたら最初に押さえる流れ

生成AIサービスとは質問や作業指示(プロンプト入力)に応えて文章や画像などを生成するAIを使ったサービスのことです。個人情報保護委員会はこうしたサービスが広く使われている状況を踏まえて利用に関する注意喚起を公表しています。社内で使う場面が増えた分だけ誤入力が起きたときの動き方も業務の手順として決めておくことが大切です。[1]

  1. 事実を確かめる

    何をどれだけどのサービスに入力したかを本人から聞き取り記録します。推測で埋めず分からない点は分からないと書いておきます。

  2. 履歴と設定を見る

    入力した履歴の削除や共有リンクの停止を行い学習利用の設定を確認します。被害が広がる余地を小さくするための手当てです。

  3. 報告の要否を判断

    個人データが含まれる場合は個人情報保護委員会が示す要件に照らして漏えい等報告が必要かを検討します。

  4. ルールを見直す

    なぜ入力してしまったのかを振り返り利用ルールや研修の内容を更新します。個人の責任追及で終わらせないことが要点です。

[2][1]

個人情報保護委員会は漏えい等が発覚したらまず速やかに報告するよう求めています。社内の判断に時間をかけすぎないためにも最初の一報が早く担当者に届く仕組みが全体の土台になります。[2]

責めずに早く報告してもらう社内の流れ

誤入力への対応は担当者が事実を知った時点から始まります。報告した社員が叱責されるのを見た周りの人は次に同じことが起きたとき黙っている方を選びがちです。そうなると確認も削除も報告判断も遅れます。個人情報保護委員会が発覚後の速やかな報告を求めていることを考えても社内で早く情報が上がる流れを先に整えておく価値は大きいといえます。[2]

  1. 窓口へ一報

    気づいた本人がチャットやメールで決められた窓口に連絡します。正確さより早さを優先し分かる範囲だけでよいと周知しておきます。

  2. 受け止めて礼を言う

    窓口の担当は最初に報告への感謝を伝えます。責める言葉や処分の話はこの段階では出さず聞き取りに集中します。

  3. 事実を聞き取る

    入力した情報の種類と量と使ったサービスと時刻を確認します。画面の記録が残っていれば消す前に保存してもらいます。

  4. 対応を共有する

    情報システムと総務と個人情報の管理責任者で状況を共有し削除や報告判断の担当を決めて進めます。

[2]

報告が遅れやすい対応

  • まず誰がやったのかを追及する
  • 報告した社員だけを集めて注意する
  • 経緯が固まるまで連絡を待たせる
  • 窓口が決まっておらず誰に言えばよいか分からない

報告が早く届く対応

  • まず何が起きたのかを確かめる
  • 報告そのものを評価して感謝を伝える
  • 分かる範囲の一報を歓迎する
  • 窓口と連絡手段を事前に周知しておく
[2]

入力した内容と範囲と使ったサービスを確かめる

最初の聞き取りでは後の報告判断に必要な情報を漏れなく集めます。とくに大事なのは入力した情報に個人データが含まれるか、含まれるなら何人分でどんな種類か、という点です。個人情報保護委員会が示す報告の要件には病歴や健康診断の結果などの要配慮個人情報が含まれるか、本人の数がどれくらいかといった項目があるためです。[2]

チェックリスト

  • 入力した情報の種類(氏名や連絡先や病歴や健康診断の結果など)を書き出した
  • 個人データの件数と本人の数をおおよそでも把握した
  • クレジットカード番号やログインIDとパスワードの組み合わせが含まれるかを確かめた
  • マイナンバーが含まれるか含まれるか不明かを確かめた
  • 使ったサービス名と会社契約か個人アカウントかを確かめた
  • 入力した日時と使った端末を記録した
  • 共有機能や公開リンクを使ったか出力を別の場所に貼り付けたかを確かめた
  • 入力画面や履歴の記録を削除前に保存した
[2]

個人情報保護委員会の資料では民間事業者の場合は本人の数が1,000人を超える漏えい等が報告の要件の一つとされています。名簿を丸ごと貼り付けたのか一部の行だけなのかで判断が変わりうるため範囲はできるだけ具体的に確認しておきます。[2]

履歴の削除と学習利用の設定を見直す

事実を確かめたら入力した内容がこれ以上広がらないよう手当てをします。ここでいう学習利用とは入力された内容をサービスの提供側がAIの改善に使うことです。履歴の扱いや学習利用の設定はサービスや契約の種類によって違うため使ったサービスの管理画面と利用規約を見て一つずつ確かめます。[1]

  1. 履歴を削除する

    該当する会話の履歴を削除します。削除の前に入力内容の記録を社内で保存しておくと後の判断に役立ちます。

  2. 共有を止める

    共有リンクや公開設定を使っていた場合は停止します。他の社員に転送していないかもあわせて確認します。

  3. 学習利用を確認する

    入力内容が学習に使われる設定になっていないかを確かめ会社の方針に合わせて変更します。

  4. 提供側の扱いを確認

    削除した履歴が提供側でどう扱われるかを規約や管理者向けの説明で確かめ分からない点は問い合わせます。

  5. 対応を記録する

    いつ誰が何を削除し設定をどう変えたかを残します。報告判断や再発防止の振り返りで使います。

[1]

画面から履歴が消えても入力したという事実は残ります。個人情報保護委員会が示す報告の要件は漏えい等のおそれがある場合も含むとされているため削除できたことと報告が必要かどうかは分けて考えます。[2]

漏えい等の報告に当たるかを判断する

漏えい等報告とは個人データの漏えいなどが起きたとき事業者が個人情報保護委員会などに届け出る手続きのことです。同委員会の資料では一定の要件に当たる場合に報告が義務付けられているとされ、実際に漏れた場合だけでなくそのおそれがある場合も含まれます。生成AIへの入力が個別にどう扱われるかは同委員会のガイドラインやQ&Aで確認し迷う場合は専門家にも相談します。[2]

  • 要配慮個人情報(人種や信条や病歴や犯罪の経歴や健康診断の結果など)が含まれる個人データの漏えい等又はそのおそれ
  • 不正に利用されると財産的被害が生じるおそれがある個人データの漏えい等又はそのおそれ(クレジットカード番号や送金機能のあるサービスのIDとパスワードの組み合わせなど)
  • 不正の目的をもって行われたおそれがある行為による個人データの漏えい等又はそのおそれ
  • 民間事業者では本人の数が1,000人を超える個人データの漏えい等又はそのおそれ
[2]

よくある誤解

  • 実際に漏れたと確定しなければ報告の対象外
  • 人数が少なければ報告はいらない
  • 社員の行為なら不正の目的には当たらない
  • カード番号は一部でも含まれれば対象

資料で示されていること

  • 漏えい等のおそれがある場合も要件に含まれる
  • 要配慮個人情報などは人数の要件とは別の要件になっている
  • 不正の目的の主体は従業者だけでなく第三者も含まれる
  • 下4桁と有効期限の組合せのみなら直ちには報告対象にならないとされる
[2]
  • 期限は発覚したらまず速やかに報告し不正な目的のおそれがある場合は発覚日から60日以内とされている
  • 報告先は原則として個人情報保護委員会で権限が委任されている業種は委任先の省庁になる
  • 委任先は毎年更新されるため報告前に最新の報告先を確かめる
  • 漏れた情報が自社の雇用管理情報や株主情報に含まれる場合は個人情報保護委員会への報告が必要とされている
  • マイナンバーが含まれる場合や含まれるか不明な場合は専用のフォームから報告する
  • Wordの報告様式は社内用の参考資料で報告そのものは入力フォームから行い報告者の欄には事業者の名称を書く
[2]

再発防止のルールを見直す

初動が落ち着いたら同じことが起きにくい仕組みに直します。IPAの中核人材育成プログラム卒業プロジェクトがまとめたテキスト生成AIの導入・運用ガイドライン(最終更新日は2024年7月31日)は運用担当者の考慮事項として利活用ガイドラインやルールの策定と文書化を挙げ、リスクマトリクスに沿ったリスク管理も扱っています。なお同書はIPAの公式見解ではなくプロジェクトメンバーの見解とされています。[3]

チェックリスト

  • 入力してよい情報と入力してはいけない情報の区分を具体例つきで決めた
  • 会社として使ってよいサービスと契約の種類を一覧にした
  • 学習利用の設定や履歴の扱いについて会社としての初期値を決めた
  • 誤入力に気づいたときの報告窓口と連絡手段を周知した
  • 報告した社員を責めない方針を文書に書いた
  • 今回の事例を個人名を伏せて研修の題材にした
  • ルールを見直す時期と担当者を決めた
[3]

社内ルールの土台づくりには個人情報保護委員会の資料も使えます。同委員会は中小企業向けのお役立ちツールとして自己点検チェックリストや個人データ取扱い要領を掲載しているほか、ヒヤリハット事例集やクラウドサービスやテレワーク環境を利用する際の漏えい事案に関する注意喚起、安全管理措置などを解説する研修動画も公開しています。生成AIの利用ルールをこれらと切り離さず個人データの取扱い全体の中に位置づけると運用しやすくなります。[2]

まとめ

  • 誤入力の初動は確認と削除と報告判断と再発防止の順に進める
  • 責めずに早く報告してもらえる窓口と受け止め方を先に決めておく
  • 入力した情報の種類と人数と使ったサービスを削除前に記録する
  • 履歴を削除しても報告の要否は個人情報保護委員会の要件に照らして別に判断する
  • 再発防止は個人の注意ではなく入力ルールと報告の流れの見直しで進める

よくある質問

Q履歴を削除すれば報告しなくてよいですか

A削除は内容が広がるのを抑える手当てで報告の要否とは別の話です。個人情報保護委員会の資料では漏えい等のおそれがある場合も報告の要件に含まれるとされています。入力した情報の種類や人数を確かめたうえで要件に当たるかを検討してください。[2]

Q何人分の個人データを入力したら報告が必要ですか

A民間事業者では本人の数が1,000人を超える漏えい等又はそのおそれが要件の一つです。ただし要配慮個人情報が含まれる場合や財産的被害のおそれがある場合や不正の目的のおそれがある場合は人数とは別の要件として示されています。人数だけで判断しないことが大切です。[2]

Q報告の期限はいつまでですか

A個人情報保護委員会は発覚したらまず速やかに報告するよう求めています。不正な目的で行われたおそれがある場合は発覚日から60日以内とされています。報告先は原則として同委員会で権限が委任されている業種は委任先の省庁になるため事前に確かめておきます。[2]

Q入力してしまった社員にはどう接すればよいですか

Aまず報告してくれたことに感謝を伝え事実の聞き取りに集中します。責める対応が続くと次の報告が遅れやすくなります。IPAの中核人材育成プログラム卒業プロジェクトのガイドラインでも運用担当者の考慮事項として利活用ルールの策定と文書化が挙げられており、原因は仕組みの側で見直すのが現実的です。[3][2]

出典

  1. 生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会)
  2. 漏えい等の対応とお役立ち資料(個人情報保護委員会)
  3. テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)