AIセキュリティ
生成AIの利用ログ管理 中小企業でも続く残す項目と点検の決め方
生成AIの業務利用を許可したものの「実際にどう使われているのか分からない」と感じている担当者は少なくありません。利用ログとは、誰がいつどのサービスを何の目的で使ったかを残す記録のことです。本記事ではIPAとデジタル庁のガイドライン、NISTのAIリスクマネジメントフレームワークの考え方をもとに、残す項目と保存期間、閲覧する人、定期点検の回し方を順に決めていきます。監視しすぎて社員が使わなくなる事態を避けつつ、誤入力が起きたときの調査にも役立つ最小限の記録のしかたを紹介します。
生成AIの利用ログを残す目的を先に決める
IPAのガイドラインは、生成AIを導入したものの適切に運用できているのか懸念を持つ組織があることに触れています。そしてその原因を「組織の生成AIに対する漠然とした不安感」と捉えています。課題があることは分かっていても、具体的なリスクや対策に落とし込めないことが不安につながるという見立てです。[1]
利用ログは、この漠然とした不安を具体的な事実に置き換えるための道具です。どの部署がどのサービスをどんな業務に使っているかが見えれば、注意が必要な使い方とそうでない使い方を分けて考えられます。何も記録がないと、問題が起きたときに範囲を確かめられず、必要以上に利用を止める判断に傾きがちです。
NISTのAI RMF(米国国立標準技術研究所がまとめたAIのリスク管理の枠組み)は、リスクを抑えながらAIへの信頼を育て、AIのイノベーションを後押しすることをねらいとしています。利用ログの管理もこの両立を目指すと考えると、記録の目的は利用を締め付けることではなく、安心して使い続けられる状態をつくることだと整理できます。[3]
ログを取り始める前に「何のために見返すのか」を一文で決めておきましょう。たとえば「誤入力が起きたときに影響範囲を確かめるため」「ルールが現場に合っているかを点検するため」のように目的を絞ると、残す項目も閲覧する人も自然に決まります。
IPAとデジタル庁とNISTの指針から考え方をつかむ
- IPAの「テキスト生成AIの導入・運用ガイドライン」は2024年7月31日に公開されました。第4章で運用担当者向けに利活用ガイドラインやルールの策定と文書化を扱っています
- 同じくIPAのガイドラインは第5章でセキュリティ担当者向けにリスクマトリクス(起こりやすさと影響の大きさでリスクを並べる表)に沿ったリスク管理を、第6章で既に活用を始めた組織へのヒアリング結果を扱っています
- デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」は、利用形態やユースケースによって想定されるリスクが変わるとし、工程ごとのリスクや留意点を挙げています
- デジタル庁のガイドブックは行政職員向けですが、自社サービスや業務改善のために導入を検討する人にも参考として活用するよう案内しています。2025年6月6日に一部内容が修正され、今後は別のガイドラインに統合して更新される予定です
- NISTのAI RMFは、リスクを抑えながらAI技術への信頼とイノベーションを両立させることをねらった指針です
よくある誤解
- ガイドラインを読めば自社のログ項目がそのまま決まる
- ログは細かく多く取るほど安心
- 行政向けの資料は民間企業には関係ない
実際
- 指針は運用ルールやリスク管理の考え方を示すもので項目は自社の使い方に合わせて決める
- 項目が増えるほど点検されなくなり社員の利用も萎縮しやすい
- デジタル庁のガイドブックは導入を検討する行政職員以外の人にも参考にするよう案内している
三つの指針に共通するのは、生成AIを使わないことで安全を保つのではなく、リスクを見える形にしたうえで使い続けるという姿勢です。利用ログはその土台になる記録だと位置づけると、社内への説明もしやすくなります。[1][3]
残す項目は最小限から始める
項目を決める前に、自社の利用形態を整理しておきます。デジタル庁のガイドブックは、特定のサービスに組み込まれた状態で使うのか、大規模言語モデルをWeb API形式(ほかのシステムから呼び出して使う形)で使うのかといった利用形態によってリスクが変わるとしています。ブラウザで外部サービスを使う場合と、社内システムに組み込んで使う場合とでは、取れる記録も確認できる範囲も異なります。[2]
チェックリスト
- 利用日時
- 利用者を特定できる社員IDやアカウント
- 使ったサービスや機能の名前
- 業務の大まかな区分(文書作成や要約や翻訳など)
- 機密情報や個人情報を扱う業務かどうかの区分
- ルールの例外として申請された利用かどうか
- 誤入力などの報告があった場合の対応記録
入力した文章(プロンプト)の全文を常に残すかどうかは慎重に決めます。全文には社員の試行錯誤や個人的な言い回しも含まれ、読む側の負担も大きくなります。まずは誰がいつ何の業務に使ったかが分かる記録にとどめ、全文の確認は事故の調査など限られた場面に絞る方法が続けやすいでしょう。利用中のサービスの管理機能でどこまで確認できるかは、契約内容や設定によって異なるため導入時に確かめておきます。
項目は後から増やせますが、一度取り始めた細かな記録を減らすのは社内の合意が必要になり手間がかかります。最初は少なめに始め、点検で足りないと分かった項目を足していく順番がおすすめです。
保存期間と閲覧できる人をルールに書く
保存期間は年数から決めるのではなく、何のために見返すかから逆算します。誤入力の発覚が遅れたときに調査できるか、前回の点検結果と比べられるか、社内の文書保存規程と食い違わないか、といった観点で検討します。IPAのガイドラインが運用担当者の考慮事項として利活用ルールの策定と文書化を挙げているように、決めた期間は利活用ルールに明記しておくと担当者が替わっても運用がぶれません。[1]
- 運用担当者:定期点検で部署別やサービス別の集計を確認する
- セキュリティ担当者:リスク評価や誤入力の調査のときに個人単位の記録を確認する
- 部門長:自部署の集計だけを確認しルールの浸透度を把握する
- 経営層:点検結果の要約を受け取り方針の見直しを判断する
IPAのガイドラインは、導入担当者と運用担当者とセキュリティ担当者のそれぞれの考慮事項を章を分けて説明しています。中小企業では一人が複数の役割を兼ねることも多いため、人ではなく役割ごとに閲覧できる範囲を決めておくと、兼任していても線引きを保ちやすくなります。[1]
何を記録し誰が見るのかは社員に公開しておきましょう。記録の範囲が分からないと必要以上に警戒されて利用が止まる原因になります。個人単位の詳細を見る場面を調査時に限ることや、閲覧したこと自体も記録に残すことを書いておくと安心感が高まります。
定期点検は小さく回して続ける
集計を出す
部署別やサービス別の利用状況を一覧にします。個人名ではなく集計で見ることを基本にし、点検の負担を軽くします。
想定外の使い方を拾う
許可していないサービスの利用や機密情報を扱う業務での利用など、ルールと違う動きがないかを確かめます。
リスクを評価する
見つかった使い方をリスクマトリクスに当てはめ、起こりやすさと影響の大きさから優先順位をつけます。
ルールと研修を直す
現場に合わないルールは見直し、誤解が多い点は研修や社内向けの案内で補います。
結果を共有する
点検で分かったことと変更点を社員に伝え、記録が利用しやすさの改善に使われていることを示します。
点検の間隔は、導入直後は短めに設定し、利用状況が落ち着いてきたら延ばしていくと無理なく続けられます。毎回すべてを見る必要はなく、前回の点検で気になった点を中心に確認するだけでも十分に意味があります。
NISTのAI RMFがリスクの低減とイノベーションの後押しを両立させる考え方を示しているように、点検は禁止事項を増やすためではなく、安心して使える範囲を広げるために行うものです。点検の結果として許可するサービスや用途が増えることも、立派な成果だと捉えましょう。[3]
誤入力が起きたときにログを調査に使う
報告を受け止める
機密情報を入力してしまったという報告は責めずに受け止めます。早く報告されるほど対応の選択肢が増えます。
範囲を確かめる
利用ログで日時や使ったサービスを確かめ、ほかにも同じような入力がないかを調べます。
サービス側を確認する
利用中のサービスの管理機能や契約内容を確かめ、入力内容の削除や扱いについて取れる手段を確認します。
影響を評価して伝える
入力した情報の種類から影響を評価し、必要に応じて社内の関係部署や取引先への連絡を判断します。
ルールに反映する
起きた原因を整理し、利活用ルールや研修、残す項目の見直しにつなげます。
IPAのガイドラインは、既に生成AIの活用を始めた組織へのヒアリングから、組織が感じる課題と対応策を章を設けてまとめています。実際の運用で起きたことを次の対策に生かすという姿勢は、自社の誤入力対応にもそのまま当てはまります。調査で分かったことは点検の観点に加え、同じことが繰り返されない仕組みに変えていきましょう。[1]
誤入力の調査で個人単位の記録を見るときは、目的と閲覧者をあらかじめ決めたルールに沿って行います。調査が罰を与えるためのものと受け取られると、次から報告が上がりにくくなり、かえって発見が遅れる原因になります。
まとめ
- 利用ログの目的は社員の監視ではなくあとから確かめられる状態をつくることだと最初に決める
- IPAとデジタル庁とNISTの指針は考え方の枠組みとして使い具体的な項目は自社の利用形態に合わせて決める
- 残す項目は誰がいつ何の業務に使ったかが分かる最小限から始め点検で足りない分を足していく
- 保存期間と閲覧できる人は役割ごとに決めて利活用ルールに書き社員にも公開する
- 定期点検と誤入力の調査で分かったことをルールや研修に反映し安心して使える範囲を広げていく
よくある質問
Qプロンプトの全文はログとして残すべきですか
A最初から全文を常に残す必要はありません。全文には社員の試行錯誤も含まれ、読む側の負担も大きくなります。まずは利用日時や利用者、サービス名、業務区分などを残し、全文の確認は事故調査など限られた場面に絞る方法が続けやすいです。利用形態によって取れる記録は変わるため、使っているサービスで何が確認できるかを導入時に確かめておきましょう。[2]
Q行政向けのデジタル庁のガイドブックは民間企業でも参考になりますか
A参考になります。デジタル庁のガイドブックは政府情報システムへの導入に関わる行政職員を主な読者としていますが、自社サービスや業務改善のためにテキスト生成AIの導入を検討する人にも、リスクや対策を考える参考として活用するよう案内しています。利用形態やユースケースによってリスクが変わるという整理は、ログ項目を決める際にも役立ちます。[2]
Qログを取ると社員が生成AIを使わなくなりませんか
A記録の範囲や閲覧者が分からないと、警戒されて利用が減ることはあり得ます。何を記録し誰がどんな場面で見るのかを公開し、普段は集計だけを確認することを伝えると安心感が高まります。NISTのAI RMFもリスクを抑えながらイノベーションを後押しする考え方を示しており、点検の結果を使いやすさの改善に生かす姿勢が大切です。[3]
Q保存期間はどのくらいにすればよいですか
A一律の年数を決めるより、誤入力の発覚が遅れたときに調査できるか、前回の点検と比べられるか、社内の文書保存規程と合っているかから逆算して決めるのがおすすめです。IPAのガイドラインが運用担当者の考慮事項として利活用ルールの策定と文書化を挙げているように、決めた期間はルールに明記しておきましょう。[1]
出典
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)
- AI Risk Management Framework(NIST)