DigiRiseセキュリティ診断無料で診断する
生成AIの社内ルール見直し手順|作って終わりにしない運用のコツ

AIセキュリティ

生成AIの社内ルール見直し手順|作って終わりにしない運用のコツ

生成AIの社内ルールを作ったあと、そのまま手つかずになっている会社は少なくありません。生成AIのサービスは使える機能が増え、現場の使い方も少しずつ広がっていきます。ルールを放っておくと実態とのずれが大きくなり、守られないルールになりがちです。この記事では、IPAとデジタル庁の資料、NISTのAIリスク管理の枠組みを手がかりにして、利用状況の把握、変更への追従、ヒヤリハットからの改訂、見直しの頻度と担当の決め方を、兼任の担当者でも回せる手順として整理します。

この記事は、末尾の出典(公的機関・標準化団体などの資料)をもとにデジライズ セキュリティ診断の編集部がAIを使って作成し、出典との照合と表現のチェックを通してから公開しています。

生成AIの社内ルールは作った後の見直しが要る

生成AIの社内ルール(利用ガイドライン)は一度作れば終わりというものではありません。IPA(情報処理推進機構)の中核人材育成プログラム卒業プロジェクトがまとめた「テキスト生成AIの導入・運用ガイドライン」は2024年7月31日に公開されました。この資料は、導入に踏み切れない組織だけでなく、導入したものの今の運用が適切かどうか懸念を持つ組織もあると想定しています。そのうえで原因を「生成AIに対する漠然とした不安感」と捉え、リスクと対策を具体的に示すことで安全な導入と運用を後押しするとしています。[1]

デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」は、利用形態やユースケースによって想定されるリスクが変わるという考え方で整理されています。利用形態とは、特定のサービスに組み込まれた形で使うのか、Web API(プログラムから呼び出すための窓口)で大規模言語モデルを使うのかといった使い方の違いです。社内の使い方が広がれば、最初のルールが想定していなかったリスクも出てきます。だからこそ定期的に見直す仕組みが必要になります。[2]

IPAの資料には、記載内容はIPAおよび産業サイバーセキュリティセンターの意見を代表するものではなく、プロジェクトメンバーの見解に基づくと書かれています。社内ルールの根拠として紹介するときは、この位置づけも添えておくと誤解を避けられます。[1]

見直しの軸は測ると管理するの繰り返し

NISTのAI RMF(AIのリスク管理の枠組み)は、リスクを抑えながらAI技術への信頼を育て、AIのイノベーションを後押しすることをねらった指針として示されています。本記事ではこの考え方を社内ルールの見直しに当てはめ、利用の実態を測ることと、分かったリスクに手を打って管理することの二つに分けて考えます。[3]

よくある誤解

  • ルールを配れば運用は回る
  • 禁止事項を増やすほど安全になる
  • 見直しは事故が起きてからでよい
  • 活用を広げることとリスク対策は対立する

実際

  • 使われ方を測らないと守られているか分からない
  • 厳しすぎるルールは隠れた利用を招きやすい
  • ヒヤリハットの段階で直すほうが負担が軽い
  • リスクを抑えることと活用を進めることは両立をめざすもの
[3]

測ると管理するを回すときは、目的を安全と活用の両立に置いておくと判断がぶれにくくなります。たとえば新しい用途の相談が来たとき、一律に禁止するのではなく、どの情報を入力するのか、出力をどこで使うのかを確かめ、条件を付けて認めるという選び方ができます。この判断の積み重ねがそのままルールの改訂材料になります。[3]

利用状況を把握して見直しの材料を集める

見直しの最初の仕事は、ルールが現場でどう使われているかを知ることです。IPAの資料には、すでに生成AIの活用を始めている組織へのヒアリングから課題と対応策をまとめた章(第6章)があります。運用上の悩みは使い始めてから見えてくるものであり、現場の声を集めることが見直しの出発点になります。[1]

チェックリスト

  • 社内で使われている生成AIサービスの一覧がある
  • 部署ごとの主な用途を把握している
  • 会社が認めていないサービスの利用を確かめる手段がある
  • 入力してよい情報の区分が現場で理解されているか確かめた
  • 利用者からの質問や相談を受ける窓口がある
  • 前回の見直し以降に増えた用途を記録している

集め方は大がかりでなくて構いません。簡単なアンケート、問い合わせ記録の振り返り、管理画面で見られる範囲の利用状況など、手元で取れるものから始めます。大切なのは毎回同じ項目で集めることです。前回と比べられるようにしておくと、用途の広がりやルールの守られ方の変化に気づきやすくなります。

新機能やサービス規約の変更に追従する手順

デジタル庁のガイドブックは、テキスト生成AIの利用形態やユースケースの違いを意識し、工程ごとにリスクや留意点を挙げています。同じサービスでも新しい機能が加われば使い方が変わり、考えるべきリスクも変わります。この見方を共有しておくと、規約やお知らせを追いかける必要性を社内で説明しやすくなります。[2]

  1. 確認先を決める

    利用中のサービスごとに、お知らせページや規約の更新通知など確認先を一覧にします。担当者が替わっても追えるよう、一覧の置き場所も決めておきます。

  2. 影響を見極める

    新機能や規約の変更が、入力データの扱い、使える人の範囲、出力の使い方に関わるかを確かめます。関わらなければ記録だけで済ませます。

  3. 反映の仕方を決める

    影響がある場合は、どの条文や手順書を直すかを決めて承認者の確認を取ります。急ぐものは暫定の注意喚起を先に出します。

  4. 周知して記録する

    変更点を短くまとめて利用者に知らせ、いつ何を変えたかを改訂履歴に残します。次の定期見直しで振り返る材料になります。

参考にするガイドライン自体も更新されます。デジタル庁のガイドブック(α版)は2024年5月29日に初版が公開されたあと修正が重ねられ、2025年6月6日には一部内容が修正されました。あわせて、今後は「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合し、その枠組みの中で更新すると案内されています。見直しのたびに参考資料の最新の位置づけも確かめておきましょう。[2]

事故やヒヤリハットからルールを改訂する

ヒヤリハットとは、事故には至らなかったものの危なかった出来事のことです。たとえば社外秘の資料を入力しかけて途中で気づいた、生成AIの回答をそのまま社外向け文書に使いそうになった、といった例です。こうした小さな出来事はルールの抜けや分かりにくさを教えてくれる大事な材料です。

  1. 報告しやすくする

    責めるためではなく改善の材料集めだと伝え、短い様式で報告できる窓口を用意します。入力しかけて気づいた例なども対象にします。

  2. 原因を分けて考える

    ルールを知らなかったのか、ルールが分かりにくかったのか、ルールに抜けがあったのかを分けます。原因によって直す場所が変わるためです。

  3. 優先順位を付ける

    起こりやすさと影響の大きさで並べ、先に手を打つものを決めます。すべてを一度に直そうとしないことが続けるコツです。

  4. 改訂して確かめる

    条文や手順書、研修の内容を直します。次の見直しで同じ種類の報告が減ったかを確かめ、減らなければ別の手を考えます。

IPAの資料は第5章で、セキュリティ担当者の考慮事項として、リスクマトリクスに則ったリスク管理の手法や具体的なセキュリティ対策と、その検証結果を扱っています。リスクマトリクスは一般に、起こりやすさと影響の大きさの二つの軸でリスクを整理する表です。ヒヤリハットの評価にこの表を使うと、なぜこの改訂を先にするのかを経営層や現場に説明しやすくなります。[1]

見直しの頻度と担当の決め方

IPAの資料は、導入担当者(第3章)、運用担当者(第4章)、セキュリティ担当者(第5章)と役割ごとに考慮事項を分けて説明しています。運用担当者の章では、利活用ガイドラインやルールの策定と文書化を扱っています。一人が複数の役割を兼ねることの多い中小〜中堅企業でも、この役割の分け方を借りると誰が何を見るかを決めやすくなります。[1]

  • 定期見直し:年間の予定に組み込み、周期は自社の規模や利用の広がりに合わせて決める
  • 臨時見直し:新機能の追加、規約の変更、事故やヒヤリハットをきっかけに行う
  • 担当:運用の視点とセキュリティの視点を分け、できれば別の人が見る
  • 承認者:改訂の最終判断をする人をあらかじめ決めておく
  • 記録:改訂の内容と判断した理由を履歴に残す

チェックリスト

  • 次回の定期見直しの時期が予定表に入っている
  • 臨時見直しを行うきっかけが文書にしてある
  • 運用とセキュリティの確認担当が決まっている
  • 改訂の承認者が決まっている
  • 改訂履歴を利用者が見られる場所に置いている

兼任の場合は、見直しを一人で抱え込まないことが長続きのコツです。利用状況の集計は総務、規約の確認は情報システム、改訂の承認は管理職というように分担すると、一人あたりの負担を小さくできます。

まとめ

  • 生成AIの社内ルールは作って終わりにせず見直しの仕組みまで用意する
  • 利用状況を毎回同じ項目で集めて前回と比べられるようにする
  • 新機能や規約の変更は確認先を決めて影響を見極めてから反映する
  • ヒヤリハットは責めずに集め起こりやすさと影響で優先順位を付ける
  • 定期見直しと臨時見直しの二本立てにして役割と承認者を決めておく

よくある質問

Q社内ルールの見直しはどのくらいの頻度で行えばよいですか

A参考にした資料では見直しの回数は示されていないため、自社の規模や利用の広がりに合わせて決めます。年間予定に入れる定期見直しと、新機能の追加や規約の変更、ヒヤリハットをきっかけにする臨時見直しの二本立てにすると、間隔が空きすぎるのを防ぎやすくなります。IPAの資料が運用担当者の役割としてルールの策定と文書化を挙げている点も、担当決めの参考になります。[1]

Qデジタル庁のガイドブックは行政向けですが民間企業でも参考になりますか

A対象読者は政府情報システムへの生成AI導入に関わる行政職員とされていますが、自社サービスや業務改善のためにテキスト生成AIの導入を検討している人にも、リスクや対策を考える参考として活用してほしいと書かれています。なお基盤モデル開発者のリスクやディープフェイクなどサービス利用者側のリスクは含まれていない点に注意してください。[2]

Q兼任で手が回りません。最低限なにから始めればよいですか

Aまずは利用中の生成AIサービスの一覧と、それぞれの規約やお知らせの確認先をまとめます。次にヒヤリハットを気軽に報告できる窓口を用意し、最後に次回の見直し日を予定表に入れます。この三つがあれば、変化に気づいて直す流れを小さく回し始められます。

QIPAのガイドラインはIPAの公式見解として扱ってよいですか

A資料には、記載内容はIPAおよび産業サイバーセキュリティセンターの意見を代表するものではなく、中核人材育成プログラム卒業プロジェクトメンバーの見解に基づくと書かれています。社内ルールの根拠として紹介するときは、この位置づけを添えたうえで参考資料として扱うと誤解を避けられます。[1]

出典

  1. テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
  2. テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)
  3. AI Risk Management Framework(NIST)