AIセキュリティ
生成AIの社内ガイドラインの作り方 入れる項目と作る順番を公的資料から整理
生成AIを業務に取り入れたいものの、社員にどう使ってもらえばよいか決めかねている会社は少なくありません。そこで役立つのが社内ガイドラインです。この記事では生成AIの社内ガイドラインの作り方を、入れる項目と作る順番に分けて説明します。あわせてIPAやデジタル庁が公開している資料のどこを読めば参考になるか、作ったあとに社員に守ってもらうための教育と見直しの進め方も紹介します。情報システムや総務の担当者が次にやることを決められるように整理しました。
生成AIの社内ガイドラインが必要な理由
生成AI(文章や画像などを自動で作るAI)を業務で使う組織が増える一方で、導入に踏み切れない組織や、導入したものの今の運用で適切なのか気にしている組織もあります。IPAの「テキスト生成AIの導入・運用ガイドライン」は、こうした状態を組織が抱く漠然とした不安感ととらえています。課題がありそうだと感じていても、それを具体的なセキュリティリスクや対策に落とし込むのが難しいことが不安の原因だという見方です。社内ガイドラインは、この漠然とした不安を「何が危ないのか」「どうすればよいのか」という具体的なルールに置き換える道具だと考えると作りやすくなります。[1]
ガイドラインがないと社員ごとに判断がばらつきます。ある人は顧客の情報をそのまま入力し、別の人は便利な場面でも使うのをためらう、といった状態です。ルールを文章にしておけば、使ってよい範囲と避けるべき使い方を同じ物差しで判断できるようになります。
よくある誤解
- ひな形を写せばすぐに完成する
- 一度作れば当面そのままでよい
- 禁止事項を並べれば守ってもらえる
- 情報システム部門だけで作れる
実際
- 使うサービスや業務に合わせた調整が要る
- サービスや公的資料の更新に合わせた見直しが要る
- 理由と代わりの手段が伝わらないと守られにくい
- 導入や運用やセキュリティそれぞれの担当の視点が要る
参考にする公的ガイドラインとどこを読むか
IPA(独立行政法人 情報処理推進機構)のページで公開されている「テキスト生成AIの導入・運用ガイドライン」は、2024年7月31日に公開されました。生成AIのセキュリティリスクと対策を示し、組織の安全な導入と運用を後押しすることを目的にしています。担当者の役割ごとに章が分かれているので、社内ガイドライン作りでは次の章が特に参考になります。[1]
- 第3章 生成AIの導入について:導入担当者の考慮事項。どのサービスをどう入れるかを決める段階で読む
- 第4章 生成AIの運用について:運用担当者向け。利活用ガイドラインやルールの策定と文書化の考え方があり社内ガイドライン作りの中心になる
- 第5章 生成AIのリスク管理について:セキュリティ担当者向け。リスクマトリクスに沿ったリスク管理と具体的な対策や検証結果
- 第6章 組織ヒアリング分析:すでに生成AIを使い始めた組織が感じた課題と対応策。教育や運用のつまずきを考える材料になる
- 第7章 各国の動向:海外の規制や経済の動き。見直しの際に外部環境を確かめる材料になる
デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」は、行政サービスなどで生成AIを使う際に想定されるリスクと対応策をまとめた技術的なレポートです。2024年5月29日に初版が公開され、2025年6月6日に一部内容が修正されています。主な読者は政府情報システムへの導入に関わる行政職員ですが、自社サービスや業務改善のためにテキスト生成AIの導入を検討している人にも、リスクと対策を考える参考として使うよう案内されています。[2]
このガイドブックで特に参考になるのは、利用形態やユースケース(どんな業務でどう使うか)によって想定されるリスクが変わるという整理です。特定のサービスに組み込まれた形で使うのか、大規模言語モデル(文章を生成するAIの中核となる仕組み)をWeb API(プログラムから呼び出すための窓口)で使うのかで、気をつける点が違うという考え方です。一方で、基盤モデルを作る側のリスクや、ディープフェイクのようなサービス利用者側のリスクは扱っていない点に注意してください。[2]
IPAの資料は、IPAや産業サイバーセキュリティセンターの意見を代表するものではなく、人材育成プログラムを修了したプロジェクトメンバーの見解に基づくと明記されています。デジタル庁のガイドブックも、今後は「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合され、その枠組みの中で更新されるとされています。参考にするときは最新の版と資料の位置づけを確かめてから使いましょう。[1][2]
社内ガイドラインに入れる項目
項目が多すぎると読まれず、少なすぎると判断に迷います。まずは次の項目を骨組みにして、自社の業務に合わせて中身を足していく進め方がおすすめです。
チェックリスト
- 目的と基本方針:何のために生成AIを使いどんな姿勢で扱うか
- 対象者と対象業務:派遣社員や業務委託先を含めるかどうか
- 使ってよいサービスと利用の申請方法
- 入力してはいけない情報:顧客の個人情報や取引先から預かった秘密情報など
- 出力内容の確認方法と最終的な責任の所在
- 社外に出す文書や成果物に使うときの扱い
- 困ったときや誤って入力したときの連絡先
- 見直しの時期と担当部署
使ってよいサービスを決める項目では、利用形態ごとに分けて書いておくと運用しやすくなります。デジタル庁のガイドブックが示すように、既存のサービスに組み込まれた生成AIを使う場合と、Web APIで自社のシステムにつなぐ場合とでは想定されるリスクが異なるためです。一般の社員が画面から使うサービスと開発部門がシステムに組み込む使い方とで、承認する人や確認の手順を分けておくと現場が迷いにくくなります。[2]
入力してはいけない情報を「機密情報」とだけ書くと人によって解釈が分かれます。顧客名簿や見積書や人事評価など、社内で実際に扱っている書類の名前を例に挙げておくと判断しやすくなります。
社内ガイドラインを作る順番
IPAのガイドラインは、導入担当者と運用担当者とセキュリティ担当者という役割に分けて考慮事項を整理しています。小さな会社では一人が複数の役割を兼ねることも多いですが、作る順番もこの役割の流れに沿うと抜けが出にくくなります。[1]
利用の現状を把握する
どの部署が何の業務で生成AIを使っているか、使いたいと考えているかを聞き取ります。許可や禁止を決める前に実態を知ることが出発点です。
担当と役割を決める
導入を決める人と日々の運用を回す人とセキュリティを確認する人を決めます。兼任でも誰が何を判断するかをはっきりさせておきます。
リスクを洗い出し並べる
想定されるリスクを書き出し優先順位を付けます。IPA資料の第5章にあるリスクマトリクスに沿ったリスク管理の考え方が参考になります。
ルールを文書にまとめる
前の章の項目に沿って文書化します。IPA資料の第4章にあるルール策定と文書化の考え方を下敷きにし、自社の業務の言葉に置き換えます。
試行してから広げる
一部の部署で試しに運用し、分かりにくい点や現場で困った点を直してから全社に公開します。
リスクマトリクスとは、リスクを起こりやすさと起きたときの影響の大きさという二つの軸で整理する表のことです。すべてのリスクに同じ力をかけるのではなく、影響が大きく起こりやすいものから対策とルールを決めていくと、限られた人手でも進めやすくなります。IPAの資料では具体的なセキュリティ対策とその検証結果も紹介されているので、対策を検討するときの材料にできます。[1]
最初からすべての項目を細かく決めようとすると公開が遅れ、その間に各自の判断で使われる状態が続きます。入力してはいけない情報と使ってよいサービスなど優先度の高い項目から先に公開し、試行の結果を見て足していく方法も検討してください。
社員に守ってもらうための教育の進め方
ガイドラインは配っただけでは守られにくいものです。なぜそのルールがあるのかが伝わると、想定していない場面でも社員が自分で判断しやすくなります。IPAの資料の第6章には、すでに生成AIを使い始めた組織へのヒアリングから見えた課題と対応策がまとめられているので、教育で取り上げる題材を選ぶときの参考になります。[1]
伝わりにくい教育
- 禁止事項を読み上げるだけ
- 全社員に同じ内容を一度だけ説明する
- 違反したときの処分だけを強調する
伝わりやすい教育
- ルールの理由と代わりの手段をセットで伝える
- 部署の業務に沿った具体例で説明する
- 迷ったときの相談先を示し気軽に聞ける雰囲気を作る
- 新しく入った社員や異動してきた社員には利用を始める前に短い説明を行う
- 入力してよい例とよくない例を並べた早見表を配る
- ガイドラインを改訂したら変更点だけをまとめて周知する
- うっかり入力してしまったときの連絡手順を事前に確認しておく
- 社員からの質問をためて社内のよくある質問集にする
作ったあとの見直しの回し方
生成AIをめぐる状況は動きが速く、参考にする公的資料も更新されていきます。実際にデジタル庁のガイドブックは初版の公開後に誤記の修正や一部内容の修正が行われ、別のガイドラインへ統合される予定とされています。IPAの資料も各国の規制や経済の動向を扱っており、国内外の環境の変化がルールに影響しうることが読み取れます。社内ガイドラインも作って終わりにせず、見直す前提で運用しましょう。[2][1]
チェックリスト
- 使ってよいサービスの一覧が実際の利用状況と合っているか
- 利用しているサービスの規約や設定に変更がないか
- 参考にした公的資料に新しい版や統合先の資料が出ていないか
- 社員からの質問や相談で多かった点がルールに反映されているか
- 誤入力などのヒヤリハット(事故には至らなかったが危なかった出来事)が起きていないか
- 新しい業務やシステムで生成AIを使う計画がないか
見直しは決まった時期に行うだけでなく、新しいサービスを導入するときや社内で気になる出来事があったときにも行うと決めておくと、ルールが古くなりにくくなります。見直した結果は変更点として社員に伝え、教育の内容にも反映させることで、ガイドラインと現場の使い方のずれを小さく保てます。
まとめ
- 社内ガイドラインは生成AIへの漠然とした不安を具体的なルールに置き換えるためのもの
- 項目は目的と対象範囲や使ってよいサービスや入力禁止の情報や出力の確認や連絡先や見直し時期を骨組みにする
- 作る順番は現状把握から役割決めとリスクの洗い出しを経て文書化と試行へ進める
- IPAの資料は役割ごとの章をデジタル庁のガイドブックは利用形態ごとのリスク整理を参考にする
- 教育ではルールの理由と相談先を伝え公的資料の更新に合わせて見直しを続ける
よくある質問
Q公的機関のガイドラインをそのまま社内ルールにしてもよいですか
Aそのまま使うのはおすすめしません。IPAの資料はプロジェクトメンバーの見解に基づくもので、デジタル庁のガイドブックは主に行政職員を読者としています。どちらも考え方や項目の参考にとどめ、自社で使うサービスや業務の言葉に置き換えて作るのが現実的です。[1][2]
Q担当者が一人しかいない会社ではどう進めればよいですか
AIPAの資料は導入と運用とセキュリティの役割ごとに考慮事項を整理しています。一人で兼ねる場合もこの三つの視点で順に確認すると抜けを減らせます。最初は入力してはいけない情報と使ってよいサービスに絞って公開し、少しずつ項目を足していく方法もあります。[1]
Q画像や音声を作る生成AIも同じガイドラインで扱えますか
A基本の項目は共通にできますが注意点は異なる場合があります。デジタル庁のガイドブックはテキスト生成AIに焦点を当てており、ディープフェイクのような利用者側のリスクは扱っていません。画像や音声を使う業務がある場合は用途に合わせた確認項目を別に加えましょう。[2]
Qガイドラインはいつ見直せばよいですか
A自社の状況に合わせて定期的な見直し時期を決め、それに加えて新しいサービスの導入時や参考にした公的資料が更新されたときにも見直すのが現実的です。デジタル庁のガイドブックのように参考資料自体が修正されたり別の資料へ統合されたりすることもあるため、参考元の最新の状況もあわせて確認しましょう。[2]
出典
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)