AIセキュリティ
AIガバナンス体制を中小企業で回す役割分担と経営報告の決め方
生成AIの利用ルールや評価シートを作ったのに、現場で使われなくなっていく。そう感じている情報システムや総務の担当者は少なくありません。原因の多くは文書の中身ではありません。誰が決めて誰が承認し誰が見直すのかが決まっていないことです。この記事では、AIガバナンス(AIを安全に使い続けるための社内の決め方と見張り方)を兼任担当者だけでも回せる形に落とし込みます。米国の枠組みと国内のガイドラインを手がかりに、役割分担と経営層への報告の仕方を順に整理します。
ルールを作っても生成AI活用が続かない理由
IPAのプロジェクトがまとめた導入・運用ガイドラインは、生成AIを使いたくても導入に踏み切れない組織や、導入後の運用がこれで適切なのか心配している組織があると想定しています。その原因を「漠然とした不安感」と呼び、課題があることは分かっても具体的なリスクや対策に落とし込めないことが不安につながると説明しています。[2]
この不安は、ルール文書を増やすだけでは消えません。判断に迷う場面が来たときに相談先や決める人が分からなければ、現場は使うのをやめるか、黙って使うかのどちらかになりがちです。体制づくりの目的は、迷ったときの行き先をはっきりさせることにあります。
よくある誤解
- 利用ルールを配れば体制はできている
- 担当者が一人いれば判断も任せてよい
- 一度作った評価シートはそのまま使える
実際
- ルールを誰が改めるか決めないと古くなる
- 申請と承認が同じ人だと判断の根拠が残らない
- 使い方や指針が変われば評価項目も見直しが要る
統治の考え方を中小企業向けに置き換える
米国のNIST(米国国立標準技術研究所)が公開したAI RMF(AIリスクマネジメントフレームワーク)は、リスクを抑えながらAI技術への信頼を育て、AIの活用と革新を後押しすることを狙った指針です。止めるための仕組みではなく、安心して使い続けるための仕組みとして読むと中小企業にもなじみます。[1]
この記事では統治という言葉を、AIの使い方について決める人と承認する人と見直す人を定めておく仕組みという意味で使います。大企業のような専任組織がなくても、次の三つの問いに答えが出ていれば最初の一歩としては十分です。
- 新しい使い方を始めてよいかを最終的に決めるのは誰か
- 申請された内容を確認して承認するのは誰か
- ルールと評価シートをいつ誰が見直すか
- 問題が起きたときに最初に連絡を受けるのは誰か
デジタル庁のガイドブックは、サービスに組み込まれた形で使うかWeb API(外部のAIを自社の仕組みから呼び出す接続口)で使うかといった利用形態や、使う場面によって想定されるリスクが変わると整理しています。体制を考えるときも、AI全体で一律に決めるより使い方ごとに判断する前提にしておくと運用しやすくなります。[3]
責任者と承認者と利用部門の役割分担
IPAのガイドラインは、第3章で導入担当者、第4章で利用ガイドラインやルールを文書化する運用担当者、第5章でリスクマトリクス(起こりやすさと影響の大きさでリスクを並べる表)を使うセキュリティ担当者の考慮事項を扱っています。役割を分けて考えるという点は、人数の少ない会社でもそのまま参考になります。[2]
- AI活用責任者:経営層か部門長が務め、使ってよい範囲の方針と最終判断を持つ
- 承認者:申請された使い方を確認し、可否を決めて記録を残す
- 運用窓口:兼任の情報システムや総務担当が務め、申請の受付とルールの更新案づくりを担う
- 利用部門:業務での使い方を申請し、気づいた問題や改善案を窓口に伝える
兼任で起きがちなこと
- 窓口担当が申請も承認も一人で抱える
- 判断基準が担当者の頭の中にしかない
- 担当者が不在だと利用が止まる
回すための工夫
- 承認だけは別の人に任せて自分で承認しない
- 判断基準を評価シートに書いて共有する
- 代わりに承認できる人を一人決めておく
一人が複数の役割を兼ねること自体は問題ありません。避けたいのは、同じ人が申請と承認の両方を行い、判断の理由が誰にも見えなくなる状態です。
新しい使い方を承認する流れを決める
利用部門が申請する
使いたい業務と入力する情報の種類と使うサービスを簡単な申請票に書いて運用窓口へ出します。
窓口が内容を確かめる
利用形態や扱う情報を評価シートに当てはめ、社内ルールに合うかを確認して承認者に回します。
承認者が判断する
評価シートの結果をもとに可否と条件を決めます。迷う案件はAI活用責任者に上げます。
台帳に記録する
承認した使い方と条件と承認者を一覧にまとめ、誰でも確認できる場所に置きます。
定期的に見直す
台帳の使い方が今も条件どおりかを窓口が確かめ、変化があれば承認をやり直します。
申請票には利用形態の欄を設けておくと判断が速くなります。デジタル庁のガイドブックは、利用形態やユースケースの違いによってリスクが変わることを前提に、工程ごとのリスクや留意点を挙げています。同じサービスでも使い方が変われば確認し直すという考え方を流れに組み込みましょう。[3]
承認の基準づくりには、IPAのガイドライン第5章にあるリスクマトリクスによる管理手法が手がかりになります。起こりやすさと影響の大きさで案件を分け、影響の大きいものだけ責任者まで上げるようにすれば兼任でも負担を抑えられます。[2]
経営層へ報告する項目と頻度
チェックリスト
- 承認した使い方の件数と新しく増えた業務
- 却下や条件付きにした案件とその理由
- 社内で起きた問題やヒヤリとした事例と対応
- ルールや評価シートを変えた点
- 参照している国内ガイドラインの更新の有無
- 次の期間に判断してほしい事項
頻度は会社の規模に合わせて決めてかまいません。目安としては、運用窓口から責任者へは毎月短く伝え、経営会議には四半期ごとにまとめて報告し、問題が起きたときやルールを変えるときはその都度報告する形が無理なく続けやすいでしょう。これは編集部としての提案であり、引用したガイドラインが示す頻度ではありません。
参照する指針そのものも変わります。IPAのガイドラインは2024年7月31日に公開され、デジタル庁のガイドブックは2024年5月29日の初版から修正が重ねられ、2025年6月6日には内容を今後別の生成AI調達・利活用ガイドラインへ統合すると案内されています。報告項目に指針の更新確認を入れておくと見直しのきっかけになります。[2][3]
兼任でも続けるための見直しの仕組み
IPAのガイドライン第6章は、すでに生成AIを使い始めた組織へのヒアリングから見えた課題と対応策をまとめています。自社の見直しで何を確かめるか迷ったときは、他の組織がつまずいた点と照らし合わせると抜けに気づきやすくなります。[2]
チェックリスト
- 役割分担表の名前が異動や退職で古くなっていないか
- 台帳にない使い方が現場で広がっていないか
- 評価シートの項目が今の利用形態に合っているか
- 承認にかかる時間が長すぎて現場が困っていないか
- 経営層からの指示が次のルール改定に反映されているか
IPAのガイドラインはIPAの公式見解ではなく、人材育成プログラムを修了したプロジェクトメンバーの見解に基づくと明記されています。デジタル庁のガイドブックは行政職員を主な読者としつつ、自社サービスや業務改善で導入を考える人にも参考として勧めていますが、サービス利用者側のディープフェイクのリスクなどは扱っていません。複数の資料を組み合わせて自社のルールに落とし込むのが現実的です。[2][3]
まとめ
- 生成AI活用が続かない原因の一つは、決める人と承認する人と見直す人が曖昧なことにある
- 責任者と承認者と運用窓口と利用部門に役割を分け、申請と承認を同じ人にしない
- 申請票には利用形態を書かせ、使い方ごとに評価シートで判断して台帳に残す
- 経営層には承認状況や問題事例やルール変更を定期的に報告し、指針の更新も確かめる
- 役割分担表と台帳を定期的に見直し、兼任でも回る形を保つ
よくある質問
Q兼任担当者が一人しかいない会社でも体制は作れますか
A作れます。運用窓口は兼任担当者が務め、承認だけは経営層や部門長など別の人に任せる形が現実的です。IPAのガイドラインも導入や運用やセキュリティを役割ごとに分けて考えており、一人で全部を抱えない設計が参考になります。[2]
QNIST AI RMFは中小企業でも読むべきですか
A全文を読み込む必要はありません。NIST AI RMFはリスクを抑えながらAIへの信頼を育て活用と革新を後押しすることを狙った指針です。止めるためではなく続けるための仕組みという考え方をつかみ、社内の役割分担に置き換えるだけでも役立ちます。[1]
Qデジタル庁のガイドブックは民間企業でも使えますか
A主な読者は行政職員ですが、自社サービスや業務改善のためにテキスト生成AIの導入を考える人にも参考として勧められています。利用形態ごとにリスクが変わるという整理は申請票づくりに使えます。なお内容は今後別のガイドラインへ統合されると案内されています。[3]
出典
- AI Risk Management Framework(NIST)
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)