AIセキュリティ
生成AI導入のリスク評価手順 用途ごとに許可を判断する評価シートの作り方
生成AIの導入では、ツールを先に入れてから利用ルールを考えると、現場の使い方と決まりがずれやすくなります。大切なのは、導入前にどの業務で誰が何を入力し、出力をどう使うかを洗い出して、用途ごとにリスクの大きさを見積もることです。この記事では、NISTが公開しているAIリスク管理の枠組みの考え方と、IPAやデジタル庁の生成AI資料を手がかりに、中小企業でも回せる評価シートの作り方を整理します。許可・条件付き許可・見送りの判断基準と、見直しのタイミングまで順に説明します。
なぜ生成AIは導入前のリスク評価が先なのか
IPAの「テキスト生成AIの導入・運用ガイドライン」は、生成AIを使いたいのに導入に踏み切れない組織や、導入後の運用が適切か気にしている組織があると想定しています。ガイドラインはこうした状態を「漠然とした不安感」と呼び、課題があることは分かっても具体的なセキュリティリスクや対策に落とし込むのが難しいことが原因だと見ています。つまり不安の正体は、リスクを言葉にできていないことにあります。導入前の評価は、この不安を一つずつ具体的な項目に置き換える作業だと考えると進めやすくなります。[2]
よくある進め方
- 人気のツールを先に契約する
- 全社共通のルールを一枚だけ作る
- 問題が起きてから禁止事項を足す
- 使ってよいかの判断が担当者ごとにぶれる
導入前に評価する進め方
- 使いたい業務と使い方を先に書き出す
- リスクは用途や利用形態ごとに変わる前提で考える
- 用途ごとに許可の可否と条件を決める
- 判断の理由を記録して後から見直せるようにする
NISTのAI RMF(AIのリスクを管理するための枠組み)は、リスクを抑えながらAI技術への信頼を育て、AIによるイノベーションを後押しすることを狙いに掲げています。リスク評価は利用を止めるための手続きではなく、安心して使える範囲を広げるための準備だという点を、社内で最初に共有しておくと協力が得やすくなります。[1]
評価の前に業務と使い方を洗い出す
デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」は、特定のサービスに組み込まれた状態で使うのか、Web API(プログラムから外部のAIを呼び出す仕組み)の形で使うのかといった利用形態や、ユースケースごとに想定されるリスクが変わるとしています。同じ生成AIでも、使う場面が違えば評価も変わります。そのため評価の単位はツール単位ではなく、業務と使い方の組み合わせ単位にするのが現実的です。[3]
チェックリスト
- どの業務で使うか(議事録の要約や問い合わせ回答の下書きなど具体的に)
- 誰が使うか(部署や役職のほか委託先の人が含まれるか)
- 何を入力するか(公開情報か社内資料か顧客や取引先の情報か)
- どの利用形態か(ブラウザのチャットか既存サービスの機能かWeb API連携か)
- 出力をどう使うか(社内メモか社外文書か顧客への回答か判断の材料か)
- 出力を人が確認してから使うか
- 利用する人数や頻度はどのくらいか
洗い出しは情報システム担当者だけで机上で進めるより、現場に使いたい場面を聞く方が漏れが減ります。IPAのガイドラインにも、すでに生成AIの活用を始めた組織へのヒアリングから課題と対応策を整理した章があり、現場の声を集める進め方の参考になります。[2]
統治と把握と測定と管理の4段階で評価シートを組む
本記事では、NISTのAI RMFが掲げるリスクを抑えつつ信頼と活用を両立させるという狙いに沿って、中小企業向けの評価シートを統治・把握・測定・管理の4段階に分けて組み立てます。統治は責任の置き場所を決めること、把握は用途と情報を書き出すこと、測定はリスクの大きさを見積もること、管理は判断と対策を決めて続けることを指します。[1]
統治:責任者を決める
評価シートの承認者と導入・運用・セキュリティの担当を決めます。兼任でもよいので名前を書き、判断が止まらない体制にします。
把握:用途を書き出す
前の章の洗い出し項目を一行一用途で記入します。入力する情報の種類と出力の使い道は必須の欄にします。
測定:大きさを見積もる
用途ごとに影響の大きさと起こりやすさを評価し、表に並べて優先順位を付けます。
管理:判断して記録する
許可・条件付き許可・見送りを決め、条件と見直し日を記録します。運用ルールにも反映させます。
IPAのガイドラインは役割ごとに章を分けています。導入担当者の考慮事項、運用担当者による利活用ガイドラインやルールの策定と文書化、セキュリティ担当者によるリスクマトリクスに沿ったリスク管理という整理です。中小企業では一人が複数を兼ねることが多いですが、どの帽子をかぶって判断したのかをシートに残すと、後から見直すときに迷いません。[2]
ここでの4段階は評価シートを作りやすくするために本記事が簡略化した整理です。AI RMFの構成や用語の正式な定義は原文で確かめたうえで、自社に合わせて調整してください。[1]
測定の段階でリスクの大きさを見積もる
IPAのガイドラインは、リスクマトリクスに則ったリスク管理手法を取り上げています。リスクマトリクスとは、起きたときの影響の大きさと起こりやすさを縦横の軸にした表に各リスクを置き、どれから手を打つかを見える形にする方法です。評価シートでは影響と起こりやすさを大・中・小の三段階程度で付け、組み合わせで用途ごとの位置を決めると、専門家がいなくても判断をそろえやすくなります。[2]
- 影響を大きくする要因:入力に個人情報や取引先から預かった情報が含まれる
- 影響を大きくする要因:出力をそのまま社外向けの文書や顧客への回答に使う
- 影響を大きくする要因:出力が採用や取引条件などの判断に直結する
- 影響を大きくする要因:業務データを外部サービスに送る利用形態になっている
- 起こりやすさを高める要因:利用者が多く入力のルールが口頭だけになっている
- 起こりやすさを高める要因:出力を人が確認する手順がない
デジタル庁のガイドブック(α版)はテキスト生成AIに焦点を当て、主にAIを使うシステムの開発に関わる担当者を想定しています。基盤モデルの開発者側のリスク(学習データの権利問題など)やサービス利用者側のリスク(ディープフェイクなど)は対象外とされているため、評価の観点が足りないと感じたら、同ガイドブックが併用を勧めるAI事業者ガイドラインなども参照してください。[3]
許可と条件付き許可と見送りの判断基準
測定の結果を、そのまま利用可否の判断につなげます。判断の段階を三つに絞っておくと、申請する側も承認する側も迷いにくくなります。次の基準は一例なので、自社の扱う情報の性質に合わせて線を引き直してください。[2]
- 許可:影響も起こりやすさも小さい用途。たとえば公開済みの情報だけを入力し社内向けの下書きに使う場合
- 条件付き許可:影響が中程度で対策により下げられる用途。条件を守ることを前提に使ってよいとする
- 見送り:影響が大きく対策をしても下げきれない用途や責任者を決められない用途
- 判断に迷う用途は条件付き許可から始め利用状況を見て見直す
チェックリスト
- 入力してはいけない情報の種類を文書で示している
- 社外に出す前に出力を人が確認する手順がある
- 利用できる人や部署を限定している
- 利用した記録を残せるサービスや設定を選んでいる
- 利用者に入力ルールと出力の注意点を説明している
- 評価シートに次の見直し日を書いている
見送りは永久の禁止ではありません。見送った理由と、どの条件がそろえば再評価できるかをシートに書いておくと、社内の不満を抑えつつ次の検討につなげられます。条件を守っていても事故が起きる可能性は残るため、起きたときの連絡先と対応の流れも合わせて決めておきます。[2]
見直しの時期を決めて運用につなげる
参照する資料そのものも更新されます。IPAのガイドラインの最終更新日は2024年7月31日です。デジタル庁のガイドブック(α版)は2024年5月29日に初版が公開され、2025年6月6日に一部内容が修正されました。さらにその内容は「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合され、その枠組みの中で更新されると案内されています。評価シートには、どの資料のいつの版を参照したかも書いておきましょう。[2][3]
チェックリスト
- 新しい用途の利用申請があったとき
- 利用形態が変わったとき(チャットでの利用からWeb API連携に広げるなど)
- 入力する情報の種類や利用者の範囲が変わったとき
- サービスの契約内容や利用規約が変わったとき
- 情報の誤入力などヒヤリとする出来事があったとき
- 参照しているガイドラインが更新や統合されたとき
- 社内で決めた定期見直しの日を迎えたとき
IPAのガイドラインには、記載内容はIPAや産業サイバーセキュリティセンターの意見を代表するものではなく、中核人材育成プログラム卒業プロジェクトのメンバーの見解に基づくという注意書きがあります。公的機関の資料であっても答えをそのまま写すのではなく、自社の業務に当てはめて判断する材料として使う姿勢が大切です。まずは現場の使いたい用途を数件集め、評価シートを一度回してみるところから始めてください。[2]
まとめ
- 生成AIはツールを先に入れるのではなく導入前に業務と使い方を洗い出してからリスクを評価する
- リスクは利用形態やユースケースで変わるため評価の単位は業務と使い方の組み合わせにする
- 評価シートは統治と把握と測定と管理の段階に分けると中小企業でも回しやすい
- 判断は許可と条件付き許可と見送りに絞り理由と条件と見直し日を記録する
- 参照する指針も更新されるため用途や利用形態の変化に合わせて定期的に見直す
よくある質問
Q専任のセキュリティ担当者がいない中小企業でもリスク評価はできますか
Aできます。IPAのガイドラインは導入担当者と運用担当者とセキュリティ担当者に分けて考慮事項を整理していますが、中小企業では一人が兼任しても構いません。大切なのはどの立場で判断したかを評価シートに残し、承認者を決めておくことです。[2]
Qデジタル庁のガイドブックは民間企業でも参考にできますか
A参考にできます。対象読者は政府情報システムへの生成AI導入に関わる行政職員とされていますが、自社サービスや業務改善でテキスト生成AIの導入を検討する人もリスクと対策を考える参考にしてよいと案内されています。ただし基盤モデル開発者やサービス利用者側のリスクは対象外です。[3]
Q一度許可した用途はいつ見直せばよいですか
A社内で決めた定期見直しの日に加え、入力する情報や利用形態や利用者の範囲が変わったとき、ヒヤリとする出来事があったとき、参照する指針が更新されたときに見直します。デジタル庁のガイドブック(α版)も別のガイドラインへ統合して更新すると案内されています。[3]
QNISTのAI RMFはどんな狙いの枠組みですか
ANISTはAI RMFについて、リスクを抑えながらAI技術への信頼を育みイノベーションを後押しする指針だと説明しています。利用を止めるためではなく安心して使うための考え方として、評価シートの組み立てに生かせます。詳しい構成は原文で確認してください。[1]
出典
- AI Risk Management Framework(NIST)
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)