AIセキュリティ
10大脅威のAI利用をめぐるサイバーリスク 中小企業の点検と周知の順番
IPAが公表した最新の情報セキュリティの脅威一覧で、組織向けの項目に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。とはいえ範囲が広いテーマなので、中小企業の担当者には何から手を付ければよいかが見えにくいかもしれません。この記事ではこのリスクを機密の入力・誤った出力の利用・攻撃者による悪用に分けます。そのうえでIPAとデジタル庁の資料をもとに、自社ですぐ確かめられる点検項目と社員へ伝える順番を整理します。
10大脅威2026の組織編にAI利用のリスクが初めて入った
情報セキュリティ10大脅威2026は、IPA(情報処理推進機構)が2025年に起きた社会的な影響の大きい事故や攻撃の状況から脅威の候補を選び、研究者や企業の実務担当者など約250名からなる選考会が審議と投票を経て決めたものです。公開は2026年1月29日です。組織編には「AIの利用をめぐるサイバーリスク」が2026年に初めて選ばれました。ランサム攻撃(データを使えなくして身代金を求める攻撃)による被害や、サプライチェーンや委託先を狙った攻撃といった常連の脅威と同じ一覧に並んでいます。[1]
- ランサム攻撃による被害
- サプライチェーンや委託先を狙った攻撃
- AIの利用をめぐるサイバーリスク(初選出)
- 機密情報を狙った標的型攻撃(特定の組織を狙って仕掛ける攻撃)
- 内部不正による情報漏えい等
- ビジネスメール詐欺(取引先などを装って送金させる詐欺)
IPAは複数の脅威にまたがる事案もあるとして、自社の環境に照らして選ばれた脅威にはできるだけもれなく対策するよう求めています。AIのリスクも単独の新しい課題として切り離すより、内部不正による情報漏えいやビジネスメール詐欺など、すでに取り組んでいる脅威と重ねて見るほうが整理しやすくなります。[1]
組織編の解説書は2026年3月12日に、プレゼンスライドは2026年3月31日に公開されています。脅威ごとの詳しい説明を確かめたいときは、解説書の該当する章を読むのが近道です。[1]
AI利用のサイバーリスクを3つに分けて考える
AIの利用をめぐるサイバーリスクという言葉はそのままだと範囲が広く、点検の対象を決めにくい項目です。この記事では担当者が手を動かしやすいよう、次の3つに分けて考えます。この分け方は編集部による整理で、IPAの解説書の分類をそのまま写したものではありません。[1]
- 機密を入力してしまう:社員が顧客情報や社外秘の資料を生成AI(文章などを作り出すAI)に貼り付け、社外のサービスに情報が渡ってしまう
- 誤った出力を使ってしまう:AIがもっともらしい誤りを返し、確認しないまま資料や顧客への回答に使ってしまう
- 攻撃者がAIを悪用する:攻撃者が文面づくりや下調べにAIを使うことで、だましのメールや連絡が見分けにくくなる
よくある誤解
- 会社でAIを導入していなければ関係ない
- AIのリスクは情報システム担当だけの話
- 全面禁止にすれば問題は片づく
実際
- 社員が個人の判断で使っている場合や攻撃者がAIを使う場合は導入の有無に関係なく影響を受ける
- 何を入力しどの出力を使うかは社員一人ひとりの行動で決まる
- 隠れて使われると実態が見えなくなるため使ってよい範囲を決めるほうが管理しやすい
IPAが公開しているテキスト生成AIの導入・運用ガイドラインは、組織が生成AIの導入に踏み切れない理由を「漠然とした不安感」ととらえています。そしてセキュリティリスクと対策を具体的に示すことで、その不安を払拭し安全な導入と運用を後押しすることを目的に掲げています。リスクを分けて考えるのも、漠然とした不安を点検できる単位に落とし込むための工夫です。[2]
自社ですぐ点検できる項目をリスク別に確かめる
点検はまず社内でAIがどう使われているかを知るところから始めます。使われているサービスや業務が分からないままでは、どこに機密が流れうるのか、どの出力が社外に出ているのかを判断できません。利用実態がつかめたら、リスクごとに次の項目を確かめていきます。
チェックリスト
- 社内で使われているAIサービスの名前と利用している部署を一覧にしている
- 入力してはいけない情報(顧客の個人情報・取引先の未公開情報・社外秘の資料など)を決めて文書にしている
- 業務で使うAIのアカウントを会社として把握し管理している
- 入力した内容の保存や学習への利用に関するサービスの設定を確認している
- 退職者や異動者のアカウントを止める手順にAIサービスも含めている
チェックリスト
- AIの出力を社外に出す前に人が確認する手順がある
- 数字や固有名詞や法令に関わる内容は元の資料で裏付けを取る決まりがある
- 不審なメールや電話を受けたときの報告先を社員が知っている
- 送金や支払先変更の依頼は別の連絡手段で本人に確かめる決まりがある
- パスワードなどの認証情報をメールや電話で求められても応じないことを周知している
IPAのガイドラインは、生成AIを導入する担当者・運用する担当者・セキュリティの担当者という立場ごとに考慮事項をまとめています。運用の章では利活用ガイドラインやルールの策定と文書化を、リスク管理の章ではリスクマトリクス(起こりやすさと影響の大きさでリスクを整理する表)に沿った管理の方法を扱っています。一人が複数の立場を兼ねる場合でも、点検項目をこの三つの立場に振り分けて見ると抜けている観点に気づきやすくなります。[2]
IPAは10大脅威2026の対策マッピングシート(Excel形式)を2026年5月21日に公開しています。自社の点検表をつくる際は、解説書とあわせて参照すると整理の手間を減らせます。[1]
社員への周知は順番を決めて進める
禁止事項をまとめて一度に全社へ流すと、読まれないまま終わったり現場が萎縮したりしがちです。影響の大きいところから順に伝え、社員が行動に移せる形で示すほうが定着しやすくなります。次の順番を目安にしてください。
利用実態を聞き取る
部署ごとにどのAIをどの業務に使っているかを聞きます。責める目的ではないと先に伝えておくと、ありのままの回答が集まりやすくなります。
入力しない情報を伝える
最初に伝えるのは機密の入力に関するルールです。顧客情報や社外秘の資料など、貼り付けてはいけない情報を具体例とともに示します。
出力の確かめ方を示す
AIの回答は下書きとして扱い、社外に出す前に人が確かめることを伝えます。誰がどの観点で確認するかもあわせて決めておきます。
悪用の手口に備える
自然な文面の不審メールが届く前提で、送金や認証情報の依頼は別の手段で確かめること、迷ったらすぐ報告することを伝えます。
見直しの時期を決める
AIのサービスや攻撃の手口は変わっていきます。ルールを見直す時期と問い合わせ窓口を決め、社員に知らせておきます。
研修の資料にはIPAが公開している組織編のプレゼンスライドが使えます。IPAは資料のデータや図表を引用・抜粋して使うことを認めています。そのうえで出典(機構名・資料名・URL)を明記すること、できるだけ原文のまま載せること、一部を改変するときは文意を変えず「〜を基に作成」などと原文のままではないことが分かるようにすることを求めています。イラストを単体で使ったり改変したりせず、脅威名や説明と組み合わせて載せることも条件です。[1]
周知の目的は社員を怖がらせることではなく、安心して使える範囲を示すことです。IPAのガイドラインも組織の不安感を払拭して安全な利用を進めることを目的としています。禁止事項だけでなく使ってよい場面も一緒に伝えると、ルールが守られやすくなります。[2]
IPAとデジタル庁の資料を使い分ける
AIのリスク対策で参考になる公的な資料として、IPAのテキスト生成AIの導入・運用ガイドラインと、デジタル庁のテキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)があります。どちらもテキスト生成AIを扱っていますが、想定している読者と切り口が異なります。[2][3]
IPAの導入・運用ガイドライン
- 2024年7月31日に公開
- 導入・運用・リスク管理を担当者の立場ごとに整理
- 生成AIを使い始めた組織へのヒアリングから見えた課題と対応策も収録
- 内容はプロジェクトメンバーの見解でありIPAの公式意見ではない
デジタル庁のガイドブック(α版)
- 主な読者は政府情報システムへの導入に関わる行政職員
- 自社サービスや業務改善で導入を検討する人も参考にできる
- 利用形態やユースケースや工程ごとのリスクと留意点を整理
- ディープフェイクなどサービス利用者側のリスクは対象外
中小企業の担当者であれば、社内ルールづくりや役割分担の整理にはIPAのガイドラインを使う方法が考えられます。AIを業務システムに組み込む場面や、Web API(プログラムからAIを呼び出す仕組み)で使う場面ではデジタル庁のガイドブックが役立ちます。デジタル庁の資料は、利用形態やユースケースによって想定されるリスクが変わるという考え方で整理されているためです。[2][3]
デジタル庁のガイドブック(α版)は2025年6月6日に一部内容が修正され、今後は「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合されてその枠組みの中で更新されるとされています。参照する際は最新の掲載状況を確かめてください。[3]
まとめ
- AIの利用をめぐるサイバーリスクはIPAが公表した最新の脅威一覧の組織編に初めて選ばれた
- 機密の入力と誤った出力の利用と攻撃者による悪用に分けると点検しやすくなる
- 点検は社内の利用実態の把握から始め入力しない情報と出力の確認手順を文書にする
- 周知は入力のルールから始めて出力の確認や不審な連絡への対応へと順に広げる
- 社内ルールはIPAのガイドラインを、システムへの組み込みはデジタル庁のガイドブックを参考にする
よくある質問
Q社内でAIを導入していない会社も対策が必要ですか
A社員が個人の判断でAIを使っている場合や、攻撃者がAIを使ってくる場合は、導入の有無に関係なく影響を受けます。IPAは複数の脅威にまたがる事案もあるとして、自社の環境に照らしてできるだけもれなく対策するよう求めています。まずは社内の利用実態を確かめるところから始めてください。[1]
QAIの社内ルールは何を参考に作ればよいですか
AIPAのテキスト生成AIの導入・運用ガイドラインが参考になります。運用担当者向けの章で、利活用ガイドラインやルールの策定と文書化を扱っています。なお内容はプロジェクトメンバーの見解に基づくもので、IPAの公式意見ではないと明記されています。[2]
Qデジタル庁のガイドブックは民間企業でも使えますか
A主な読者は政府情報システムへの導入に関わる行政職員ですが、自社サービスや業務改善のためにテキスト生成AIの導入を検討する人も参考にできるとされています。扱うのはテキスト生成AIのみで、ディープフェイクなどサービス利用者側のリスクは含まれていない点に注意してください。[3]
Q社内研修にIPAの10大脅威の資料を使ってもよいですか
AIPAは資料のデータや図表を引用・抜粋して使うことを認めています。出典を明記すること、できるだけ原文のまま載せること、改変するときは文意を変えず原文のままではないと分かるようにすることなどが求められています。組織編のプレゼンスライドも公開されています。[1]
出典
- 情報セキュリティ10大脅威 2026(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)