AIセキュリティ
生成AIのAPIキー管理 漏えいと高額請求に備える担当者向け点検リスト
社内ツールや業務の自動化で生成AIのAPIを使い始めると、APIキーという「鍵」を社内で管理することになります。この鍵が外に漏れると、他人が自社の名義でAIを使えてしまい、気づいたときには想定外の請求が届いていることもあります。とはいえ、やるべきことは多くありません。保管場所を決める、共有しない、使える量に上限を付ける、定期的に作り直す、漏れたらすぐ止める。この記事では公的ガイドラインやOWASPの資料を手がかりに、情報システムや総務の担当者が単独でも続けられる点検の型を紹介します。
APIキーが漏れると何が起きるのか
APIキーとは、プログラムから生成AIのサービスを呼び出すときに使う合言葉のような文字列です。キーを持っている人は、契約した会社の名義でAIを呼び出せます。多くのサービスは使った量に応じて料金がかかるため、キーが第三者の手に渡ると、その人が使った分まで自社の請求になるおそれがあります。
デジタル庁のガイドブックは、生成AIのリスクは利用形態によって変わると説明し、その例としてサービスに組み込まれた形とWeb API形式を挙げています。画面から使うチャットサービスと違い、APIでの利用ではキーそのものの扱いが安全性を左右します。だからこそキー管理を独立した点検項目として持っておく意味があります。[3]
よくある誤解
- 社内でしか使っていないので漏れる心配はない
- 請求が来てから確認すれば間に合う
- キーは一度作れば作り直す必要はない
- 共有アカウントのキーを皆で使えば管理が楽
実際
- ソースコードや設定ファイルやチャットへの貼り付けから外に出ることがある
- 使われた分はあとから取り消しにくいので上限と通知で早めに気づく
- 作り直しの手順を決めておくと漏えい時にも慌てずに済む
- 誰が使ったか分からず止めると全員の業務が止まる
OWASPと公的ガイドラインから見る位置づけ
OWASP(ウェブの安全性に取り組む国際的なコミュニティ)の生成AIセキュリティプロジェクトは、大規模言語モデルを組み込んだアプリケーションの主なリスクを10項目に整理した資料を公開しています。その一つがプロンプトインジェクションで、利用者の入力によってAIの振る舞いが変えられてしまう弱点を指します。生成AIを使う仕組みには、従来のシステムとは別の視点の点検が必要だということが分かります。[1]
本記事では、キーの漏えいや設定の甘さによってAIの呼び出しに歯止めがきかなくなり、処理量と請求が膨らんでいく状態を「無制限な消費」のリスクとして扱います。対策の考え方は単純で、使える人を絞り、使える量に天井を付け、異常に早く気づける状態にしておくことです。
- IPAのテキスト生成AIの導入・運用ガイドラインは2024年7月31日に公開された
- 導入担当者と運用担当者とセキュリティ担当者のそれぞれの考慮事項を章を分けて説明している
- 運用の章では利活用ガイドラインやルールの策定と文書化を扱っている
- 内容はIPAの公式見解ではなく育成プログラム卒業プロジェクトのメンバーの見解に基づくと注記されている
- デジタル庁のリスク対策ガイドブック(α版)は2024年5月29日に初版が公開され2025年6月6日に一部内容が修正された
- 今後は「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合されその枠組みの中で更新されるとされている
- 主な対象は行政職員だが自社サービスや業務改善での導入を検討する人にも参考資料として案内されている
キーの保管場所と共有のルールを決める
漏えいの多くは、便利さを優先した置き方から起こります。まずは「どこに置くか」と「誰が使うか」を決めて、それ以外の置き方をやめることから始めます。高価な仕組みを入れなくても、置き場所を絞るだけで見落としは大きく減ります。
やりがちな置き方
- プログラムのソースコードに直接書き込む
- 共有フォルダの表計算ファイルにキーを一覧で残す
- 社内チャットやメールでキーを送って共有する
- 同じキーを複数の部署や外部委託先で使い回す
おすすめの置き方
- 環境変数や秘密情報の保管機能に入れてコードから切り離す
- 保管場所を決めて閲覧できる人を絞る
- 渡す必要があるときはキーではなく利用権限を付与する
- 用途や部署ごとにキーを分けて止めやすくする
- ソースコードを外部の共有サービスに置く場合はキーが含まれていないかを公開前に確認する
- キーは人ではなく用途にひもづけて発行し台帳に用途と責任者を書く
- 退職や異動や委託の終了があったら関係するキーを見直す
- 画面共有や資料のスクリーンショットにキーが映り込まないようにする
IPAのガイドラインは運用担当者の役割として利活用のルールを策定し文書化することを挙げています。キーの置き場所や共有の禁止も口頭の申し合わせで終わらせず、社内の生成AI利用ルールの項目として書き残しておくと、担当者が替わっても引き継げます。[2]
利用上限と予算アラートで被害の天井を決める
キーの保管をどれだけ丁寧にしても、漏えいの可能性は残ります。そこで次に考えるのが、万一使われても被害が一定のところで止まる仕組みです。利用しているAIサービスの管理画面に利用量の上限や通知の設定があれば、使い始めの段階で目を通し、自社の使い方に合わせて設定しておきます。
普段の利用量を把握
導入して間もない期間の利用量を管理画面で確認し、平常時にどのくらい使っているかの目安を記録します。
上限の値を決める
平常時の利用量に余裕を持たせた値を上限として決めます。業務が止まると困る用途は上限に達したときの連絡先も決めておきます。
通知を早めに鳴らす
上限に達する前の段階で担当者に通知が届くよう設定します。通知先は個人だけでなく共有の窓口アドレスも加えます。
キーや用途ごとに分ける
設定できる場合はキーやプロジェクトごとに上限を分けます。どの用途で使いすぎが起きたかを切り分けやすくなります。
通知が来たら確認
通知が届いたら利用履歴を見て、業務での増加か不審な利用かを判断します。判断がつかなければキーを止める側に倒します。
IPAのガイドラインはリスクマトリクスに沿ったリスク管理の手法を紹介しています。起こりやすさと起きたときの影響の大きさで優先度を付ける考え方です。請求額に直結するAPIキーの漏えいは影響が大きい項目として扱い、上限と通知を先に整えておくとよいでしょう。[2]
漏えいに気づいたときの無効化手順
漏えいが疑われたときに最も大切なのは、原因を調べる前にキーを使えなくすることです。調べている間にも利用は続くからです。手順を事前に決めて短い手順書にまとめておけば、担当者が単独でも落ち着いて動けます。
キーを無効化する
管理画面で該当するキーを無効化または削除します。どのキーか分からないときは関係しそうなキーをまとめて止めます。
新しいキーを発行
新しいキーを作り、決めておいた保管場所にだけ登録します。チャットやメールでは送りません。
利用先を差し替える
社内ツールや自動化の設定を新しいキーに切り替え、正しく動くかを確認します。止まった業務があれば利用者に連絡します。
利用履歴を確かめる
不審な時間帯や用途の利用がなかったかを履歴で確認し、気になる点があればサービスの提供元に問い合わせます。
記録と再発防止
気づいた経緯や対応の内容を記録し、漏れた原因に応じて保管や共有のルールを見直します。
デジタル庁のガイドブックは、システムの工程ごとにリスクや留意点を挙げる構成をとっています。導入時の設定だけでなく、運用中に何か起きたときの手順まで工程の一部として前もって決めておく発想は、小さな組織のAPI利用にもそのまま当てはまります。[3]
担当者一人で回す定期点検リスト
最後に、ここまでの内容を定期点検の形にまとめます。点検の周期は社内で無理なく続けられる間隔を決め、予定表に登録しておくのがおすすめです。一度にすべてを整えようとせず、できていない項目から順に埋めていけば十分です。
チェックリスト
- APIキーの台帳に用途と責任者と発行日が書かれている
- キーがソースコードや共有ファイルやチャットに残っていない
- キーの保管場所が決まり閲覧できる人が絞られている
- 用途や部署ごとにキーが分かれている
- 利用量の上限と通知が設定され通知先が最新になっている
- 使われていないキーや退職者や委託先に関係するキーを止めている
- 決めた周期でキーを作り直し差し替えが済んでいる
- 漏えい時の無効化手順が文書になっていて置き場所が分かる
IPAのガイドラインは導入と運用とリスク管理をそれぞれの担当者の視点で整理しています。中小企業ではこれらを一人で兼ねることも多いため、点検のときは導入時の設定は今も正しいか、運用ルールは守られているか、優先度の高いリスクに手が打てているかという三つの目線で見直すと抜けが出にくくなります。[2]
まとめ
- APIキーは自社名義でAIを使える鍵なので漏れると不正利用と想定外の請求につながる
- 保管場所を決めて共有をやめ用途ごとにキーを分ける
- 利用上限と通知を設定して被害が広がる前に気づける状態にしておく
- 漏えいが疑われたらまず無効化し新しいキーへの差し替えと履歴確認を行う
- 点検項目を社内ルールとして文書化し決めた周期で順に見直す
よくある質問
Q公的なガイドラインにAPIキー管理の具体的な手順は載っていますか
AIPAのガイドラインは導入と運用とリスク管理を担当者別に整理し、デジタル庁のガイドブックは利用形態や工程ごとのリスクと対策をまとめた資料です。どちらも考え方の土台として役立ちますが、キーの置き場所や再発行の周期といった具体的な決まりは、自社の使い方に合わせて社内ルールとして文書化するのが現実的です。[2][3]
Qデジタル庁のガイドブックは行政向けですが民間企業でも参考になりますか
A主な対象は政府情報システムへの生成AI導入に関わる行政職員ですが、自社サービスや業務改善のためにテキスト生成AIの導入を検討する人にも、リスクや対策を考える参考として案内されています。なお内容は今後「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合されるとされています。[3]
QOWASP Top 10 for LLM Applicationsとは何ですか
AOWASPの生成AIセキュリティプロジェクトが公開している資料で、大規模言語モデルを組み込んだアプリケーションの主なリスクを10項目に整理したものです。利用者の入力でAIの振る舞いが変えられてしまうプロンプトインジェクションなどが含まれ、生成AIを使う仕組みを点検するときの観点として使えます。[1]
QAPIキーはどのくらいの頻度で作り直せばよいですか
A一律の正解はないため、社内で無理なく続けられる周期を決めることが大切です。IPAのガイドラインが運用ルールの文書化を挙げているように、決めた周期は利用ルールに書き残し予定表に登録しておくと担当者が替わっても途切れません。退職や異動や委託の終了があったときは周期を待たずに関係するキーを見直してください。[2]
出典
- OWASP Top 10 for LLM Applications(OWASP Gen AI Security Project)
- テキスト生成AIの導入・運用ガイドライン(IPA 独立行政法人 情報処理推進機構)
- テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)(デジタル庁)