DigiRiseセキュリティ診断無料で診断する
LLM出力のXSS対策 生成AIの回答を安全に表示する確認手順

AIセキュリティ

LLM出力のXSS対策 生成AIの回答を安全に表示する確認手順

社内のヘルプデスクや自社サイトの問い合わせ窓口に、生成AIの回答を表示する仕組みが増えています。便利な一方で、AIの出力をそのままHTMLに埋め込むとクロスサイトスクリプティング(XSS)というWebの古い弱点が形を変えて戻ってきます。この記事ではAIの出力を外から来た入力として扱う考え方を起点に、出力時のエスケープとCSPを重ねる多重防御を整理します。そのうえで制作会社に確かめる項目と、自社で試せる確認手順をまとめます。

この記事は、末尾の出典(公的機関・標準化団体などの資料)をもとにデジライズ セキュリティ診断の編集部がAIを使って作成し、出典との照合と表現のチェックを通してから公開しています。

生成AIの回答表示でXSSが再び起きる理由

XSSとは、攻撃者が用意したコードを標的のサイトの一部として動かせてしまう弱点です。MDNの解説では、このコードはページの内容を読んだり書き換えたりできるほか、ブラウザーのローカルストレージにも触れられ、利用者の資格情報を使ってリクエストを送ることもできるとされています。つまりサイト自身のコードにできることを同じように実行できます。原因は外部から受け取った文字列を無害化しないままページに載せてしまうことにあります。[3]

生成AIの回答もこの外部から受け取った文字列に当たります。OWASPがまとめたLLMアプリケーションの代表的な弱点の一覧では、利用者のプロンプト(AIへの指示文)がAIの振る舞いを変えてしまうプロンプトインジェクションが取り上げられています。AIの出力は利用者の入力しだいで変わり得るため、提供側が想定していない文字列が混ざる前提で考える必要があります。本記事では、この出力を確かめないまま画面や後続の処理へ渡してしまう問題を不適切な出力処理と呼び、Webで積み上げられてきた対策を当てはめて考えます。[1]

よくある誤解

  • 自社が用意したAIの回答だから中身は信用できる
  • 画面に表示するだけなので攻撃には使われない
  • CSPを設定すればエスケープは省ける

実際

  • 利用者の入力でAIの振る舞いが変わり得るので出力は外部入力として扱う
  • HTMLとして解釈されるとスクリプトが動く余地が生まれる
  • MDNはCSPを無害化の代わりではなく補完の守りと位置づけている
[1][3]

基本は出力時のエスケープと無害化

IPAの「安全なウェブサイトの作り方」は、届出の多かった脆弱性や攻撃の影響が大きい脆弱性を取り上げた、開発者と運営者向けの資料です。改訂第7版の第1章ではクロスサイト・スクリプティングを含む11種類の脆弱性について、原因そのものをなくす根本的な解決策と、攻撃の影響を小さくする保険的な対策を分けて示しています。AIの回答表示もこの二段構えで考えると整理しやすくなります。[2]

根本的な解決に当たるのは、AIの出力をHTMLとして解釈させず文字として表示することです。代表的な処理がエスケープで、HTMLで意味を持つ記号を画面に出す文字に置き換え、タグとして働かないようにします。回答に見出しや箇条書きを付けたい場合は、AIが返すマークダウン記法をHTMLに変換して表示する作りになりがちです。その場合は変換後のHTMLから許可した要素だけを残す無害化(サニタイズ)を挟みます。MDNは文字列をコードとして解釈し得るAPIをインジェクションシンクと呼び、Element.innerHTMLやDocument.write()を例に挙げています。AIの回答をこうした場所へ直接渡す作りは特に注意が要ります。[3]

  • AIの回答は文字列として差し込み innerHTML などへ直接渡さない
  • 書式を残すなら変換後に許可した要素と属性だけを残す
  • リンクの行き先に javascript: で始まるURLを通さない
  • onerror などのインラインのイベントハンドラー属性を残さない
  • AIの出力を eval() や文字列を引数にした setTimeout() に渡さない
[3]

IPAの資料で脆弱性に振られた番号は対策の優先順位を示すものではなく、優先順位はサイトの状況に合わせて検討するよう書かれています。AIの回答を表示する画面があるなら、XSSを先に点検する対象に入れておくとよいでしょう。[2]

CSPで多重防御を重ねる

CSP(コンテンツセキュリティポリシー)は、ページ上のコードにできることを制限するようサイトからブラウザーへ指示する仕組みです。MDNによると主な用途は読み込んでよいリソース、とくにJavaScriptを制御することで、XSSへの防御として使われます。指示はContent-Security-Policyという応答ヘッダーで届け、メインの文書だけでなくすべての応答に設定する必要があります。HTMLのmeta要素でも指定できますが、この方法ではCSPの機能の一部が使えません。[3]

default-srcかscript-srcを含むCSPを設定すると、ページに直接書かれたスクリプトやイベントハンドラー属性、javascript: URLは追加の設定をしない限り動かなくなります。AIの回答に紛れ込んだスクリプトが動く余地を狭められるのが利点です。一方でこの制限を外すunsafe-inlineはCSPを使う目的の大半を無効にするとして、使わないよう警告されています。MDNはスクリプトの制御にノンス(応答ごとに変える使い捨ての値)かハッシュを使う厳格なCSPを勧めており、あわせてobject-srcとbase-uriをnoneにする例を示しています。[3]

  • 信頼型(Trusted Types):require-trusted-types-forをscriptにすると innerHTML などに渡せるのは変換関数を通した値に限られる
  • strict-dynamic:外部のスクリプトを使うときに厳格なCSPを保ちやすくなるが CSPの安全性は下がる
  • frame-ancestors:自社ページを他サイトに埋め込ませない設定で クリックジャッキングへの防御に使う
  • report-onlyモード:ブロックせず違反の報告だけを受け取り 本番に適用する前に試せる
[3]

MDNはCSPの設定が入力の無害化に代わるものではないとはっきり書いています。エスケープや無害化を行ったうえでCSPを重ね、片方が漏れたときにもう片方で受け止める多重防御として考えるのが基本です。[3]

制作会社に確かめたい項目

発注側がコードを読み込む必要はありません。どの画面のどの処理で何をしているかを説明してもらえれば十分です。対応済みという一言で終わらせず、処理の場所と設定の中身を具体的に答えてもらうと、抜けがあったときに気づきやすくなります。IPAの資料の巻末にはセキュリティ実装の実施状況を確かめるチェックリストが付いており、制作会社との共通の確認表として使えます。[2]

チェックリスト

  • AIの回答を画面に差し込む箇所でエスケープか無害化をしているか
  • マークダウンをHTMLに変換する場合に残す要素と属性を決めているか
  • innerHTMLなどのインジェクションシンクにAIの出力を直接渡していないか
  • Content-Security-Policyヘッダーをすべての応答に付けているか
  • CSPに unsafe-inline や unsafe-eval を含めていないか 含めるならその理由は何か
  • ノンスかハッシュを使う厳格なCSPを検討したか
  • CSP違反の報告を受け取る仕組みと確認する担当者を決めているか
  • IPAのセキュリティ実装チェックリストで実施状況を確かめたか
[3][2]

自社で試せる確認手順

  1. 範囲と許可を決める

    試すのは自社が管理するテスト環境に限ります。制作会社や運用の委託先にも事前に伝えて了承を得ます。本番環境や他社のサービスでは試しません。

  2. 応答ヘッダーを見る

    ブラウザーの開発者ツールでAIの回答画面を開き、ネットワークの項目で応答ヘッダーにContent-Security-Policyがあるかを確認します。

  3. ポリシーの中身を読む

    default-srcやscript-srcがあるか、unsafe-inlineが入っていないかを見ます。Report-Onlyのヘッダーだけなら報告のみでブロックはされない状態です。

  4. 表示を試す

    AIに太字タグ風の文字列をそのまま繰り返すよう頼み、画面に記号のまま表示されるかを見ます。文字が太字に変わるならHTMLとして解釈されています。

  5. 記録して共有する

    確認した日と画面と結果を残します。開発者ツールのコンソールにCSPの警告が出ていればそれも添え、気になる点を制作会社に伝えて修正方針を相談します。

[3]

この手順はあくまで簡易な確認です。IPAの別冊「ウェブ健康診断仕様」は13の診断項目を定めていますが、検査のパターンを絞った診断のため、脆弱性が見つからなくても安全だと言い切れるわけではないとしています。結果を見たあとはより詳しい診断を受けることや、資料を参考に対策を実装することが勧められています。[2]

まとめ

  • 生成AIの回答は外部から来た入力として扱いそのままHTMLに埋め込まない
  • 基本は出力時のエスケープと書式を残す場合の無害化
  • CSPは無害化の代わりではなく多重防御の一層として重ねる
  • 制作会社には処理の場所とCSPの中身を具体的に説明してもらう
  • 自社のテスト環境で応答ヘッダーと表示を確かめて記録を残す

よくある質問

Q社内向けのツールでもLLM出力のXSS対策は必要ですか

A必要です。MDNによるとXSSで動いたコードはページの内容を読み書きでき、利用者の資格情報を使ってリクエストを送ることもできます。社内ツールは社員のアカウントで使われるので、社外に公開していないからといって対策を省く理由にはなりません。[3]

QCSPを設定すればエスケープは不要ですか

A不要にはなりません。MDNはCSPを無害化が漏れたときにサイトを守る補完の仕組みと位置づけ、入力の無害化に代わるものではないと書いています。エスケープや無害化とCSPの両方をそろえておくのが基本です。[3]

QCSPを入れると画面が動かなくなりそうで不安です

ACSPにはreport-onlyモードがあります。Content-Security-Policy-Report-Onlyヘッダーで指定すると、ブロックはせず違反の内容だけを報告させられるので、本番に適用する前に影響を確かめられます。このモードはmeta要素では指定できない点に注意してください。[3]

Qウェブ健康診断仕様の項目で問題がなければ安全と言えますか

A言い切れません。IPAはこの診断が13の診断項目に検査パターンを絞ったものであり、脆弱性が見つからなくても安全の宣言にはならないとしています。結果を確認したら、より詳しい診断や資料に沿った対策の実装を検討してください。[2]

出典

  1. OWASP Top 10 for LLM Applications(OWASP Gen AI Security Project)
  2. 安全なウェブサイトの作り方(IPA 独立行政法人 情報処理推進機構)
  3. コンテンツセキュリティポリシー (CSP) - HTTP | MDN(MDN Web Docs)