仕様書やカタログのPDF、メール、Webページを生成AIに読ませて、要約や整理をさせる使い方が広がっています。このとき注意したいのが「プロンプトインジェクション」です。総務省のガイドラインと、2026年9月に始まった経済産業省の検討資料をもとに、仕組みと実務で確かめたい点を整理します。

文書の中の「指示」がAIを動かしてしまう

プロンプトとは、AIへの指示文のことです。プロンプトインジェクションは、細工した文章でAIに本来とは違う動きをさせる攻撃を指します。

総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」（2026年3月）は、これを2つに分けています。利用者がAIに直接細工した入力を与える「直接型」と、AIに細工したデータを参照させる「間接型」です。間接型の例として、Web上の細工したファイルや電子メールが挙げられ、Webページに隠した命令文によってAIの判断がゆがめられる例も図示されています。

つまり、利用者に悪意がなくても、AIに読ませた資料の中に「〜せよ」といった文が紛れ込んでいれば、AIがそれを指示として扱ってしまうおそれがあります。

AIが「操作」できるほど影響は大きくなる

要約するだけのAIであれば、影響は主に「誤った要約」にとどまります。一方、メールの送信やファイルの操作、外部サービスとの連携まで任せる「AIエージェント」（目的に沿って自律的に操作を進めるAI）では、影響が実際の操作に及びます。

経済産業省は2026年9月18日、AIエージェントを利用する事業者向けのセキュリティ対策を検討するサブワーキンググループの第1回を開きました。事務局資料は、対象とするリスクに間接プロンプトインジェクションを含め、外部メールの記述でエージェントの行動が誘導される例や、送信前の承認が形式的だと情報が外部へ送られるおそれを示しています。利用者向けの取りまとめは令和8年度中の公表予定とされており、現時点ではまだ検討段階です。

実務で確かめたいこと

まず、AIに読ませる資料の出どころを意識することです。出どころの分からないWebページやファイル、外部から届いたメールは、「指示が紛れ込んでいるかもしれないデータ」として扱います。

次に、AIに与える権限を必要最小限にすることです。総務省ガイドラインも、AIと連携する仕組みの権限を最小限にする「最小権限の原則」を対策に挙げています。読むだけの作業に、送信や削除の権限は要りません。

そして、外部への送信や確定の操作の前には、人が内容を確認する手順を置き、それを形だけにしないことです。AIの出力は、数値や条文を原典で確かめてから使います。

一つの対策では防ぎきれない

総務省ガイドラインは、単独の対策では脅威を排除できないとして、複数の対策を重ねることを前提にしています。なお同ガイドラインはAIの開発者・提供者向けで、AIエージェントは対象外です。使う側としては、利用するサービスがこうした攻撃にどう備えているかを提供者の公式文書で確かめ、使い方の側でも出どころの確認・権限の絞り込み・人の確認を重ねていくことが現実的な備えになります。

想定読者：建物オーナー、自治体の営繕・施設担当者、設計者、建設コンサルタント

注：本コラムは公開されている法令・通知・ガイドライン等に基づく概説です。個別の業務やシステムへの適用は、契約条件・仕様書・発注者との協議によります。

当社の生成AIの使い方と、お預かりした情報の扱いは「AIの利用について」でご説明しています。

参照

  • 総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」令和8年3月　https://www.soumu.go.jp/main_content/001064122.pdf　（p.6：対象はLLM及びLLMを構成要素に含むAIシステムで、AIエージェントは対象外／p.7：対象者はAI開発者・AI提供者／p.8〜10：直接・間接プロンプトインジェクションの定義、間接型の例〔Web上の細工したファイル、細工した電子メール〕、図3〔Webページに隠した命令文の例〕／p.13：単独の対策では脅威を排除できず複数の対策を重ねる前提／p.16：外部参照データの検証、最小権限の原則などAI提供者の対策）
  • 総務省「令和8年版 情報通信白書　AIのセキュリティ対策の推進」　https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd225430.html　（同ガイドラインを2026年3月に策定・公表したこと）
  • 経済産業省「第1回 産業サイバーセキュリティ研究会 ワーキンググループ1（事業者におけるAIエージェントの安全な利活用に関するサブワーキンググループ）」2026年9月18日　https://www.meti.go.jp/shingikai/mono_info_service/sangyo_cyber/wg_seido/wg_ai_agent/001.html　（開催日）
  • 同 資料4「AIエージェントを利用する事業者におけるセキュリティ対策の好事例の取りまとめに向けた検討方針」2026年9月　https://www.meti.go.jp/shingikai/mono_info_service/sangyo_cyber/wg_seido/wg_ai_agent/pdf/001_04_00.pdf　（対象はAIエージェントを業務で利用する民間企業、令和8年度中の公表予定、公表後も見直すリビングドキュメントとしての運用）
  • 同 資料5「ガイドライン策定の進め方およびAIエージェントのリスクとセキュリティ対策の整理について」　https://www.meti.go.jp/shingikai/mono_info_service/sangyo_cyber/wg_seido/wg_ai_agent/pdf/001_05_00.pdf　（p.11：対象リスクに間接プロンプトインジェクションを含む／p.19：外部メールの記述によるエージェントの行動誘導、形式的な送信前承認による外部送信のおそれ）
  • 確認日：2026年10月19日

関連コラム