「人間なしでAIが攻撃完遂」の見出しと、脆弱性公開から自動侵入までの流れを示すバナー画像

GTIGレポートに見る自律型AIエージェント攻撃の実態と点検5項目

2026年11月16日(米国時間)、Google Threat Intelligence Group(GTIG)が四半期レポート「GTIG AI Threat Tracker」の最新版を公開しました。注目すべきは3点です。攻撃者が手作業のプロンプト入力から、複数のAIエージェントを束ねる自律型フレームワークへ移行していること。人間の関与なしに脆弱性の発見から悪用までを完全自動化する事例を、GTIGが初めて確認したこと。そして盗まれた資格情報でLLM利用枠を食い潰す「LLMJacking」が、事例によっては単日10万米ドルを超える被害を出していることです。

この記事では、レポートで何が観測されたのかを整理し、社内でAIエージェントを使い始めた情シス・開発チーム・経営層が明日から点検すべき項目を、チェックリストの形で解説します。

GTIG AI Threat Tracker とは

GTIG AI Threat Tracker は、GTIG が四半期ごとに公開している、生成AIの悪用動向に関するレポートです。今回の版は GTIG と Mandiant の共同チームによる分析です。

このレポートの価値は、データの出どころにあります。基礎になっているのは、Mandiant のインシデントレスポンス現場のテレメトリ、脅威アクター追跡、稼働中のプラットフォーム防御です。机上の予測ではなく、実際に起きた侵害の記録から書かれています。

項目 内容
発表元 Google Threat Intelligence Group(GTIG)/Mandiant
タイトル GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold
公開日 2026年11月16日(米国時間)
対象期間 直近四半期(the past quarter)を中心に、2026年の動向
主要トピック 自律マルチエージェント攻撃フレームワーク/脆弱性研究の自動化/LLMJacking/情報操作へのLLM統合/サプライチェーン攻撃

Executive Summary は、敵対的AIをめぐる状況が重大な転換点に達したと評価しています。直近四半期の主要トレンドとして挙げられたのは次の5点です。

  • 自律ワークフローとマルチエージェント攻撃フレームワークへの移行
  • 脆弱性の研究と悪用の完全自動化
  • LLMJacking による収益化とインフラの悪用
  • 情報操作(IO)へのLLMの完全統合
  • 標的型スパイ活動とサプライチェーン攻撃経路の進化

なぜ今、自律型AIエージェントの攻撃が注目されるのか

生成AIが攻撃に使われているという指摘自体は新しくありません。これまで報告されてきたのは、フィッシングメールの文面作成、マルウェアコードの断片生成、標的の下調べといった使い方です。攻撃者が都度プロンプトを入力し、出てきた結果を人間が判断して使う形でした。

変化は数字にも出ています。レポートによると、脆弱性の開示および悪用の総数は2026年1月から8月でほぼ倍増しました。ゼロデイ悪用は2025年の月平均8件から2026年は月平均11件への微増でした。ただし2026年8月単月では22件に急増しています。

この「8月の急増」の中身として、レポートは PaperCut の事例を挙げています。2026年8月下旬、印刷管理サーバの2つの脆弱性がゼロデイとして悪用されました。2つは CVE-2026-81578(認証バイパス)と CVE-2026-82078(安全でない動的クラスロード)です。連鎖させると、未認証でのリモートコード実行が可能になります。

レポートは、セキュリティ研究者と Huntress が LLM を使い、開示から1日以内に動作するエクスプロイトを作成したと記しています。さらに GreyNoise が、初回開示の4日後に数百組織への大規模悪用キャンペーンを報告したことを引いています。GreyNoise 側の分析では、48カ国395組織が被害者として特定されました。キャンペーン開始後26秒で、少なくとも11組織が侵害されています。米国の高校1校では、初期侵入からドメイン管理者権限の取得までが7分だったとされています。

つまり「脆弱性が公開されてから対応するまでの猶予」が、人間の運用スピードでは追いつかない水準まで縮んでいます。

何が観測されたのか:人手を介さない攻撃の実態

1. 人間の介入なしに脆弱性を発見し悪用する「exploit_agent」

今回のレポートで最も重要な記述はここです。原文は次のとおりです。

In the past quarter, GTIG identified threat actors using LLM frameworks to fully automate vulnerability discovery and exploitation without a human in the loop for the first time.

人間の介在なしに脆弱性の発見と悪用を完全自動化する事例を、GTIG が初めて確認した、という記述です。

GTIG は、露出していたステージングサーバ上で exploit_agent と名付けたマルチエージェント型のフレームワークを発見しました。複数のフロンティアLLMとローカルLLMに接続する構成です。

動作は4段階です。普及している Web アプリケーションについて、パッチ公表前後のコードを継続的に差分解析します。そこから脆弱性候補を特定し、エクスプロイトを作成し、人間の介入なしに自動実行します。解析対象のコード例として、WordPress プラグイン Spectra v2.19.25 の restrict_popup_rest_access() が挙げられています。権限チェックの不備が検出されたとのことです。

サーバ上には被害者テレメトリも残っていました。フランスのメディア・エンタメ業界のサイトと教育セクターへの関心がうかがえたとされています。設定ファイルに残ったコメントには「pilot(試験運用)」という語が含まれており、現時点では完成形ではないと読めます。それでも、差分解析からエクスプロイト実行までを人間抜きで回す仕組みが実在した点が、今回の「しきい値越え」です。

2. 役割分担して侵入を進めるマルチエージェント攻撃フレームワーク

レポートによると、攻撃者の手口は「手作業のプロンプト入力」から「自律マルチエージェント攻撃フレームワークの配備」へ移行し続けています。GTIG は CAIRN と PentAGI の実環境での使用を独自に観測しました。CyberStrikeAI と HexStrike AI については、実験的な使用を確認したとしています。

名称 性質 GTIGの観測内容
ARTEX 広く報じられたペンテストツール Google SecOps が検知用の行動ベース/ボリュームベース専用ルールパックを配備
CAIRN OSSのマルチエージェント型ペンテストフレームワーク。OODAループを実装し、専門エージェントが共有「blackboard」経由で協調 米国の航空宇宙セクターを含む標的への侵入活動で観測
PentAGI 初級オペレーターでも複雑なキャンペーンを実行できるよう障壁を下げたOSS自律攻撃フレームワーク 2026年8月下旬〜10月上旬、カスタマイズ版でアジアの広範な組織に体系的な偵察・脆弱性スキャンを行うアクターを追跡
CyberStrikeAI、HexStrike AI その他、OSSの攻撃フレームワーク 実験的な使用を確認

CAIRN の「標的IPアドレスのような初期パラメータを与えるだけで、目標まで自律的に進む」という設計は、業務用のAIエージェントとほぼ同じ発想です。違うのは目的だけです。

レポートは、財務的動機のアクターと、中国(PRC)系と疑われるスパイ活動アクターがこれらを個別に試用していると述べています。PRC系グループが独自の自動攻撃フレームワークを開発している証拠もあるとしています。

3. 社内のAIコーディング支援が侵入経路になった事例

自社でAIを業務利用している企業にとって、最も直接的に効くのがこの観測です。

北朝鮮(DPRK)系と疑われる脅威クラスタ MIDNIGHT NEPTUNE は、北米・欧州の暗号資産関連組織を標的にしました。まずビジネスSNS上に偽のリクルータープロフィールを作成します。そのプロフィール画像には SynthID のウォーターマークが含まれており、LLM生成であることが確認されました。

次に偽の会議プラットフォームへ誘導し、「ClickFix」型の手口で診断修復スクリプトと称するものを実行させます。侵入後は内部のコードリポジトリへ移動し、.claude/settings.json 設定ファイルを改変しました。これにより、ユーザーが Claude Code を起動するだけで SOMBERMEME バックドアのダウンロードが自動的にトリガーされます。

さらに横展開を隠すため、Microsoft Copilot にちなんだ名前の GitHub Personal Access Token(PAT)を生成していました。正規のAI関連トラフィックに紛れ込ませる狙いだと考えられます。

AIコーディングアシスタントの設定ファイルは、リポジトリにあっても誰も読まない「ただの設定」として扱われがちです。それが実行フックになる点は、社内で共有しておくべき事実です。

4. LLMJacking:AI利用枠とクラウド資源が狙われる

2026年を通じて、Mandiant は複数の LLMJacking インシデントに対応しました。財務的動機のアクターがクラウド環境を侵害し、標的組織のクラウド計算資源やLLMリソース枠を消費する攻撃です。被害業種は金融サービス、小売、運輸、テクノロジー。地域は北米、南米、アジア太平洋に及びます。

金額のインパクトが大きい点に注意が必要です。レポートは「単日の不正請求が10万米ドルを超えた事例がある」「最悪のケースでは是正までに累計100万米ドルに達した」と記しています。

侵入後に見られる兆候を、防御側が自社環境で確認すべき状態として整理します。

  • 資格情報:公開 GitHub リポジトリに有効なAPIキーやクラウド資格情報が残っていないか。偽サイト経由で盗まれたセッショントークンによるログインが混じっていないか
  • 権限の増殖:未認可のIAMユーザーやサービスアカウントが作られていないか。サービスロールに管理者ポリシーが付与されていないか。短命のサービスアカウントが作成と削除を繰り返していないか(レート制限回避のための「burn and rotate」)
  • ゲートウェイの脆弱性:LiteLLM のようなモデルプロキシに未適用のパッチが残っていないか。Mandiant は CVE-2026-40217(/key/regenerate エンドポイントのユーザーID再バインドによる権限昇格)の悪用で、限定的な推論キー「Virtual Keys」が完全な管理者資格情報へ昇格された事例を報告しています
  • 課金と資源:LLMサービスの新規有効化、GPU付きインスタンスのプロビジョニング、クォータ増加申請が、正規の申請経路の外で起きていないか

盗まれたアクセスは「LLM Mixers」と呼ばれる違法ストアフロントで転売されます。クエリを複数の被害環境に分散させて検知を避ける仕組みです。GTIG は100万トークンあたり0.10〜25米ドルという価格帯を観測しています。

犯罪側のサービス化も進んでいます。中国語のPhishing-as-a-Service「Jieyou」は、2026年6月のバックエンド更新でLLMチャットボットを導入しました。自然言語でフィッシングパネルを設定できるようになり、技術的な障壁が下がったとされています。

何が変わるか:従来の「AI悪用」との違い

ここまでの観測を、これまでの状況と並べて整理します。

観点 これまで報告されてきたAI悪用 今回GTIGが報告した段階
人の関与 攻撃者が都度プロンプトを入力し、出力を人が判断して使う 脆弱性の発見から悪用までを人の介在なしに実行(exploit_agent)
使われ方 フィッシング文面、コード断片、翻訳、下調べなどの生産性向上 複数エージェントが役割分担し、多段の侵入を自動実行
速度 人間の作業速度に律速される レポートの表現では「machine speed」。n-day脆弱性の武器化が短時間で進む
参入障壁 一定の技術力が必要 OSSフレームワークにより初級オペレーターでも運用可能(PentAGI)
隠密性 人が手加減できるため痕跡を抑えやすい 速度を優先した結果、痕跡が残りやすい(レポートの現状評価)
AIの位置 攻撃の「道具」 攻撃の「実行主体」かつ、防御側では「攻撃対象」

最後の行が、情シスにとって一番効く変化です。社内のAIエージェントは、業務を効率化する道具です。同時に、認証情報を持ち、コードを実行し、外部と通信する「新しい攻撃面」にもなりました。

OWASP の「2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps」でも、LLM03 Supply Chain と LLM06 Excessive Agency(過剰な権限・裁量)が独立した項目になっています。今回の観測は、この2つが実際の侵害として現れた例だと整理できます。

今すぐできる確認方法:AIエージェント運用の棚卸し

ここからは実務です。レポートと、Mandiant/GTIG が別途公開しているハードニング指針をもとに、確認項目を並べます。社内でAIエージェントを使っているなら、まずは次の5項目を点検してください。

1. 社内で動いている「AIエージェント」を一覧化する

まず対象が分からないと守れません。IDE拡張のAIコーディング支援、CI/CDに組み込んだ自動レビュー、RPA、カスタマーサポートのチャットボット、社内ナレッジ検索など、LLMを呼んでいるものをすべて洗い出します。

洗い出す列は最低4つです。「何に使っているか」「どの認証情報を持っているか」「何を実行できるか(コード実行・外部通信・ファイル書き込み)」「ログがどこに残るか」。Mandiant の LLMJacking 向け指針でも「Shadow LLM Discovery」が挙げられています。未認可のモデル・ツール・インフラを、姿勢管理ツールで自動検出する発想です。

2. AIコーディング支援の設定ファイルをリポジトリ横断で確認する

MIDNIGHT NEPTUNE の手口に直接対応する確認です。AIアシスタントの設定ファイルがリポジトリに含まれていないか、含まれている場合に意図しない変更が入っていないかを見ます。

# AIコーディング支援の設定ファイルがリポジトリ内にあるか探す
find . -type f -path "*/.claude/*"

# 当該ディレクトリの変更履歴を確認する
git log --oneline -- .claude/

# 直近1か月の変更差分を確認する
git log -p --since="1 month ago" -- .claude/

確認のポイントは「誰が、いつ、何のために入れたか説明できるか」です。説明できない変更があれば、それ自体がインシデントの入口です。設定ファイルをコードレビューの必須対象に加え、変更検知の対象にすることをおすすめします。

3. LLM・クラウドの認証情報を棚卸しし、公開リポジトリをスキャンする

LLMJacking の初期侵入で多いのが、公開リポジトリに残った有効な資格情報です。Mandiant の指針は「Code Monitoring」として、GitHub や GitLab でのシークレットスキャンの自動化を挙げています。

確認すべきことは3つです。APIキーがソースコードやCI設定に直書きされていないか。長期有効な鍵が残っていないか。1本のキーで高額なフロンティアモデルまで呼べる状態になっていないか。3点目については「Granular API Key Scopes」が推奨されています。モデルエンドポイント・環境(dev/prod)・利用上限でキーを分割する考え方です。

4. LLM API の利用量と課金の急増を検知できるようにする

単日10万米ドルという数字は、裏を返せば「気づけば止められた」ことを意味します。モデル単位のAPIクォータと支出上限(Budget Alerts)を設定し、通知先を担当者の受信箱ではなく当番制のチャンネルにします。

加えて、Mandiant の指針は「Validation Sweep Monitoring」を挙げています。攻撃者は大規模な悪用の前に、資格情報の有効性を確かめることが多いためです。max_tokens=1 やゼロ温度のpingのような極小リクエストが使われます。量ではなく「不自然に小さいリクエストの連続」を見る発想が必要です。

5. 監査ログで「狙われるAPI」を追えるようにする

Mandiant/GTIG の LLMJacking ブログには、監視対象とすべきログとAPI名が具体的に挙げられています。自社の環境で、これらが実際にログに残り検索できる状態かを確認してください。

# GCP: Cloud Audit Logs / aiplatform.googleapis.com
google.api.serviceusage.v1.ServiceUsage.EnableService
google.cloud.aiplatform.v1.PredictionService.GenerateContent
google.cloud.aiplatform.v1.ModelService.ListModels
google.logging.v2.ConfigServiceV2.ListSinks

# AWS: CloudTrail / bedrock.amazonaws.com
InvokeModel
Converse
ListFoundationModels
PutModelInvocationLoggingConfiguration
DeleteModelInvocationLoggingConfiguration

# Azure: Activity / Diagnostic Logs
Microsoft.CognitiveServices/accounts/deployments/write
Microsoft.Insights/diagnosticSettings/delete

末尾の「ログ設定の読み取り・変更・削除」系が重要です。攻撃者は証跡を消しに来るため、ログ設定自体の変更をアラート対象にします。

現場での対策:権限設計・監視・インシデント対応

Mandiant Consulting は、LLM対応攻撃ツールの速度とスケールに対抗するためのハードニングガイドを2026年10月31日に公開しています。5つの防御レイヤー(コントロールプレーンの保護、アイデンティティと鍵の制限、構成のハードニングと攻撃経路の削減、アプリケーション保護、行動・ボリュームの変化の検知)という整理です。自社のAIエージェント運用に落とすと、次のようになります。

1. エージェントに渡す権限を「短命・最小・用途限定」にする

ハードニングガイドの Layer 2 は「Move From Long-Lived to Short-Lived Credentials」を掲げています。AIエージェントに静的な長期キーを渡すのをやめ、短命のワークロード資格情報へ移すのが基本線です。

権限は役務ごとに分けます。コード読み取り用、PR作成用、本番参照用を同じ資格情報にまとめないことです。LLMJacking のブログには「特権サービスアカウントがあればマルウェアなしで永続化できた」と記されています。権限そのものが永続化の手段になるということです。

2. 重要操作には必ず人の承認を挟む

本番環境の変更、外部への送信、データの削除、権限の付与。この4つはエージェントに完結させず、人の承認を通す設計にします。OWASP の LLM06 Excessive Agency が指しているのはまさにこの点です。

承認を挟むと遅くなりますが、攻撃側が「machine speed」で動く以上、自社の自動化も同じ速度で誤作動しうると考えるべきです。承認ログはインシデント対応でも証跡になります。

3. 管理面(コントロールプレーン)を外部から見えなくする

ハードニングガイドの Layer 1 は、管理API・管理コンソール・CI/CD を信頼済みネットワークに限定することを求めています。LLMゲートウェイやエージェントのオーケストレーション画面も同じ扱いにしてください。

exploit_agent 自体、露出したステージングサーバ上で発見されています。攻撃側のインフラが露出で見つかるなら、防御側の管理画面も同様に見つかると考えられます。

4. パッチ適用のリードタイムを「日」単位で設計する

PaperCut の事例では、開示から1日で動作するエクスプロイトが作られ、4日後に大規模キャンペーンが始まりました。Huntress は、同社が追跡する約2,500台の PaperCut インストールのうち47%がv23以前だったと報告しています。v23以前にはパッチが提供されていません。

現実的な打ち手は2つです。インターネットに面した資産だけを別SLAで管理し、緊急パッチのリードタイムを短く設計すること。パッチが出ない資産については、公開停止かアクセス元制限で時間を稼ぐことです。Mandiant の指針も「Network Allow Listing」として、外向き通信を既知のIPに制限することを挙げています。

5. インシデント対応フローにAIエージェントを組み込む

既存のプレイブックに、次の手順を足しておきます。

  • AIエージェントの資格情報を一括で無効化する手順と、その実行権限者
  • LLM APIの利用を緊急停止する手順(クォータをゼロにする、キーを失効させる)
  • AIアシスタント設定ファイル(実行フック)の改変有無を確認する手順
  • 課金アラートが鳴ったときの一次対応担当と、調査開始までの時間目標

レポートには、同じ漏えい資格情報で2つの脅威アクターが同一環境に入り込んだ事例が記されています。後から入ったボットネットまたはプロキシサービスは、約24時間で数百万回のLLM API呼び出しを生成しました。その騒がしさが検知につながり、資格情報の失効が先に行われています。検知の仕組みがあれば止まる、という実例として読めます。

注意点:分かっていること/分かっていないこと

煽らずに読むために、線引きを明確にしておきます。

分かっていることは2つです。人間の介在なしに脆弱性の発見から悪用まで行うフレームワークが実在し、GTIG が初めて観測したという事実。そして、OSSの攻撃フレームワークが実環境で使われており、LLMJacking が実害として金額に出ているという事実です。

分かっていないこと、またはレポートが慎重に書いていることもあります。レポートは exploit_agent を「pilot」と記された状態で発見しており、どの程度の成功率で動いていたかは示していません。現時点の自律攻撃ツールは、攻撃のタイムラインを機械の速度まで圧縮できます。ただし、いまは隠密性を速度と引き換えにしているとGTIGは評価しています。無制限の自律実行はフォレンジック上のトラフィックを生み、識別可能な痕跡やコードレベルの特徴を残します。そのため検知と緩和の可能性は上がるとしています。一方で、ツールと基盤のLLMが高度化すれば、人の関与が減るだけでなく、活動の隠密性と洗練度も上がると見込んでいます。

もう一点、冷静に見ておきたいのは「誰が使うか」です。GTIG は、長期潜伏を狙うステルス重視のアクターは、ノイズの大きいツールへの依存が低い見込みだとしています。逆に、隠密性をあまり気にしないアクター(多くのサイバー犯罪者を含む)は違います。成功率が下がってもリーチの拡大で相殺できるため、自律攻撃ツールを取り込み続けると高い確度で評価しています。

つまり、当面の脅威は「超高度な標的型攻撃」よりも「広く浅く、速く、数で押す攻撃」です。守る側の優先順位も、そこに合わせるのが合理的だと考えられます。外部公開資産のパッチ、資格情報の寿命、課金と利用量の監視という地味な3点が効くのは、そのためです。

なお、防御側でも同じ技術が使われています。レポートは Google の取り組みとして、未知の脆弱性を探索するAIエージェント Big Sleep と、コードセキュリティ用AIエージェント CodeMender を挙げています。CodeMender は公開時点で、6カ月間に72件のセキュリティ修正をオープンソースプロジェクトへ upstream したと発表されています。攻撃だけが自動化されるわけではありません。

日本国内でも整理は進んでいます。IPA は「AIセキュリティ短信」を毎月公開しています。2026年11月13日公開の11月号は、「AIエージェント型の攻撃基盤の利用が多様な脅威アクターに広がる」を見出しに掲げています。「情報セキュリティ10大脅威 2026」でも、組織向け第3位に「AIの利用をめぐるサイバーリスク」が初選出されました。社内で説明する際の裏付けとして使えます。

まとめ

GTIG のレポートが示した転換点は、「AIが攻撃に使われるかどうか」ではなく「AIが人間を待たずに攻撃を完遂しうるか」でした。その答えは観測事実として示されました。

同時に、自社で動かしているAIエージェントが攻撃面になるという事実も示されています。MIDNIGHT NEPTUNE が狙ったのは .claude/settings.json という、ごく普通の設定ファイルでした。LLMJacking が狙ったのは、公開リポジトリに残っていたAPIキーでした。どちらも高度な脆弱性ではなく、管理の抜けです。

最初の一歩は、今週のうちに「社内で動いているAIエージェントの一覧表」を1枚作ることです。用途、持っている認証情報、実行できること、ログの所在の4列だけでかまいません。これがないと、権限を絞る議論も、課金アラートの設計も、インシデント時の封じ込めも始まりません。Google の Secure AI Framework(SAIF)には「Agent Risk Self Assessment」という自己評価ツールがあります。一覧ができたら突き合わせてみるとよいでしょう。

参考情報

※本記事は2026年11月17日時点の情報をもとにしています。仕様・価格は変更される可能性があります。