戻る

2026/11/17

盗んだAPIキーで自らの稼働費を賄うAIエージェント:ARTEXキャンペーンの実態

AmazonのおとりAI APIが、攻撃側AIエージェントの作業メモを捕捉しました。盗まれたAIキーが、さらなるキー探しの費用を賄っていたのです。何が起きたのか、何を対策すべきかを解説します。

Amazonのセキュリティチームが、珍しいタイプの脅威レポートを公開しました。AIモデルのAPIに見せかけて構築したおとりサーバーを、攻撃側のAIエージェントが自らの「頭脳」として利用しており、しかもエージェントはリクエストのたびに攻撃キャンペーンのメモを一緒に送信していたのです。防御側が攻撃者の「作業記憶」を読めるという、めったにない機会となりました。そこから見えてきたのは、未来的なAI攻撃ではありません。昔からある基本的なセキュリティ対策の不備が、より速く、より安く発見・悪用されており、その探索費用を盗まれたAIキーが支払っているという実態です。

罠:攻撃者のメモを読み取るおとりAI API

Amazonは、MadPotと呼ばれる大規模なおとりセンサー網を運用しています。その一部は、広く使われている大規模言語モデル(LLM)の推論API、つまりアプリケーションがモデルから回答を得るために呼び出すサービスを装っています。2026年10月3日から11月5日にかけて、AIエージェントがこれらのおとりに、本物のモデル提供事業者であるかのように接続してきました。

AIエージェントは、呼び出しのたびに自らのコンテキストをモデルに送る必要があります。そのため、おとりにはエージェントのシステム指示、ツールの実行履歴、ナレッジグラフの状態、報告された発見事項が届きました。事実上、攻撃者は自らの手の内をAmazonに郵送していたことになります。

Amazonによると、エージェントはオープンソースのエージェント型AIペネトレーションテスト・フレームワークであるARTEX上で動作していました。Amazonは中程度の確度(moderate confidence)で、これらのキャンペーンは中国と関連のある複数の別々のグループによって実行されたと評価しています。根拠として挙げられているのは、簡体字中国語で書かれたプロンプト、中国のタイムゾーン設定、そして中国本土の標的と政府ドメインを除外する、指示内の「レッドライン」(越えてはならない一線)です。中程度の確度は証拠ではなく、この帰属判断もそのように受け止めるべきです。

Amazonは、この分析の限界についても明確にしています。Amazonは攻撃が行われる様子を直接観測したわけではありません。確認できたのはエージェントがセンサーに送信した内容だけであり、エージェントが主張した成果を検証することはできません。

キャンペーン1:盗んだキーが次の窃取の費用を払う

最大のキャンペーンは、AIサービスの認証情報、つまり企業が商用AIモデルの利用料を支払うために使うAPIキーを狙っていました。エージェントが標的にしたのは、2種類のセルフホスト型ソフトウェアです。

  • LLMゲートウェイとプロキシ:One API、New API、Veloera、Sub2API、LiteLLM。これらは複数のAIプロバイダーの前段に置かれ、すべてのキーを1か所で保持しています。
  • AIアプリケーションビルダーとチャットフロントエンド:Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollama。

手口そのものは新しいものではありません。エージェントが探していたのは、次のようなものです。

  • まだ誰も管理者登録を済ませておらず、最初にアクセスした人が管理者になれる新規インストール環境
  • ログインなしで応答する管理画面やプロバイダー設定画面
  • LiteLLMのデフォルトのマスターキーなど、管理者の初期認証情報
  • Langflow CVE-2025-3248やRAGFlow CVE-2026-28797などの既知の脆弱性
  • One API系のゲートウェイにおける、isCliRequestヘッダーを利用した認証回避
  • クラウドのメタデータサービスとその認証情報に到達するための、サーバーサイドリクエストフォージェリ(SSRF)
  • クライアント側のJavaScript、ソースマップ、デバッグ用ルート、環境設定ファイルに残された機密情報

エージェントは、発見したものを段階的に格付けしていました。まず「手がかり」、次に実際のAPI呼び出しで有効性を確認したキー、さらに影響度を測定済みのキーという段階です。公開されてから30日を超えたキーは、すでに他の誰かが使っているという前提で、価値が低いものとして扱われていました。

AIサービスを運用するすべての企業が懸念すべきなのは、その経済性です。有効なキーは攻撃者自身のモデルゲートウェイに投入され、盗まれたキーが、さらなるキー探しを動かすAI推論の費用を支払っていました。Amazonはこれを「自己持続型」の作戦と表現しています。費用を負担したのは被害者であり、攻撃者はほとんどコストをかけずに攻撃を続けることができました。

キャンペーン2:本人確認を狙ったディープフェイク

2つ目のキャンペーンでは、同種のエージェントが2つの暗号資産取引所の本人確認(KYC)チェックに対して使われました。エージェントは、偽のカメラメタデータを付けた偽造身分証明書の写真と、ライブのセルフィー確認を通過するためのリアルタイムのディープフェイク動画を生成していました。あるセッションでは、一般消費者向けのグラフィックスカード1枚で、毎秒11.5フレームで動作するリアルタイムのディープフェイク処理パイプラインを構築していました。

しかし、これは成功しませんでした。エージェントが記録したすべての試行で、本人確認ベンダーのサーバー側チェックがディープフェイクを却下しています。最も精度の高い試行で、顔の位置を目標から7ピクセル以内に収めた場合でも同様でした。ここから得られる教訓は、最終的な判定はサーバー側で下すべきであり、ユーザーの端末側で操作できるものに委ねてはならないということです。

なぜAIゲートウェイは最重要資産なのか

LLMゲートウェイが便利なのは、すべてのAIプロバイダーを1つの管理画面の背後にまとめられるからです。そしてそれこそが、最も狙われやすい理由でもあります。脆弱なログインが1つ、管理者登録が済んでいないインストールが1つ、あるいは露出した設定エンドポイントが1つあるだけで、その背後にあるすべてのプロバイダーアカウントが、それぞれの利用上限額ともども一度に奪われてしまいます。

こうしたツールの多くは、パイロットやハッカソンのために手早くインストールされ、そのままインターネット上で稼働し続けています。本番システムに適用される通常のパッチ適用、監視、アクセスレビューの対象から外れていることも少なくありません。ARTEXのようなエージェントは、まさにその隙を、一日中、極めて低いコストでスキャンしています。

今すぐ取るべき対策

  1. AIゲートウェイとAIアプリビルダーを本番システムとして扱う。認証を必須とし、可能であればVPNやプライベートネットワークの内側に置いてください。パッチ適用、監視、アクセスレビューの対象にも含めます。
  2. インストールを最後まで完了させる。インストール直後に管理者アカウントを確保し、LiteLLMのデフォルトのマスターキーを含め、初期パスワードとマスターキーを削除してください。
  3. 管理インターフェースを閉じる。管理画面やプロバイダー設定画面がログインなしで応答することがあってはならず、インターネットから到達できる状態にもしないでください。
  4. 名指しされた脆弱性にパッチを適用する。Langflow CVE-2025-3248はLangflow 1.3.0で修正済みで、CISAの「悪用が確認された既知の脆弱性」リストに掲載されています。RAGFlow CVE-2026-28797については、アドバイザリに修正済みバージョンの記載はありませんが、RAGFlow 0.25.0以降では影響を受けるコンポーネントがJinja2のサンドボックス内でテンプレートを描画するため、0.25.0以降にアップグレードしてください。One APIのisCliRequestによる認証回避については、公開された修正を確認できませんでした。One APIとその派生版(フォーク)は、パブリックなインターネットに公開しないでください。
  5. プロバイダーのキーをローテーションする。ゲートウェイやAIアプリが一度でも外部に露出していたなら、キーは盗まれたものと想定してください。ゲートウェイ内だけでなく、各プロバイダー側でキーをローテーションします。
  6. 利用上限とアラートを設定する。キーごとに予算の上限を設け、通常と異なる支出や利用量に対してアラートを出してください。突然の高額請求が、キー盗難の最初の兆候であることも少なくありません。
  7. リリース物に機密情報を含めない。リリースのたびに、フロントエンドのJavaScript、ソースマップ、デバッグ用ルート、環境設定ファイルにキーが含まれていないか確認してください。
  8. メタデータの悪用を防ぐ。クラウドサーバーでは、SSRFに耐性のある新しいバージョンのメタデータサービス(たとえばAWSのIMDSv2)を必須とし、インスタンスロールに許可する操作を制限してください。
  9. 侵害指標を確認する。Amazonのレポートには、両キャンペーンで確認されたIPアドレスが記載されています。ゲートウェイやWebサーバーのログで、それらを検索してください。

まとめ

ARTEXは新しい攻撃手法を生み出したわけではありません。初期パスワード、開放された管理画面、パッチ未適用のソフトウェアといった既存の弱点を、高速かつ絶え間なく、しかも攻撃自体が費用を稼ぎ出す形で悪用できるようにしたのです。防御策はこれまでと同じ基本的なセキュリティ対策であり、それを今後はAIゲートウェイやAIツールにも適用することです。露出したキーや設定ミスはすぐに見つかるものと想定し、見つかる前に修正してください。

自社のAIツールやゲートウェイがどの程度外部に露出しているか、点検のご支援が必要ですか?LOGIQチームにお問い合わせください。

参考情報

Photo: Lucas Seebacher / Pexels