返回

2026/11/17

靠竊取金鑰自給自足的 AI 代理程式:ARTEX 攻擊活動內幕

Amazon 的誘餌 AI API 攔截到攻擊方代理程式的工作筆記:被盜的 AI 金鑰正為搜尋更多金鑰買單。本文說明事情經過,以及需要修正的地方。

Amazon 安全團隊發布了一份罕見的威脅報告。他們把誘餌伺服器偽裝成 AI 模型 API,結果攻擊方的 AI 代理程式竟把這些伺服器當成自己的「大腦」使用,而且每次發出請求時,都會一併送出攻擊活動的筆記。防禦方難得能夠直接讀取攻擊者的「工作記憶」。報告揭示的並不是什麼未來式的 AI 攻擊,而是老問題:基本資安管理上的疏漏,被更快、更便宜地找出並加以利用,而支付這場搜尋費用的,正是被盜的 AI 金鑰。

陷阱:讀取攻擊者筆記的誘餌 AI API

Amazon 營運著一個名為 MadPot 的大型誘餌感測器網路。其中一部分偽裝成常見的大型語言模型(LLM)推論 API,也就是應用程式為了取得模型回答而呼叫的服務。2026 年 10 月 3 日至 11 月 5 日期間,AI 代理程式把這些誘餌當成真正的模型供應商而連線進來。

AI 代理程式每次呼叫模型時,都必須送出自身的上下文。因此,誘餌收到了代理程式的系統指令、工具使用紀錄、知識圖譜狀態,以及所回報的發現。等於是攻擊者把自己的作戰手冊寄給了 Amazon。

根據 Amazon 的說法,這些代理程式是在 ARTEX 上執行的。ARTEX 是一套開源的代理式 AI 滲透測試框架。Amazon 以中等信心程度(moderate confidence)評估,這些攻擊活動是由多個彼此獨立、與中國有關聯的團體所發動。其依據包括:以簡體中文撰寫的提示詞、中國時區設定,以及指令中排除中國大陸目標與政府網域的「紅線」。中等信心程度並不等於證據,這項歸因判斷也應以此看待。

Amazon 也清楚說明了分析的侷限。Amazon 並未直接觀察到攻擊過程,只看到代理程式傳送到其感測器的內容,也無法驗證代理程式所宣稱的成果。

攻擊活動一:用偷來的金鑰支付下一次竊取的費用

規模最大的攻擊活動專門搜尋 AI 服務的憑證,也就是企業用來支付商用 AI 模型費用的 API 金鑰。代理程式鎖定的是兩類自行架設的軟體。

  • LLM 閘道與代理伺服器:One API、New API、Veloera、Sub2API 與 LiteLLM。這類軟體位於多家 AI 供應商之前,把所有金鑰集中存放在同一處。
  • AI 應用程式建構平台與聊天前端:Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat 與 Ollama。

使用的手法並不新。代理程式搜尋的目標包括:

  • 尚未有人完成管理員設定的全新安裝,第一個造訪者就能成為管理員;
  • 不需登入就會回應的管理頁面與供應商設定頁面;
  • 預設的管理員憑證,例如 LiteLLM 的預設主金鑰;
  • 已知漏洞,包括 Langflow CVE-2025-3248 與 RAGFlow CVE-2026-28797;
  • One API 系列閘道中,透過 isCliRequest 標頭達成的身分驗證繞過;
  • 利用伺服器端請求偽造(SSRF)存取雲端中繼資料服務及其憑證;
  • 遺留在用戶端 JavaScript、source map、除錯路由與環境設定檔中的機密資訊。

代理程式會替找到的東西分級:先是線索,接著是透過實際 API 呼叫確認有效的金鑰,再來是已評估影響程度的金鑰。公開超過 30 天的金鑰被視為低價值,理由是假設已經有其他人在使用。

真正值得所有營運 AI 服務的企業警惕的,是其中的經濟算盤。有效的金鑰被回送到攻擊者自己的模型閘道,於是被盜的金鑰支付了驅動搜尋更多金鑰的 AI 推論費用。Amazon 將其形容為一種「自給自足」的行動。帳單由受害者買單,攻擊者幾乎不必花費任何成本就能讓攻擊持續運作。

攻擊活動二:鎖定身分驗證的深偽

第二項攻擊活動以同類代理程式,針對兩家加密貨幣交易所的「認識你的客戶」(KYC)身分驗證。代理程式偽造了附有假相機中繼資料的身分證件照片,並產生即時深偽影片,企圖通過即時自拍驗證。其中一個工作階段只用一張消費級顯示卡,就建立了即時深偽處理流程,運作速度為每秒 11.5 格。

但這些嘗試並未成功。在代理程式記錄的每一次嘗試中,身分驗證業者的伺服器端檢查都拒絕了深偽內容;即使是表現最好的一次,臉部與目標的偏差控制在 7 像素以內,也同樣被拒絕。這帶來的教訓是:最終判定必須由伺服器做出,不能交給使用者裝置能夠操控的任何環節。

為什麼 AI 閘道是最關鍵的資產

LLM 閘道之所以方便,是因為它把所有 AI 供應商都集中到單一管理頁面之後。而這也正是它成為最佳攻擊目標的原因。只要有一個薄弱的登入、一個尚未完成管理員設定的安裝,或一個外露的設定端點,其背後所有供應商帳號連同各自的消費額度,就會一次全部拱手讓人。

這類工具很多是為了試行專案或黑客松而匆忙安裝,之後就一直在網際網路上運作。它們往往不在正式環境系統通常適用的修補、監控與存取權限審查範圍內。ARTEX 這類代理程式正是全天候、以極低成本掃描這個缺口。

現在該做什麼

  1. 把 AI 閘道與 AI 應用程式建構平台視為正式環境系統。為其啟用身分驗證,並盡可能放在 VPN 或私有網路之後。將其納入修補、監控與存取權限審查的範圍。
  2. 確實完成每一次安裝。安裝後立即取得管理員帳號,並移除預設密碼與主金鑰,包括 LiteLLM 的預設主金鑰。
  3. 關閉管理介面。管理頁面與供應商設定頁面絕不應在未登入時回應,也不應能從網際網路連線。
  4. 修補文中提到的漏洞。Langflow CVE-2025-3248 已在 Langflow 1.3.0 修正,並已列入 CISA 的已知遭利用漏洞清單。至於 RAGFlow CVE-2026-28797,安全公告並未列出已修補版本,但從 RAGFlow 0.25.0 起,受影響的元件會在 Jinja2 的沙箱中轉譯範本,因此請升級至 0.25.0 或更新版本。我們沒有找到針對 One API isCliRequest 繞過的公開修正,因此請勿讓 One API 及其分支版本暴露在公開網際網路上。
  5. 輪替供應商金鑰。如果閘道或 AI 應用程式曾經外露,就應假設其金鑰已遭竊取。請在各供應商端輪替金鑰,而不只是在閘道中更換。
  6. 設定消費上限與警示。為每把金鑰設定各自的預算上限,並在出現異常消費或用量時發出警示。突如其來的帳單,往往是金鑰遭竊的第一個徵兆。
  7. 別讓機密資訊隨著發布內容外流。每次發布前,檢查前端 JavaScript、source map、除錯路由與環境設定檔中是否含有金鑰。
  8. 阻擋中繼資料濫用。在雲端伺服器上,強制使用能抵禦 SSRF 的新版中繼資料服務(例如 AWS 上的 IMDSv2),並限制執行個體角色的權限。
  9. 檢查入侵指標。Amazon 的報告列出了兩項攻擊活動中觀察到的 IP 位址。請在閘道與網站記錄中搜尋這些位址。

結語

ARTEX 並沒有發明新的攻擊手法。它利用的是預設密碼、開放的管理頁面與未修補的軟體,只是讓這些弱點的利用變得快速、持續不斷,而且能自行籌措經費。防禦之道仍是一貫的基本資安管理,只是現在也必須套用到 AI 閘道與 AI 工具上。請假設任何外露的金鑰或錯誤設定都會很快被找到,並搶在被找到之前修正。

需要協助檢視貴公司 AI 工具與閘道的外露情況嗎?與 LOGIQ 團隊聯絡。

資料來源

Photo: Lucas Seebacher / Pexels