Zurück
2026/11/17
KI-Agenten, die Schlüssel stehlen, um sich selbst zu finanzieren: Ein Blick in die ARTEX-Kampagnen
Amazons KI-API-Köder lasen die Notizen angreifender Agenten mit: Gestohlene KI-Schlüssel finanzierten die Jagd nach weiteren Schlüsseln. Was passiert ist und was zu tun ist.
Das Sicherheitsteam von Amazon hat einen ungewöhnlichen Bedrohungsbericht veröffentlicht. Seine Köder-Server, die wie KI-Modell-APIs aussehen sollten, wurden von angreifenden KI-Agenten als eigenes „Gehirn“ genutzt – und die Agenten schickten bei jeder Anfrage ihre Kampagnennotizen mit. Ausnahmsweise konnten die Verteidiger also das Arbeitsgedächtnis der Angreifer mitlesen. Was sich dabei zeigt, ist kein futuristischer KI-Angriff. Es sind altbekannte Versäumnisse bei der Grundhygiene, die schneller und billiger gefunden und ausgenutzt werden – bezahlt mit gestohlenen KI-Schlüsseln.
Die Falle: KI-API-Köder, die die Notizen der Angreifer mitlesen
Amazon betreibt ein großes Netz von Köder-Sensoren namens MadPot. Einige davon geben sich als verbreitete Inferenz-APIs für große Sprachmodelle (LLM) aus, also als die Dienste, die eine Anwendung aufruft, um Antworten von einem Modell zu erhalten. Zwischen dem 3. Oktober und dem 5. November 2026 verbanden sich KI-Agenten mit diesen Ködern, als wären sie ein echter Modellanbieter.
Ein KI-Agent muss bei jedem Aufruf seinen Kontext an das Modell senden. Die Köder erhielten daher die Systemanweisungen der Agenten, ihre Tool-Verläufe, den Zustand ihres Wissensgraphen und die gemeldeten Funde. Faktisch schickten die Angreifer Amazon ihr Drehbuch per Post.
Laut Amazon liefen die Agenten auf ARTEX, einem quelloffenen Framework für agentenbasierte KI-Penetrationstests. Amazon geht mit mittlerer Sicherheit (moderate confidence) davon aus, dass die Kampagnen von mehreren getrennten Gruppen mit Verbindungen nach China betrieben wurden. Als Belege nennt das Unternehmen unter anderem Prompts in vereinfachtem Chinesisch, Zeitzoneneinstellungen für China und „rote Linien“ in den Anweisungen, die Ziele in Festlandchina sowie Regierungsdomains ausschlossen. Eine Einschätzung mit mittlerer Sicherheit ist kein Beweis, und so sollte die Zuordnung auch gelesen werden.
Amazon benennt auch die Grenzen klar. Das Unternehmen hat die Angriffe nicht selbst beobachtet. Es sah nur, was die Agenten an seine Sensoren schickten, und kann die von den Agenten behaupteten Ergebnisse nicht überprüfen.
Kampagne 1: Gestohlene Schlüssel finanzieren den nächsten Diebstahl
Die größte Kampagne zielte auf Zugangsdaten für KI-Dienste: die API-Schlüssel, mit denen Unternehmen kommerzielle KI-Modelle bezahlen. Die Agenten nahmen zwei Arten selbst betriebener Software ins Visier.
- LLM-Gateways und -Proxys: One API, New API, Veloera, Sub2API und LiteLLM. Sie sind mehreren KI-Anbietern vorgeschaltet und bewahren deren Schlüssel an einem Ort auf.
- Baukästen für KI-Anwendungen und Chat-Oberflächen: Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat und Ollama.
Die Techniken waren nicht neu. Die Agenten suchten nach:
- frischen Installationen, die noch niemand eingerichtet hatte und bei denen der erste Besucher zum Administrator wird;
- Admin- und Anbieterkonfigurationsseiten, die ohne Anmeldung antworteten;
- Standard-Administratorzugangsdaten wie dem Standard-Master-Key von LiteLLM;
- bekannten Schwachstellen, darunter Langflow CVE-2025-3248 und RAGFlow CVE-2026-28797;
- einer Umgehung der Authentifizierung über den Header isCliRequest in der One API-Familie von Gateways;
- serverseitiger Anfragefälschung (SSRF), um Cloud-Metadatendienste und deren Zugangsdaten zu erreichen;
- Geheimnissen, die in clientseitigem JavaScript, Source Maps, Debug-Routen und Umgebungsdateien zurückgeblieben waren.
Die Agenten bewerteten ihre Funde in Stufen: zunächst ein Hinweis, dann ein durch einen funktionierenden API-Aufruf bestätigter Schlüssel, schließlich ein Schlüssel mit gemessener Wirkung. Schlüssel, die seit mehr als 30 Tagen öffentlich waren, galten als wenig wertvoll – in der Annahme, dass sie bereits jemand anderes nutzte.
Was jedem Unternehmen mit KI-Diensten Sorgen machen sollte, ist die Wirtschaftlichkeit. Funktionierende Schlüssel wurden in das eigene Modell-Gateway der Angreifer eingespeist, sodass die gestohlenen Schlüssel die KI-Inferenz bezahlten, mit der nach weiteren Schlüsseln gesucht wurde. Amazon beschreibt dies als sich selbst tragende Operation. Die Rechnung zahlten die Opfer, und die Angreifer kostete der Weiterbetrieb fast nichts.
Kampagne 2: Deepfakes gegen Identitätsprüfungen
Die zweite Kampagne setzte dieselbe Art von Agenten gegen KYC-Prüfungen (Know Your Customer, also die Identifizierung von Kunden) bei zwei Kryptowährungsbörsen ein. Die Agenten erzeugten gefälschte Fotos von Ausweisdokumenten mit manipulierten Kamera-Metadaten sowie Deepfake-Videos in Echtzeit, um Live-Selfie-Prüfungen zu bestehen. In einer Sitzung entstand eine Echtzeit-Deepfake-Pipeline auf einer einzigen handelsüblichen Grafikkarte, die mit 11,5 Bildern pro Sekunde lief.
Es funktionierte nicht. Bei jedem Versuch, den die Agenten protokollierten, wies die serverseitige Prüfung des Identitätsanbieters den Deepfake zurück – selbst als der beste Versuch das Gesicht auf 7 Pixel genau am Ziel hielt. Die Lehre daraus: Das endgültige Urteil muss vom Server kommen, nicht von etwas, das das Gerät des Nutzers kontrollieren kann.
Warum KI-Gateways die Kronjuwelen sind
Ein LLM-Gateway ist bequem, weil es alle KI-Anbieter hinter einer einzigen Admin-Seite bündelt. Genau deshalb ist es auch das lohnendste Ziel. Eine schwache Anmeldung, eine nicht eingerichtete Installation oder ein offener Konfigurations-Endpunkt gibt auf einen Schlag alle dahinterliegenden Anbieterkonten preis – samt ihrer Ausgabenlimits.
Viele dieser Werkzeuge werden schnell für ein Pilotprojekt oder einen Hackathon installiert und laufen danach einfach im Internet weiter. Oft liegen sie außerhalb der üblichen Patch-, Monitoring- und Zugriffsprüfungen, die für Produktivsysteme gelten. Agenten nach dem Muster von ARTEX suchen rund um die Uhr und zu sehr geringen Kosten genau nach dieser Lücke.
Was jetzt zu tun ist
- Behandeln Sie KI-Gateways und KI-App-Baukästen als Produktivsysteme. Schützen Sie sie durch Authentifizierung und, wo möglich, durch ein VPN oder ein privates Netzwerk. Beziehen Sie sie in Patching, Monitoring und Zugriffsprüfungen ein.
- Schließen Sie jede Installation ab. Richten Sie das Admin-Konto unmittelbar nach der Installation ein und entfernen Sie Standardpasswörter und Master-Keys, einschließlich des Standard-Master-Keys von LiteLLM.
- Schließen Sie die Admin-Oberflächen. Admin- und Anbieterkonfigurationsseiten dürfen niemals ohne Anmeldung antworten und sollten aus dem Internet nicht erreichbar sein.
- Patchen Sie die genannten Schwachstellen. Langflow CVE-2025-3248 ist in Langflow 1.3.0 behoben und steht auf der CISA-Liste aktiv ausgenutzter Schwachstellen. Für RAGFlow CVE-2026-28797 nennt der Sicherheitshinweis keine gepatchte Version; ab RAGFlow 0.25.0 rendern die betroffenen Komponenten Templates jedoch in der Sandbox von Jinja2. Aktualisieren Sie daher auf 0.25.0 oder neuer. Für die isCliRequest-Umgehung in One API haben wir keine veröffentlichte Korrektur gefunden. Halten Sie One API und seine Forks deshalb vom öffentlichen Internet fern.
- Tauschen Sie Anbieterschlüssel aus. Wenn ein Gateway oder eine KI-Anwendung jemals offen erreichbar war, gehen Sie davon aus, dass die Schlüssel abgegriffen wurden. Erneuern Sie sie bei jedem Anbieter, nicht nur im Gateway.
- Legen Sie Ausgabenlimits und Warnungen fest. Geben Sie jedem Schlüssel ein eigenes Budgetlimit und lassen Sie sich bei ungewöhnlichen Ausgaben oder ungewöhnlicher Nutzung warnen. Eine plötzlich hohe Rechnung ist oft das erste Anzeichen für einen gestohlenen Schlüssel.
- Halten Sie Geheimnisse aus Ihren Auslieferungen heraus. Prüfen Sie vor jedem Release Frontend-JavaScript, Source Maps, Debug-Routen und Umgebungsdateien auf Schlüssel.
- Unterbinden Sie den Missbrauch von Metadatendiensten. Erzwingen Sie auf Cloud-Servern die neueren, gegen SSRF widerstandsfähigen Versionen des Metadatendienstes (zum Beispiel IMDSv2 bei AWS) und beschränken Sie die Rechte der Instanzrolle.
- Prüfen Sie die Indikatoren. Amazons Bericht listet IP-Adressen auf, die in beiden Kampagnen beobachtet wurden. Durchsuchen Sie Ihre Gateway- und Web-Logs danach.
Fazit
ARTEX hat keinen neuen Angriff erfunden. Es hat Standardpasswörter, offene Admin-Seiten und ungepatchte Software genommen und deren Ausnutzung schnell, dauerhaft und selbstfinanzierend gemacht. Die Abwehr ist dieselbe Grundhygiene wie immer – nur dass sie jetzt auch für KI-Gateways und KI-Werkzeuge gelten muss. Gehen Sie davon aus, dass jeder offenliegende Schlüssel und jede Fehlkonfiguration schnell gefunden wird, und beheben Sie sie, bevor es so weit ist.
Möchten Sie prüfen lassen, wie offen Ihre KI-Werkzeuge und Gateways erreichbar sind? Kontaktieren Sie das LOGIQ-Team.
Quellen
- AWS Security Blog: Amazon Threat Intelligence observes threat actors running cybercrime campaigns with ARTEX AI agents (13. November 2026)
- NVD: CVE-2025-3248, Remotecodeausführung ohne Authentifizierung in Langflow (behoben in 1.3.0)
- RAGFlow-Sicherheitshinweis GHSA-vvwj-fvwh-4whx: CVE-2026-28797, serverseitige Template-Injection
- CISA: Known Exploited Vulnerabilities Catalog (Katalog aktiv ausgenutzter Schwachstellen)
Photo: Lucas Seebacher / Pexels
Global
Japan
Korea
China
Taiwan
Vietnam
Thailand
Indonesia
Portugal
Spain
France
Egypt
Russia