Kembali

2026/11/17

Agen AI yang mencuri kunci untuk membiayai dirinya sendiri: di balik kampanye ARTEX

API AI umpan milik Amazon menangkap catatan agen penyerang: kunci AI curian membiayai perburuan kunci berikutnya. Apa yang terjadi, dan apa yang perlu diperbaiki.

Tim keamanan Amazon menerbitkan laporan ancaman yang tergolong langka. Server umpan milik Amazon, yang dibuat menyerupai API model AI, digunakan oleh agen AI penyerang sebagai “otak” mereka sendiri, dan agen-agen tersebut menyertakan catatan kampanye mereka di setiap permintaan. Kali ini, pihak bertahan bisa membaca memori kerja penyerang. Yang terungkap bukanlah serangan AI futuristik, melainkan kelalaian higiene keamanan yang sudah lama dikenal, kini ditemukan dan dieksploitasi lebih cepat dan lebih murah, dengan kunci AI curian yang membiayai perburuannya.

Jebakannya: API AI umpan yang membaca catatan penyerang

Amazon mengoperasikan jaringan besar sensor umpan bernama MadPot. Sebagian sensor menyamar sebagai API inferensi large language model (LLM) populer, yaitu layanan yang dipanggil aplikasi untuk mendapatkan jawaban dari model. Antara 3 Oktober dan 5 November 2026, agen AI terhubung ke umpan ini seolah-olah itu penyedia model sungguhan.

Agen AI harus mengirim konteksnya ke model di setiap panggilan. Karena itu, umpan tersebut menerima instruksi sistem, riwayat penggunaan tool, status knowledge graph, dan temuan yang dilaporkan agen. Dengan kata lain, para penyerang mengirimkan buku panduan mereka langsung ke Amazon.

Menurut Amazon, agen-agen tersebut berjalan di ARTEX, sebuah framework uji penetrasi berbasis agen AI yang bersifat open source. Amazon menilai, dengan tingkat keyakinan sedang (moderate confidence), bahwa kampanye ini dijalankan oleh beberapa kelompok terpisah yang memiliki keterkaitan dengan Tiongkok. Buktinya antara lain prompt yang ditulis dalam bahasa Mandarin sederhana, pengaturan zona waktu Tiongkok, dan “garis merah” dalam instruksi yang mengecualikan target di Tiongkok daratan serta domain pemerintah. Tingkat keyakinan sedang bukanlah bukti, dan atribusi ini harus dibaca dengan pemahaman tersebut.

Amazon juga terbuka soal keterbatasannya. Amazon tidak menyaksikan serangan itu terjadi. Amazon hanya melihat apa yang dikirim agen ke sensornya, dan tidak dapat memverifikasi hasil yang diklaim oleh agen.

Kampanye 1: kunci curian yang membiayai pencurian berikutnya

Kampanye terbesar memburu kredensial layanan AI: kunci API yang digunakan perusahaan untuk membayar model AI komersial. Agen-agen tersebut menyasar dua jenis perangkat lunak yang di-host sendiri (self-hosted).

  • Gateway dan proxy LLM: One API, New API, Veloera, Sub2API, dan LiteLLM. Perangkat lunak ini berada di depan beberapa penyedia AI dan menyimpan semua kunci mereka di satu tempat.
  • Pembuat aplikasi AI dan antarmuka chat: Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat, dan Ollama.

Tekniknya bukan hal baru. Agen-agen tersebut mencari:

  • instalasi baru yang belum diklaim siapa pun, sehingga pengunjung pertama menjadi administrator;
  • halaman admin dan konfigurasi penyedia yang merespons tanpa login;
  • kredensial administrator bawaan, seperti master key bawaan LiteLLM;
  • kerentanan yang sudah diketahui, termasuk Langflow CVE-2025-3248 dan RAGFlow CVE-2026-28797;
  • bypass autentikasi melalui header isCliRequest pada keluarga gateway One API;
  • server-side request forgery (SSRF) untuk menjangkau layanan metadata cloud beserta kredensialnya;
  • rahasia yang tertinggal di JavaScript sisi klien, source map, route debug, dan file environment.

Agen-agen tersebut menilai temuannya secara bertingkat: petunjuk awal, lalu kunci yang terkonfirmasi lewat panggilan API yang berhasil, lalu kunci yang dampaknya sudah terukur. Kunci yang telah terekspos ke publik lebih dari 30 hari dianggap bernilai rendah, dengan asumsi pihak lain sudah memakainya.

Yang patut dikhawatirkan setiap perusahaan yang menjalankan layanan AI adalah sisi ekonominya. Kunci yang masih berfungsi dimasukkan kembali ke gateway model milik penyerang sendiri, sehingga kunci curian membiayai inferensi AI yang menggerakkan perburuan kunci berikutnya. Amazon menyebutnya operasi yang mampu menopang dirinya sendiri. Korbanlah yang menanggung tagihannya, sementara penyerang nyaris tidak mengeluarkan biaya untuk terus menjalankan serangan.

Kampanye 2: deepfake untuk menembus verifikasi identitas

Kampanye kedua menggunakan jenis agen yang sama untuk menyerang proses know-your-customer (KYC) atau verifikasi identitas nasabah di dua bursa kripto. Agen-agen tersebut membuat foto dokumen identitas palsu dengan metadata kamera palsu, serta video deepfake real-time untuk lolos dari pemeriksaan selfie langsung. Satu sesi membangun pipeline deepfake real-time di satu kartu grafis kelas konsumen, berjalan pada 11,5 frame per detik.

Upaya itu gagal. Dalam setiap percobaan yang dicatat agen, pemeriksaan sisi server milik vendor verifikasi identitas menolak deepfake tersebut, bahkan ketika percobaan terbaik mampu menjaga wajah dalam jarak 7 piksel dari target. Pelajarannya: keputusan akhir harus berasal dari server, bukan dari apa pun yang bisa dikendalikan perangkat pengguna.

Mengapa gateway AI adalah aset paling berharga

Gateway LLM praktis karena menempatkan semua penyedia AI di balik satu halaman admin. Justru itulah yang membuatnya menjadi target terbaik. Satu login yang lemah, satu instalasi yang belum diklaim, atau satu endpoint konfigurasi yang terekspos sudah cukup untuk membuka semua akun penyedia di baliknya sekaligus, beserta batas pengeluarannya.

Banyak dari tool ini dipasang terburu-buru untuk proyek percontohan atau hackathon, lalu dibiarkan berjalan di internet. Tool tersebut sering berada di luar proses patching, pemantauan, dan peninjauan akses rutin yang berlaku untuk sistem produksi. Agen bergaya ARTEX memindai celah seperti itu sepanjang hari, dengan biaya yang sangat rendah.

Yang perlu dilakukan sekarang

  1. Perlakukan gateway AI dan pembuat aplikasi AI sebagai sistem produksi. Tempatkan di balik autentikasi dan, bila memungkinkan, di balik VPN atau jaringan privat. Sertakan dalam proses patching, pemantauan, dan peninjauan akses.
  2. Tuntaskan setiap instalasi. Klaim akun admin segera setelah instalasi, dan hapus kata sandi serta master key bawaan, termasuk master key bawaan LiteLLM.
  3. Tutup antarmuka admin. Halaman admin dan konfigurasi penyedia tidak boleh merespons tanpa login, dan tidak boleh dapat diakses dari internet.
  4. Tambal kerentanan yang disebutkan. Langflow CVE-2025-3248 sudah diperbaiki di Langflow 1.3.0 dan masuk dalam daftar kerentanan yang aktif dieksploitasi milik CISA. Untuk RAGFlow CVE-2026-28797, advisori tidak mencantumkan versi yang sudah ditambal, tetapi sejak RAGFlow 0.25.0 komponen yang terdampak merender template di dalam sandbox Jinja2, jadi tingkatkan ke 0.25.0 atau yang lebih baru. Kami tidak menemukan perbaikan yang dipublikasikan untuk bypass isCliRequest pada One API, jadi jauhkan One API beserta fork-nya dari internet publik.
  5. Rotasi kunci penyedia. Jika gateway atau aplikasi AI pernah terekspos, anggap kuncinya sudah dicuri. Rotasi kunci di masing-masing penyedia, bukan hanya di gateway.
  6. Tetapkan batas pengeluaran dan peringatan. Beri setiap kunci batas anggaran tersendiri dan pasang peringatan untuk pengeluaran atau penggunaan yang tidak wajar. Tagihan yang melonjak tiba-tiba sering menjadi tanda pertama kunci yang dicuri.
  7. Jangan sertakan rahasia dalam apa yang Anda rilis. Periksa JavaScript front-end, source map, route debug, dan file environment dari kunci sebelum setiap rilis.
  8. Cegah penyalahgunaan metadata. Di server cloud, wajibkan versi layanan metadata yang lebih baru yang tahan terhadap SSRF (misalnya IMDSv2 di AWS), dan batasi apa yang bisa dilakukan instance role.
  9. Periksa indikatornya. Laporan Amazon mencantumkan alamat IP yang terlihat di kedua kampanye. Cari alamat tersebut di log gateway dan log web Anda.

Kesimpulan

ARTEX tidak menciptakan jenis serangan baru. ARTEX memanfaatkan kata sandi bawaan, halaman admin yang terbuka, dan perangkat lunak yang belum ditambal, lalu membuat eksploitasinya cepat, terus-menerus, dan membiayai dirinya sendiri. Pertahanannya tetap higiene keamanan dasar yang sama seperti biasa, kini juga diterapkan pada gateway AI dan tool AI. Anggaplah setiap kunci yang terekspos atau kesalahan konfigurasi akan cepat ditemukan, dan perbaiki sebelum itu terjadi.

Butuh bantuan meninjau seberapa terekspos tool dan gateway AI Anda? Hubungi tim LOGIQ.

Sumber

Photo: Lucas Seebacher / Pexels