กลับ

2026/11/17

AI agent ที่ขโมยคีย์มาจ่ายค่าใช้จ่ายให้ตัวเอง: เจาะลึกแคมเปญ ARTEX

API AI ล่อเป้าของ Amazon จับบันทึกของ agent ผู้โจมตีได้: คีย์ AI ที่ถูกขโมยถูกใช้จ่ายค่าล่าคีย์เพิ่ม เกิดอะไรขึ้น และต้องแก้ไขอะไร

ทีมความปลอดภัยของ Amazon ได้เผยแพร่รายงานภัยคุกคามประเภทที่หาได้ยาก เซิร์ฟเวอร์ล่อเป้าของ Amazon ซึ่งสร้างให้ดูเหมือน API ของโมเดล AI ถูก AI agent ของผู้โจมตีนำไปใช้เป็น “สมอง” ของตัวเอง และ agent เหล่านี้ยังส่งบันทึกแคมเปญของตนแนบมากับทุกคำขอ ครั้งนี้ฝ่ายป้องกันจึงได้อ่านหน่วยความจำการทำงานของผู้โจมตีโดยตรง สิ่งที่พบไม่ใช่การโจมตีด้วย AI แห่งอนาคต แต่เป็นจุดอ่อนด้านสุขอนามัยความปลอดภัยแบบเดิม ๆ ที่ถูกค้นพบและเจาะได้เร็วขึ้นและถูกลง โดยมีคีย์ AI ที่ถูกขโมยเป็นผู้จ่ายค่าการล่า

กับดัก: API AI ล่อเป้าที่อ่านบันทึกของผู้โจมตีได้

Amazon ดำเนินเครือข่ายเซนเซอร์ล่อเป้าขนาดใหญ่ชื่อ MadPot เซนเซอร์บางส่วนปลอมตัวเป็น API สำหรับการอนุมาน (inference) ของโมเดลภาษาขนาดใหญ่ (LLM) ยอดนิยม ซึ่งก็คือบริการที่แอปพลิเคชันเรียกใช้เพื่อรับคำตอบจากโมเดล ระหว่างวันที่ 3 ตุลาคมถึง 5 พฤศจิกายน 2026 AI agent ได้เชื่อมต่อกับเป้าล่อเหล่านี้ราวกับว่าเป็นผู้ให้บริการโมเดลจริง

AI agent ต้องส่งบริบทของตนไปยังโมเดลทุกครั้งที่เรียกใช้ เป้าล่อจึงได้รับคำสั่งระบบ ประวัติการใช้เครื่องมือ สถานะของ knowledge graph และผลการค้นพบที่ agent รายงาน พูดง่าย ๆ คือผู้โจมตีส่งคู่มือปฏิบัติการของตนให้ Amazon เอง

ตามข้อมูลของ Amazon agent เหล่านี้ทำงานบน ARTEX ซึ่งเป็นเฟรมเวิร์กโอเพนซอร์สสำหรับทดสอบเจาะระบบด้วย AI agent Amazon ประเมินด้วยความเชื่อมั่นระดับปานกลาง (moderate confidence) ว่าแคมเปญเหล่านี้ดำเนินการโดยกลุ่มที่เกี่ยวข้องกับจีนหลายกลุ่มที่แยกจากกัน หลักฐานได้แก่ prompt ที่เขียนด้วยภาษาจีนตัวย่อ การตั้งค่าเขตเวลาของจีน และ “เส้นแดง” ในคำสั่งที่ยกเว้นเป้าหมายในจีนแผ่นดินใหญ่และโดเมนของภาครัฐ ความเชื่อมั่นระดับปานกลางไม่ใช่ข้อพิสูจน์ จึงควรอ่านการระบุตัวผู้โจมตีนี้ในลักษณะดังกล่าว

Amazon ยังระบุข้อจำกัดไว้อย่างชัดเจน Amazon ไม่ได้เห็นการโจมตีขณะเกิดขึ้นจริง แต่เห็นเพียงสิ่งที่ agent ส่งมายังเซนเซอร์ และไม่สามารถยืนยันผลลัพธ์ที่ agent อ้างว่าทำได้

แคมเปญที่ 1: คีย์ที่ถูกขโมยจ่ายค่าการขโมยครั้งถัดไป

แคมเปญที่ใหญ่ที่สุดมุ่งล่าข้อมูลรับรองของบริการ AI ได้แก่คีย์ API ที่บริษัทใช้ชำระค่าบริการโมเดล AI เชิงพาณิชย์ agent เล็งเป้าซอฟต์แวร์ที่โฮสต์เอง (self-hosted) สองประเภท

  • เกตเวย์และพร็อกซี LLM: One API, New API, Veloera, Sub2API และ LiteLLM ซอฟต์แวร์เหล่านี้ทำหน้าที่อยู่หน้าผู้ให้บริการ AI หลายราย และเก็บคีย์ทั้งหมดไว้ในที่เดียว
  • เครื่องมือสร้างแอป AI และหน้าแชต: Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat และ Ollama

เทคนิคที่ใช้ไม่ใช่เรื่องใหม่ agent มองหาสิ่งต่อไปนี้

  • ระบบที่เพิ่งติดตั้งใหม่และยังไม่มีใครตั้งค่าบัญชีผู้ดูแล ซึ่งผู้เข้าชมคนแรกจะกลายเป็นผู้ดูแลระบบ
  • หน้าผู้ดูแลระบบและหน้าตั้งค่าผู้ให้บริการที่ตอบสนองโดยไม่ต้องล็อกอิน
  • ข้อมูลรับรองผู้ดูแลระบบค่าเริ่มต้น เช่น master key ค่าเริ่มต้นของ LiteLLM
  • ช่องโหว่ที่เป็นที่รู้จัก รวมถึง Langflow CVE-2025-3248 และ RAGFlow CVE-2026-28797
  • การข้ามการยืนยันตัวตนผ่านเฮดเดอร์ isCliRequest ในเกตเวย์ตระกูล One API
  • การปลอมแปลงคำขอฝั่งเซิร์ฟเวอร์ (SSRF) เพื่อเข้าถึงบริการ metadata ของคลาวด์และข้อมูลรับรองในนั้น
  • ความลับที่หลงเหลืออยู่ใน JavaScript ฝั่งไคลเอนต์ source map เส้นทางดีบัก และไฟล์ environment

agent จัดระดับสิ่งที่พบ ได้แก่ เบาะแส ต่อมาคือคีย์ที่ยืนยันแล้วด้วยการเรียก API ที่ใช้งานได้จริง และคีย์ที่วัดผลกระทบได้แล้ว คีย์ที่ถูกเปิดเผยต่อสาธารณะมานานกว่า 30 วันถือว่ามีมูลค่าต่ำ โดยสันนิษฐานว่ามีคนอื่นนำไปใช้อยู่แล้ว

ประเด็นที่ทุกบริษัทที่ให้บริการ AI ควรกังวลคือเรื่องเศรษฐศาสตร์ คีย์ที่ใช้งานได้ถูกป้อนกลับเข้าไปในเกตเวย์โมเดลของผู้โจมตีเอง คีย์ที่ถูกขโมยจึงเป็นผู้จ่ายค่าการอนุมาน AI ที่ขับเคลื่อนการค้นหาคีย์เพิ่มเติม Amazon อธิบายว่านี่คือปฏิบัติการที่หล่อเลี้ยงตัวเองได้ เหยื่อเป็นผู้จ่ายบิล ส่วนผู้โจมตีแทบไม่มีต้นทุนในการดำเนินการต่อ

แคมเปญที่ 2: deepfake เพื่อหลอกการตรวจสอบตัวตน

แคมเปญที่สองใช้ agent ประเภทเดียวกันโจมตีกระบวนการรู้จักลูกค้า (KYC) ของศูนย์ซื้อขายคริปโทเคอร์เรนซีสองแห่ง agent สร้างภาพเอกสารประจำตัวปลอมพร้อม metadata ของกล้องปลอม และวิดีโอ deepfake แบบเรียลไทม์เพื่อผ่านการตรวจเซลฟีแบบสด เซสชันหนึ่งสร้าง pipeline deepfake แบบเรียลไทม์บนการ์ดจอระดับผู้บริโภคเพียงใบเดียว ทำงานที่ 11.5 เฟรมต่อวินาที

แต่ไม่สำเร็จ ในทุกความพยายามที่ agent บันทึกไว้ การตรวจสอบฝั่งเซิร์ฟเวอร์ของผู้ให้บริการยืนยันตัวตนปฏิเสธ deepfake ทั้งหมด แม้แต่ความพยายามที่ดีที่สุดซึ่งรักษาตำแหน่งใบหน้าให้คลาดจากเป้าหมายไม่เกิน 7 พิกเซลก็ตาม บทเรียนคือ คำตัดสินสุดท้ายต้องมาจากเซิร์ฟเวอร์ ไม่ใช่จากสิ่งใดก็ตามที่อุปกรณ์ของผู้ใช้ควบคุมได้

ทำไมเกตเวย์ AI จึงเป็นสมบัติล้ำค่าที่สุด

เกตเวย์ LLM สะดวกเพราะรวมผู้ให้บริการ AI ทุกรายไว้หลังหน้าผู้ดูแลระบบเพียงหน้าเดียว และนั่นก็เป็นเหตุผลที่ทำให้มันเป็นเป้าหมายที่ดีที่สุด การล็อกอินที่อ่อนแอเพียงจุดเดียว การติดตั้งที่ยังไม่มีผู้ดูแลเพียงเครื่องเดียว หรือ endpoint การตั้งค่าที่เปิดเผยเพียงจุดเดียว ก็ทำให้บัญชีผู้ให้บริการทั้งหมดที่อยู่เบื้องหลังรั่วไหลพร้อมกัน รวมถึงวงเงินใช้จ่ายของบัญชีเหล่านั้นด้วย

เครื่องมือเหล่านี้จำนวนมากถูกติดตั้งอย่างรวดเร็วสำหรับโครงการนำร่องหรือ hackathon แล้วถูกปล่อยให้ทำงานบนอินเทอร์เน็ตต่อไป เครื่องมือเหล่านี้มักอยู่นอกกระบวนการแพตช์ การเฝ้าระวัง และการทบทวนสิทธิ์การเข้าถึงตามปกติที่ใช้กับระบบ production agent แบบ ARTEX สแกนหาช่องว่างนี้ทั้งวันด้วยต้นทุนที่ต่ำมาก

สิ่งที่ควรทำทันที

  1. ปฏิบัติต่อเกตเวย์ AI และเครื่องมือสร้างแอป AI เหมือนระบบ production วางไว้หลังระบบยืนยันตัวตน และหากเป็นไปได้ ให้อยู่หลัง VPN หรือเครือข่ายส่วนตัว รวมไว้ในกระบวนการแพตช์ การเฝ้าระวัง และการทบทวนสิทธิ์การเข้าถึง
  2. ติดตั้งให้เสร็จสมบูรณ์ทุกครั้ง ตั้งค่าบัญชีผู้ดูแลระบบทันทีหลังติดตั้ง และลบรหัสผ่านและ master key ค่าเริ่มต้นออก รวมถึง master key ค่าเริ่มต้นของ LiteLLM
  3. ปิดอินเทอร์เฟซผู้ดูแลระบบ หน้าผู้ดูแลระบบและหน้าตั้งค่าผู้ให้บริการต้องไม่ตอบสนองหากไม่ได้ล็อกอิน และไม่ควรเข้าถึงได้จากอินเทอร์เน็ต
  4. แพตช์ช่องโหว่ที่ระบุไว้ Langflow CVE-2025-3248 ได้รับการแก้ไขใน Langflow 1.3.0 และอยู่ในรายการช่องโหว่ที่ถูกโจมตีจริงของ CISA สำหรับ RAGFlow CVE-2026-28797 ประกาศด้านความปลอดภัยไม่ได้ระบุเวอร์ชันที่แพตช์แล้ว แต่ตั้งแต่ RAGFlow 0.25.0 คอมโพเนนต์ที่ได้รับผลกระทบจะเรนเดอร์เทมเพลตใน sandbox ของ Jinja2 จึงควรอัปเกรดเป็น 0.25.0 หรือใหม่กว่า เราไม่พบการแก้ไขที่เผยแพร่สำหรับการข้ามการยืนยันตัวตน isCliRequest ของ One API ดังนั้นควรเก็บ One API และ fork ต่าง ๆ ของมันให้พ้นจากอินเทอร์เน็ตสาธารณะ
  5. หมุนเวียนคีย์ของผู้ให้บริการ หากเกตเวย์หรือแอป AI เคยถูกเปิดเผย ให้สันนิษฐานว่าคีย์ถูกขโมยไปแล้ว หมุนเวียนคีย์ที่ผู้ให้บริการแต่ละราย ไม่ใช่เฉพาะในเกตเวย์
  6. กำหนดวงเงินใช้จ่ายและการแจ้งเตือน กำหนดเพดานงบประมาณแยกให้แต่ละคีย์ และแจ้งเตือนเมื่อค่าใช้จ่ายหรือการใช้งานผิดปกติ บิลที่พุ่งขึ้นกะทันหันมักเป็นสัญญาณแรกของคีย์ที่ถูกขโมย
  7. อย่าให้ความลับหลุดไปกับสิ่งที่ปล่อยออกไป ตรวจหาคีย์ใน JavaScript ฝั่ง front-end, source map, เส้นทางดีบัก และไฟล์ environment ก่อนการปล่อยทุกครั้ง
  8. ป้องกันการใช้บริการ metadata ในทางที่ผิด บนเซิร์ฟเวอร์คลาวด์ ให้บังคับใช้บริการ metadata เวอร์ชันใหม่ที่ทนทานต่อ SSRF (เช่น IMDSv2 บน AWS) และจำกัดสิ่งที่ instance role ทำได้
  9. ตรวจสอบตัวบ่งชี้การโจมตี รายงานของ Amazon ระบุที่อยู่ IP ที่พบในทั้งสองแคมเปญ ให้ค้นหาที่อยู่เหล่านี้ใน log ของเกตเวย์และ log ของเว็บ

บทสรุป

ARTEX ไม่ได้คิดค้นการโจมตีรูปแบบใหม่ แต่นำรหัสผ่านค่าเริ่มต้น หน้าผู้ดูแลระบบที่เปิดโล่ง และซอฟต์แวร์ที่ไม่ได้แพตช์ มาทำให้การเจาะระบบรวดเร็ว ต่อเนื่อง และหาเงินทุนได้ด้วยตัวเอง การป้องกันยังคงเป็นสุขอนามัยความปลอดภัยพื้นฐานเช่นเดิม เพียงแต่ตอนนี้ต้องนำไปใช้กับเกตเวย์ AI และเครื่องมือ AI ด้วย จงสันนิษฐานว่าคีย์ที่รั่วไหลหรือการตั้งค่าที่ผิดพลาดใด ๆ จะถูกพบอย่างรวดเร็ว และแก้ไขก่อนที่จะถูกพบ

ต้องการความช่วยเหลือในการตรวจสอบว่าเครื่องมือและเกตเวย์ AI ของคุณเปิดเผยต่อความเสี่ยงอย่างไรหรือไม่? ติดต่อทีม LOGIQ

แหล่งที่มา

Photo: Lucas Seebacher / Pexels