뒤로
2026/11/17
훔친 키로 스스로 비용을 대는 AI 에이전트: ARTEX 캠페인의 내막
Amazon의 미끼 AI API가 공격 에이전트의 작업 메모를 포착했습니다. 탈취된 AI 키가 더 많은 키를 찾는 비용을 대고 있었습니다. 무슨 일이 있었는지, 무엇을 고쳐야 하는지 정리했습니다.
Amazon 보안팀이 보기 드문 유형의 위협 보고서를 발표했습니다. AI 모델 API처럼 보이도록 만든 미끼 서버를 공격자의 AI 에이전트가 자신의 ‘두뇌’로 사용했고, 에이전트는 요청을 보낼 때마다 공격 캠페인 메모까지 함께 전송했습니다. 방어자가 공격자의 ‘작업 기억’을 들여다볼 수 있었던 드문 기회였습니다. 그 결과 드러난 것은 미래형 AI 공격이 아닙니다. 오래된 기본 보안 관리의 허점이 더 빠르고 더 저렴하게 발견되고 악용되고 있으며, 그 탐색 비용을 탈취된 AI 키가 지불하고 있다는 사실입니다.
함정: 공격자의 메모를 읽어 낸 미끼 AI API
Amazon은 MadPot이라는 대규모 미끼 센서 네트워크를 운영합니다. 그중 일부는 널리 쓰이는 대규모 언어 모델(LLM) 추론 API, 즉 애플리케이션이 모델의 답변을 받기 위해 호출하는 서비스로 위장하고 있습니다. 2026년 10월 3일부터 11월 5일까지 AI 에이전트들이 이 미끼를 실제 모델 제공업체로 여기고 접속해 왔습니다.
AI 에이전트는 호출할 때마다 자신의 컨텍스트를 모델에 보내야 합니다. 그래서 미끼 서버에는 에이전트의 시스템 지시문, 도구 사용 이력, 지식 그래프 상태, 보고된 발견 사항이 그대로 전달되었습니다. 사실상 공격자가 자신의 공격 각본을 Amazon에 우편으로 보낸 셈입니다.
Amazon에 따르면 에이전트들은 오픈소스 에이전트형 AI 침투 테스트 프레임워크인 ARTEX 위에서 실행되었습니다. Amazon은 중간 수준의 신뢰도(moderate confidence)로, 이 캠페인들이 중국과 연계된 여러 개의 별도 그룹에 의해 수행되었다고 평가합니다. 근거로는 간체 중국어로 작성된 프롬프트, 중국 시간대 설정, 그리고 중국 본토의 대상과 정부 도메인을 제외하도록 한 지시문 속 ‘레드라인'(넘어서는 안 되는 선)이 제시되었습니다. 중간 수준의 신뢰도는 증거가 아니며, 이번 귀속 판단도 그렇게 받아들여야 합니다.
Amazon은 분석의 한계도 분명히 밝혔습니다. Amazon은 공격이 실제로 벌어지는 모습을 직접 관찰하지 않았습니다. 확인한 것은 에이전트가 센서로 보낸 내용뿐이며, 에이전트가 주장한 성과를 검증할 수는 없습니다.
캠페인 1: 훔친 키가 다음 탈취 비용을 대다
가장 큰 캠페인은 AI 서비스 자격 증명, 즉 기업이 상용 AI 모델 이용료를 지불하는 데 쓰는 API 키를 노렸습니다. 에이전트가 표적으로 삼은 것은 두 종류의 자체 호스팅 소프트웨어입니다.
- LLM 게이트웨이와 프록시: One API, New API, Veloera, Sub2API, LiteLLM. 이들은 여러 AI 제공업체 앞단에 위치하며 모든 키를 한곳에 보관합니다.
- AI 애플리케이션 빌더와 채팅 프런트엔드: Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat, Ollama.
사용된 기법 자체는 새롭지 않았습니다. 에이전트가 찾은 것은 다음과 같습니다.
- 아직 아무도 관리자 등록을 하지 않아 가장 먼저 접속한 사람이 관리자가 되는 새 설치 환경
- 로그인 없이 응답하는 관리 페이지와 제공업체 설정 페이지
- LiteLLM의 기본 마스터 키 같은 기본 관리자 자격 증명
- Langflow CVE-2025-3248, RAGFlow CVE-2026-28797 등 알려진 취약점
- One API 계열 게이트웨이에서 isCliRequest 헤더를 이용한 인증 우회
- 클라우드 메타데이터 서비스와 그 자격 증명에 접근하기 위한 서버 측 요청 위조(SSRF)
- 클라이언트 측 JavaScript, 소스 맵, 디버그 경로, 환경 설정 파일에 남아 있는 비밀 정보
에이전트는 발견한 것을 단계별로 등급을 매겼습니다. 먼저 ‘단서’, 다음은 실제 API 호출로 유효성이 확인된 키, 그다음은 영향도까지 측정된 키입니다. 공개된 지 30일이 넘은 키는 이미 다른 누군가가 사용하고 있을 것이라는 가정 아래 가치가 낮은 것으로 취급했습니다.
AI 서비스를 운영하는 모든 기업이 우려해야 할 부분은 바로 그 경제 구조입니다. 유효한 키는 공격자 자신의 모델 게이트웨이에 다시 투입되었고, 결국 탈취된 키가 더 많은 키를 찾는 데 쓰이는 AI 추론 비용을 지불했습니다. Amazon은 이를 ‘자체 유지형’ 작전이라고 설명합니다. 비용은 피해자가 떠안았고, 공격자는 거의 비용을 들이지 않고 공격을 계속할 수 있었습니다.
캠페인 2: 신원 확인을 노린 딥페이크
두 번째 캠페인에서는 같은 종류의 에이전트가 두 곳의 암호화폐 거래소의 고객 확인(KYC) 절차를 겨냥했습니다. 에이전트는 가짜 카메라 메타데이터를 붙인 위조 신분증 사진과, 실시간 셀피 확인을 통과하기 위한 실시간 딥페이크 영상을 만들었습니다. 한 세션에서는 일반 소비자용 그래픽카드 한 장으로 초당 11.5프레임으로 동작하는 실시간 딥페이크 파이프라인을 구축하기도 했습니다.
그러나 성공하지 못했습니다. 에이전트가 기록한 모든 시도에서 신원 확인 업체의 서버 측 검사가 딥페이크를 거부했습니다. 가장 정교한 시도가 얼굴을 목표 대비 7픽셀 이내로 유지했을 때조차 마찬가지였습니다. 여기서 얻을 교훈은, 최종 판정은 서버에서 내려야 하며 사용자 기기가 조작할 수 있는 어떤 것에도 맡겨서는 안 된다는 점입니다.
AI 게이트웨이가 가장 값진 표적인 이유
LLM 게이트웨이가 편리한 이유는 모든 AI 제공업체를 하나의 관리 페이지 뒤에 모아 두기 때문입니다. 바로 그 점이 가장 좋은 표적이 되는 이유이기도 합니다. 취약한 로그인 하나, 관리자 등록이 끝나지 않은 설치 하나, 노출된 설정 엔드포인트 하나만 있어도 그 뒤에 있는 모든 제공업체 계정이 각각의 지출 한도와 함께 한꺼번에 넘어갑니다.
이런 도구의 상당수는 파일럿이나 해커톤을 위해 급하게 설치된 뒤 인터넷에 그대로 방치됩니다. 운영 시스템에 적용되는 통상적인 패치, 모니터링, 접근 권한 검토에서 빠져 있는 경우도 많습니다. ARTEX 같은 에이전트는 바로 이 틈을 하루 종일, 아주 적은 비용으로 스캔합니다.
지금 해야 할 일
- AI 게이트웨이와 AI 앱 빌더를 운영 시스템으로 취급하십시오. 인증을 적용하고, 가능하면 VPN이나 사설 네트워크 안에 두십시오. 패치, 모니터링, 접근 권한 검토 대상에도 포함하십시오.
- 설치를 끝까지 마무리하십시오. 설치 직후 바로 관리자 계정을 확보하고, LiteLLM의 기본 마스터 키를 포함해 기본 비밀번호와 마스터 키를 제거하십시오.
- 관리 인터페이스를 닫으십시오. 관리 페이지와 제공업체 설정 페이지는 로그인 없이 절대 응답해서는 안 되며, 인터넷에서 접근할 수 없어야 합니다.
- 언급된 취약점을 패치하십시오. Langflow CVE-2025-3248은 Langflow 1.3.0에서 수정되었으며, CISA의 실제 악용 취약점 목록에 올라 있습니다. RAGFlow CVE-2026-28797의 경우 권고문에 패치된 버전이 명시되어 있지 않지만, RAGFlow 0.25.0부터는 영향을 받는 구성 요소가 Jinja2 샌드박스에서 템플릿을 렌더링하므로 0.25.0 이상으로 업그레이드하십시오. One API의 isCliRequest 우회에 대해서는 공개된 수정 사항을 찾지 못했으므로, One API와 그 포크 버전은 공용 인터넷에 노출하지 마십시오.
- 제공업체 키를 교체하십시오. 게이트웨이나 AI 앱이 한 번이라도 노출된 적이 있다면 키가 탈취되었다고 가정하십시오. 게이트웨이 안에서만이 아니라 각 제공업체에서 키를 교체해야 합니다.
- 지출 한도와 알림을 설정하십시오. 키마다 별도의 예산 상한을 두고, 비정상적인 지출이나 사용량에 알림이 오도록 하십시오. 갑작스러운 청구서가 키 탈취의 첫 신호인 경우가 많습니다.
- 배포물에 비밀 정보가 섞이지 않게 하십시오. 릴리스할 때마다 프런트엔드 JavaScript, 소스 맵, 디버그 경로, 환경 설정 파일에 키가 들어 있지 않은지 확인하십시오.
- 메타데이터 악용을 차단하십시오. 클라우드 서버에서는 SSRF에 강한 최신 버전의 메타데이터 서비스(예: AWS의 IMDSv2)를 필수로 적용하고, 인스턴스 역할이 할 수 있는 작업을 제한하십시오.
- 침해 지표를 확인하십시오. Amazon 보고서에는 두 캠페인에서 관찰된 IP 주소가 나와 있습니다. 게이트웨이와 웹 로그에서 해당 주소를 검색하십시오.
결론
ARTEX가 새로운 공격을 발명한 것은 아닙니다. 기본 비밀번호, 열려 있는 관리 페이지, 패치되지 않은 소프트웨어를 가져다가 이를 빠르고, 끊임없이, 스스로 비용을 충당하는 방식으로 악용할 수 있게 만들었을 뿐입니다. 방어책은 언제나와 같은 기본 보안 관리이며, 이제 이를 AI 게이트웨이와 AI 도구에도 적용해야 합니다. 노출된 키나 잘못된 설정은 금방 발견된다고 가정하고, 발견되기 전에 바로잡으십시오.
귀사의 AI 도구와 게이트웨이가 얼마나 노출되어 있는지 점검하는 데 도움이 필요하신가요? LOGIQ 팀에 문의하세요.
출처
- AWS Security Blog: Amazon Threat Intelligence observes threat actors running cybercrime campaigns with ARTEX AI agents (2026년 11월 13일)
- NVD: CVE-2025-3248, Langflow 인증 없는 원격 코드 실행 (1.3.0에서 수정)
- RAGFlow 보안 권고 GHSA-vvwj-fvwh-4whx: CVE-2026-28797, 서버 측 템플릿 인젝션
- CISA: Known Exploited Vulnerabilities(실제 악용 취약점) 카탈로그
Photo: Lucas Seebacher / Pexels
Global
Japan
China
Taiwan
Vietnam
Thailand
Indonesia
Portugal
Spain
France
Germany
Egypt
Russia