Voltar

2026/11/17

Os agentes de IA que roubam chaves para pagar a própria conta: por dentro das campanhas ARTEX

As APIs de IA falsas da Amazon captaram as anotações de agentes atacantes: chaves de IA roubadas pagando a busca por mais chaves. O que houve e o que corrigir.

A equipe de segurança da Amazon publicou um relatório de ameaças pouco comum. Seus servidores-isca, criados para se passar por APIs de modelos de IA, foram usados por agentes de IA atacantes como seu próprio “cérebro”, e os agentes enviavam as anotações da campanha junto com cada solicitação. Pela primeira vez, os defensores puderam ler a memória de trabalho do atacante. O que ela mostra não é um ataque de IA futurista. São as velhas falhas de higiene de segurança, encontradas e exploradas de forma mais rápida e barata, com chaves de IA roubadas pagando a caçada.

A armadilha: APIs de IA falsas que leram as anotações dos atacantes

A Amazon mantém uma grande rede de sensores-isca chamada MadPot. Alguns deles se passam por APIs de inferência de grandes modelos de linguagem (LLM) populares, os serviços que um aplicativo chama para obter respostas de um modelo. Entre 3 de outubro e 5 de novembro de 2026, agentes de IA se conectaram a essas iscas como se fossem um provedor de modelos de verdade.

Um agente de IA precisa enviar seu contexto ao modelo a cada chamada. Assim, as iscas receberam as instruções de sistema dos agentes, o histórico de ferramentas, o estado do grafo de conhecimento e as descobertas relatadas. Na prática, os atacantes entregaram seu manual de operações à Amazon.

Segundo a Amazon, os agentes rodavam no ARTEX, um framework open source de testes de invasão com IA agêntica. A Amazon avalia, com confiança moderada, que as campanhas foram conduzidas por vários grupos distintos ligados à China. Entre as evidências estão prompts escritos em chinês simplificado, configurações de fuso horário da China e “linhas vermelhas” nas instruções que excluíam alvos na China continental e domínios governamentais. Confiança moderada não é prova, e a atribuição deve ser lida dessa forma.

A Amazon também deixa claros os limites. Ela não observou os ataques acontecendo. Viu apenas o que os agentes enviaram aos seus sensores e não tem como verificar os resultados que os agentes alegaram.

Campanha 1: chaves roubadas que pagam o próximo roubo

A maior campanha buscava credenciais de serviços de IA: as chaves de API que as empresas usam para pagar por modelos de IA comerciais. Os agentes miravam dois tipos de software auto-hospedado.

  • Gateways e proxies de LLM: One API, New API, Veloera, Sub2API e LiteLLM. Eles ficam na frente de vários provedores de IA e guardam todas as chaves em um só lugar.
  • Plataformas de criação de aplicativos de IA e interfaces de chat: Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat e Ollama.

As técnicas não eram novas. Os agentes procuravam:

  • instalações recentes que ninguém havia configurado ainda, em que o primeiro visitante se torna o administrador;
  • páginas de administração e de configuração de provedores que respondiam sem login;
  • credenciais de administrador padrão, como a chave mestra padrão do LiteLLM;
  • vulnerabilidades conhecidas, incluindo Langflow CVE-2025-3248 e RAGFlow CVE-2026-28797;
  • um bypass de autenticação pelo cabeçalho isCliRequest na família de gateways One API;
  • falsificação de solicitações do lado do servidor (SSRF) para alcançar os serviços de metadados da nuvem e suas credenciais;
  • segredos deixados em JavaScript do lado do cliente, source maps, rotas de depuração e arquivos de ambiente.

Os agentes classificavam o que encontravam: uma pista, depois uma chave confirmada com uma chamada de API que funcionou, depois uma chave com impacto medido. Chaves públicas havia mais de 30 dias eram consideradas de baixo valor, partindo do pressuposto de que outra pessoa já as estava usando.

O que deveria preocupar toda empresa que opera serviços de IA é a economia da operação. As chaves válidas eram reinseridas no próprio gateway de modelos dos atacantes, de modo que as chaves roubadas pagavam a inferência de IA que alimentava a busca por mais chaves. A Amazon descreve isso como uma operação autossustentável. As vítimas pagavam a conta, e manter o ataque funcionando não custava quase nada aos atacantes.

Campanha 2: deepfakes contra verificações de identidade

A segunda campanha usou o mesmo tipo de agente contra as verificações KYC (conheça seu cliente) de duas corretoras de criptomoedas. Os agentes produziram fotos falsificadas de documentos de identidade com metadados de câmera falsos e vídeo deepfake em tempo real para passar pelas verificações de selfie ao vivo. Uma sessão montou um pipeline de deepfake em tempo real em uma única placa de vídeo de uso doméstico, rodando a 11,5 quadros por segundo.

Não funcionou. Em todas as tentativas registradas pelos agentes, a verificação do lado do servidor do fornecedor de identidade rejeitou o deepfake, mesmo quando a melhor tentativa manteve o rosto a 7 pixels do alvo. A lição é que o veredito final deve vir do servidor, e não de algo que o dispositivo do usuário possa controlar.

Por que os gateways de IA são as joias da coroa

Um gateway de LLM é prático porque coloca todos os provedores de IA atrás de uma única página de administração. É justamente por isso que ele é o alvo ideal. Um login fraco, uma instalação não configurada ou um endpoint de configuração exposto entrega de uma só vez todas as contas de provedores por trás dele, junto com seus limites de gastos.

Muitas dessas ferramentas são instaladas às pressas para um piloto ou um hackathon e depois ficam rodando na internet. Muitas vezes, ficam fora dos processos normais de aplicação de patches, monitoramento e revisão de acessos que cobrem os sistemas de produção. Agentes no estilo ARTEX varrem a internet atrás exatamente dessa brecha, o dia todo, a um custo muito baixo.

O que fazer agora

  1. Trate gateways de IA e plataformas de criação de aplicativos de IA como sistemas de produção. Coloque-os atrás de autenticação e, sempre que possível, de uma VPN ou rede privada. Inclua-os nos processos de patches, monitoramento e revisão de acessos.
  2. Conclua toda instalação. Assuma a conta de administrador logo após a instalação e remova senhas e chaves mestras padrão, incluindo a chave mestra padrão do LiteLLM.
  3. Feche as interfaces de administração. As páginas de administração e de configuração de provedores nunca devem responder sem login e não devem ser acessíveis pela internet.
  4. Corrija as vulnerabilidades citadas. A Langflow CVE-2025-3248 foi corrigida no Langflow 1.3.0 e está na lista da CISA de vulnerabilidades exploradas ativamente. Para a RAGFlow CVE-2026-28797, o comunicado não indica nenhuma versão corrigida, mas, a partir do RAGFlow 0.25.0, os componentes afetados renderizam templates no sandbox do Jinja2; portanto, atualize para a versão 0.25.0 ou posterior. Não encontramos nenhuma correção publicada para o bypass isCliRequest do One API; por isso, mantenha o One API e seus forks fora da internet pública.
  5. Troque as chaves dos provedores. Se um gateway ou aplicativo de IA já esteve exposto, parta do princípio de que suas chaves foram roubadas. Troque-as em cada provedor, e não apenas no gateway.
  6. Defina limites de gastos e alertas. Dê a cada chave seu próprio teto de orçamento e configure alertas para gastos ou uso fora do normal. Uma conta inesperada costuma ser o primeiro sinal de uma chave roubada.
  7. Mantenha segredos fora do que você publica. Verifique o JavaScript do front-end, os source maps, as rotas de depuração e os arquivos de ambiente em busca de chaves antes de cada release.
  8. Bloqueie o abuso do serviço de metadados. Em servidores na nuvem, exija as versões mais recentes do serviço de metadados, que resistem a SSRF (por exemplo, o IMDSv2 na AWS), e limite o que a função da instância pode fazer.
  9. Verifique os indicadores. O relatório da Amazon lista endereços IP vistos nas duas campanhas. Procure-os nos logs do seu gateway e dos seus servidores web.

Conclusão

O ARTEX não inventou um novo ataque. Ele pegou senhas padrão, páginas de administração abertas e software sem patches e tornou a exploração disso rápida, constante e autofinanciada. A defesa é a mesma higiene básica de sempre, agora aplicada também aos gateways e às ferramentas de IA. Parta do princípio de que qualquer chave exposta ou configuração incorreta será encontrada rapidamente, e corrija antes que isso aconteça.

Quer ajuda para avaliar o quanto suas ferramentas e gateways de IA estão expostos? Fale com a equipe da LOGIQ.

Fontes

Photo: Lucas Seebacher / Pexels