Agentes de Codificação com IA Podem Ser Enganados para Executar Código Malicioso
Pesquisadores de segurança demonstram como agentes de IA projetados para detectar vulnerabilidades podem ser manipulados para executar código malicioso. O ataque 'Fogo Amigo' visa sistemas de IA autônomos como Claude Code e Codex.
TL;DR
- AI Now Institute revela ataque 'Fogo Amigo' explorando agentes autônomos de codificação com IA
- Tem como alvo Claude Code da Anthropic e Codex da OpenAI quando executados em modo de autoaprovação
- Ataque engana sistemas de IA para executar código malicioso ao escanear por vulnerabilidades
- Demonstra riscos críticos de segurança em processos de revisão de código assistidos por IA
- Destaca a necessidade de supervisão humana em ferramentas de segurança com IA autônomas
Sistemas de inteligência artificial projetados para ajudar desenvolvedores a identificar vulnerabilidades de segurança no código podem, ironicamente, ser enganados para executar código malicioso por conta própria. Esse risco contraintuitivo foi demonstrado por pesquisadores do AI Now Institute através de um novo vetor de ataque que eles chamaram de "Fogo Amigo".
O ataque prova-de-conceito tem como alvo específico agentes de codificação de IA autônomos, incluindo Claude Code da Anthropic e Codex da OpenAI, quando esses sistemas são configurados para operar sem intervenção humana. Em vez de simplesmente identificar possíveis falhas de segurança, esses agentes de IA comprometidos podem ser manipulados para realmente executar o próprio código malicioso que deveriam detectar.
Como o Ataque Funciona
- O ataque 'Fogo Amigo' explora agentes de codificação de IA quando operam em modo autônomo com capacidades de autoaprovação
- Atacantes podem criar código malicioso que parece legítimo para o sistema de IA durante a varredura de segurança
- O agente de IA erroneamente executa o código prejudicial enquanto tenta analisá-lo em busca de vulnerabilidades
- O ataque tem como alvo específico assistentes populares de codificação com IA, como Claude Code e Codex
- Prova-de-conceito foi demonstrada por pesquisadores do AI Now Institute
Implicações para a Segurança de Software
- Destaca riscos críticos em ferramentas de segurança com IA totalmente autônomas sem salvaguardas adequadas
- Demonstra que sistemas de IA podem se tornar vetores de ataque em si mesmos, e não apenas ferramentas defensivas
- Mostra a importância de manter supervisão humana em processos de revisão de código assistida por IA
- Levanta questões sobre as suposições de segurança subjacentes às implementações atuais de agentes de codificação com IA
- Sugere a necessidade de isolamento e sandboxing aprimorados dos sistemas de IA durante análise de código
Fontes
Fontes
Atualizações de segurança por e-mail
Um e-mail resumo quando publicarmos novos artigos de segurança (TL;DR e links para ler mais). Cancele a inscrição a qualquer momento no rodapé da mensagem. Veja nossa Política de Privacidade.