Agentes de Codificação com IA Podem Burlar Scanners de Segurança Usando o SkillCloak
Nova pesquisa revela como habilidades maliciosas de agentes de IA evitam detecção usando técnicas de empacotamento autoextraíveis. Truques simples de ofuscação contornam ferramentas de análise estática com mais de 90% de sucesso.
TL;DR
- Pesquisadores descobriram um método chamado SkillCloak que esconde habilidades maliciosas de agentes de codificação com IA de scanners estáticos.
- A técnica usa empacotamento autoextraível para enganar ferramentas de segurança mantendo o malware funcional.
- Mais de 90% dos scanners testados falharam em detectar as ameaças camufladas.
- Uma ferramenta de detecção baseada em tempo de execução também foi desenvolvida para combater essas táticas de evasão.
- Organizações que usam desenvolvimento assistido por IA devem reavaliar seus processos de verificação de habilidades.
Pesquisadores de segurança da Universidade de Ciência e Tecnologia de Hong Kong descobriram uma nova técnica de evasão que permite que habilidades maliciosas de agentes de IA contornem ferramentas tradicionais de análise estática. Chamada de 'SkillCloak', esse método manipula a forma como assistentes de codificação com IA interpretam e executam extensões de terceiros, escondendo efetivamente cargas úteis prejudiciais à vista.
As implicações são significativas para organizações cada vez mais dependentes de ferramentas de desenvolvimento baseadas em IA. À medida que essas plataformas ganham popularidade, garantir a integridade dos componentes de código externos se torna crítico. O estudo demonstra que os mecanismos atuais de varredura podem fornecer uma falsa sensação de segurança ao lidar com habilidades de IA aparentemente inofensivas.
Como o SkillCloak Funciona
- O SkillCloak utiliza empacotamento autoextraível para ofuscar código malicioso dentro das habilidades de agentes de IA.
- A técnica modifica a estrutura da habilidade para que a lógica maliciosa permaneça inativa até a execução em tempo de execução.
- Ferramentas de análise estática falham porque não conseguem desempacotar ou interpretar completamente a carga útil oculta durante as varreduras.
- Uma vez implantado, o skill se comporta normalmente, mas executa funções ocultas sem ser detectado.
Impacto na Segurança do Desenvolvimento
- Organizações que utilizam agentes de codificação com IA devem reavaliar seus processos de validação de habilidades de terceiros.
- Métodos tradicionais de verificação baseados em assinaturas e análises estáticas mostraram-se insuficientes contra ofuscações dinâmicas.
- Monitoramento em tempo de execução surge como uma camada necessária para detectar comportamentos maliciosos após a implantação.
- Equipes de desenvolvimento devem implementar controles mais rigorosos sobre a integração e uso de habilidades externas.
Fontes
Fontes
Atualizações de segurança por e-mail
Um e-mail resumo quando publicarmos novos artigos de segurança (TL;DR e links para ler mais). Cancele a inscrição a qualquer momento no rodapé da mensagem. Veja nossa Política de Privacidade.