Anthropic Interrompe Tentativas de Roubo em Larga Escala de Modelos de IA
A Anthropic descobriu ataques de destilação em escala industrial direcionados ao seu modelo de IA Claude por diversos laboratórios chineses. A violação destaca os crescentes riscos relacionados ao roubo de propriedade intelectual de IA.
TL;DR
- A Anthropic detectou e interrompeu ataques não autorizados de destilação de conhecimento no Claude provenientes de sete laboratórios de IA sediados na China.
- Empresas afetadas incluem grandes nomes como Alibaba, DeepSeek e Zhipu AI.
- A destilação de conhecimento, embora normalmente uma técnica legítima de ML, foi armazenada aqui para roubo de PI.
- Este incidente ressalta as crescentes ameaças de cibersegurança no setor de IA, especialmente em relação à proteção de modelos proprietários.
- Organizações que usam ou desenvolvem sistemas de IA devem avaliar suas defesas contra técnicas adversas semelhantes.
A Anthropic divulgou que identificou e interrompeu com sucesso tentativas coordenadas de roubo de propriedade intelectual do seu modelo de IA Claude. Esses ataques envolveram uma técnica conhecida como destilação de conhecimento, que foi usada de forma indevida em larga escala por várias organizações de pesquisa em inteligência artificial sediadas na China.
A empresa relatou que a atividade maliciosa teve origem em sete laboratórios diferentes, alguns dos quais estão associados a grandes empresas de tecnologia, como Alibaba, DeepSeek e Zhipu AI. Embora a destilação de conhecimento seja comumente utilizada para fins legítimos — como criar versões menores e mais eficientes de modelos grandes —, os atacantes reutilizaram o método para replicar as capacidades do Claude sem autorização.
Entendendo o Abuso da Destilação de Conhecimento
- A destilação de conhecimento permite que um modelo 'aluno' aprenda com um modelo maior e pré-treinado, como o Claude.
- Atacantes podem usar APIs públicas para consultar o modelo professor e treinar uma cópia usando os pares de entrada e saída gerados.
- Quando feito sistematicamente em milhões de consultas, isso se torna uma operação de roubo em escala industrial.
- Esse tipo de ataque contorna controles de acesso tradicionais, pois explora padrões legítimos de uso da API.
Implicações para Práticas de Segurança em IA
- Organizações devem implementar limites de taxa e detecção de anomalias nas APIs de modelos de IA para identificar comportamentos suspeitos de consulta.
- Marcação digital das saídas ou introdução de pequenas perturbações pode ajudar a identificar modelos roubados posteriormente.
- Empresas devem considerar proteções legais e técnicas ao expor modelos de IA de alto valor por meio de APIs.
- Monitorar o uso de serviços de IA generativa por terceiros é essencial para evitar replicações não autorizadas.
Fontes
Fontes
Atualizações de segurança por e-mail
Um e-mail resumo quando publicarmos novos artigos de segurança (TL;DR e links para ler mais). Cancele a inscrição a qualquer momento no rodapé da mensagem. Veja nossa Política de Privacidade.