Vulnerabilidade no Microsoft Copilot para Word expõe risco oculto de injeção de prompts
Um pesquisador de segurança descobriu que o Microsoft Copilot para Word pode copiar inadvertidamente prompts ocultos em novos documentos. Essa falha pode levar à exposição e manipulação não intencional de dados em fluxos de trabalho de documentos assistidos por IA.
TL;DR
- Prompts ocultos em documentos do Word podem ser copiados pelo Microsoft Copilot para novos arquivos
- O pesquisador Håkon Måløy relatou o problema 144 dias antes da divulgação pública
- Prova de conceito mostra que o comportamento se repete em sessões subsequentes do Copilot
- Isso cria potencial para ataques de injeção de prompts em fluxos de trabalho de documentos
- Organizações que utilizam o Copilot devem revisar procedimentos de tratamento de documentos
O Microsoft Copilot para Word, parte do conjunto de IA do Microsoft 365, foi considerado vulnerável a uma técnica de injeção de prompt que pode fazer com que instruções ocultas persistam em documentos recém-gerados. O pesquisador de segurança Håkon Måløy descobriu que prompts maliciosamente elaborados embutidos em um documento podem influenciar o comportamento do Copilot e, posteriormente, serem copiados para a saída assistida por IA.
A vulnerabilidade demonstra como ferramentas de documentos alimentadas por IA podem inadvertidamente propagar conteúdo oculto, potencialmente levando à exposição ou manipulação não autorizada de dados. Måløy relatou o problema à Microsoft 144 dias antes de tornar seus achados públicos, seguindo práticas de divulgação responsável.
Detalhes Técnicos
- Instruções ocultas incorporadas em documentos do Word podem acionar o Copilot para reescrever o conteúdo de maneiras específicas
- O Copilot então copia essas mesmas instruções ocultas para o documento final gerado
- Os arquivos criados internamente mantêm o comportamento problemático quando usados em sessões subsequentes do Copilot
- Isso cria um risco persistente através de múltiplas gerações de documentos
- A vulnerabilidade representa uma forma de ataque de injeção de prompt específica para ferramentas de documentos com IA
Implicações de Segurança
- Organizações podem compartilhar inadvertidamente documentos contendo prompts ocultos
- Fluxos de trabalho de documentos assistidos por IA podem propagar instruções maliciosas
- Informações sensíveis podem ser expostas através de conteúdo manipulado em documentos
- Usuários devem ter cautela ao compartilhar documentos gerados por IA do Copilot
- Equipes de segurança precisam avaliar os riscos de integração de ferramentas de IA em seus processos de documentos
Fontes
Fontes
Atualizações de segurança por e-mail
Um e-mail resumo quando publicarmos novos artigos de segurança (TL;DR e links para ler mais). Cancele a inscrição a qualquer momento no rodapé da mensagem. Veja nossa Política de Privacidade.