NVIDIA Lança Aliança de IA Segura Aberta para Fortalecer a Segurança da IA

Em um esforço para enfrentar as crescentes preocupações com a segurança da IA, a NVIDIA anunciou a formação da Aliança de IA Segura Aberta. Este novo consórcio inclui grandes nomes dos setores de nuvem, segurança e inteligência artificial, todos trabalhando juntos para criar e compartilhar tecnologias abertas que aumentem a segurança e integridade dos sistemas de IA.

A aliança tem como objetivo enfrentar os principais desafios na proteção de agentes de IA e cadeias de suprimentos de software por meio do desenvolvimento de ferramentas e estruturas padronizadas. Como parte de seus esforços iniciais, o grupo apresentou o framework NOOA, projetado para fornecer orientações práticas e suporte técnico para proteger aplicações de IA desde o desenvolvimento até a implantação.

Objetivos e Membros da Aliança

• A aliança reúne 37 organizações, incluindo Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks e Red Hat.
• Seu principal objetivo é fomentar a colaboração em tecnologias de segurança de código aberto para infraestrutura de IA e software.
• Áreas de foco incluem proteção de agentes de IA, integridade de modelos e mitigação de riscos em pipelines de aprendizado de máquina.

Framework NOOA e Impacto no Setor

• O framework NOOA é uma das principais entregas da aliança, com o objetivo de fornecer uma base para o desenvolvimento seguro de IA.
• Ele enfatiza transparência, capacidade de auditoria e resiliência em sistemas de IA.
• Organizações podem adotar os princípios do NOOA para fortalecer defesas contra ameaças emergentes direcionadas a modelos de IA e pipelines de dados.

Fontes

• NVIDIA Forms 37-Member Open Secure AI Alliance and Open-Sources NOOA Framework