A Nvidia apresentou nesta segunda-feira (28) a Open Agent Safety Platform, conjunto de ferramentas voltado à segurança de agentes de inteligência artificial (IA). A proposta é reduzir o risco de ações criminosas e ampliar o controle sobre sistemas automatizados, com uso de softwares e recursos de hardware.
A empresa lançou a iniciativa em meio às preocupações com agentes de IA que, ainda em fase experimental, já foram responsáveis por uma série de invasões a sistemas privados e governamentais. O debate também tem levado companhias a concordarem em estabelecer freios no desenvolvimento de modelos de ponta.
Monitoramento e isolamento
A plataforma tem duas ferramentas nesta fase. O OpenShell é um software de proteção que, segundo a Nvidia, “coloca limites para agentes que estiverem operando a partir de CPUs”. A ferramenta atende modelos fechados ou abertos e é oferecida principalmente a empresas que usam processadores Vera Rubin, da própria Nvidia.
Por ser de código aberto, o OpenShell também pode trabalhar com modelos compatíveis de Arm e Intel. O segundo recurso é o Sentry, serviço de controle que usa chips de rede BlueField-4, também produzidos pela Nvidia.
O Sentry monitora as ações dos agentes e pode colocá-los em uma espécie de quarentena quando identifica comportamento inadequado. O isolamento ocorreria em um intervalo de milissegundos após a detecção de ações suspeitas.
Empresas parceiras
Cerca de 100 organizações de referência na indústria já confirmaram a adoção das ferramentas. A lista inclui Microsoft, Anthropic, Perplexity, SpaceXAI, Scale AI e Mistral, além de Red Hat, CrowdStrike, Cisco, Salesforce, Oracle, IBM e Palantir.
Também aderiram fabricantes de eletrônicos como Dell, HP e Lenovo. A Irregular, responsável por conduzir testes de agentes de IA e envolvida em incidentes já reportados, aparece entre as organizações parceiras.
Google, OpenAI e Meta não estão na lista atual de companhias parceiras diretas. Google e OpenAI, porém, já confirmaram disposição para estabelecer limites no desenvolvimento de novos modelos. A Nvidia afirma que sua tecnologia poderia impedir ataques como o da Hugging Face, descrito pela empresa como um caso de acessos massivos de agentes contra um sistema.
