CALIFÓRNIA — A Anthropic anunciou nesta sexta-feira, 18, uma parceria com a Accenture para avaliar, de forma independente, a segurança de seus modelos de inteligência artificial. A startup informou que destinará US$ 1 bilhão ao trabalho nos próximos cinco anos, período em que a consultoria planeja investir valor equivalente.
A iniciativa atende à promessa de Dario Amodei, CEO da Anthropic, de submeter os modelos mais potentes da empresa à análise de observadores independentes. Os consultores da Accenture terão os mesmos acessos aos sistemas da Anthropic concedidos aos funcionários da startup.
Acesso aos sistemas
A equipe envolvida na avaliação incluirá profissionais da faculdade e de subsidiárias da Accenture dedicadas à inteligência artificial, além de uma empresa adquirida neste ano pelo grupo de consultoria. Com o acesso aos sistemas, os avaliadores poderão acompanhar a operação da Anthropic, verificar o cumprimento dos compromissos de segurança e identificar pontos cegos.
A empresa também afirmou que os profissionais poderão relatar incidentes e produzir uma prestação de contas mais documentada sobre os benefícios e os riscos relacionados aos modelos.
A Anthropic considera que, no longo prazo, avaliações independentes de inteligência artificial deveriam ser financiadas pelo Estado ou por um fundo específico. No início da parceria, porém, a empresa decidiu remunerar a Accenture “devido à importância e urgência desse trabalho”.
A colaboração entre as duas empresas não é exclusiva. A Anthropic informou que pretende anunciar, nas próximas semanas, acordos com outros avaliadores externos. A medida amplia o modelo de revisão independente defendido pela empresa para seus sistemas de inteligência artificial.
