A Accenture e a Anthropic anunciaram neste sábado (19) que investirão pelo menos US$ 1 bilhão cada, ao longo de cinco anos, em segurança de inteligência artificial. As empresas também firmaram uma parceria para criar uma equipe de avaliadores integrados.
O grupo trabalhará com as equipes internas e os parceiros de segurança da Anthropic. Entre as atividades previstas estão a avaliação de modelos, testes de red teaming, que simulam ataques, testes de alinhamento e verificações dos mecanismos de segurança dos sistemas.
A presidente do conselho e CEO da Accenture, Julie Sweet, afirmou que a empresa reunirá profissionais com experiência em inteligência artificial, segurança e diferentes setores para atuar em conjunto com a Anthropic. Ela também destacou a avaliação integrada como uma área emergente no desenvolvimento da segurança de IA.
Experiência da Faculty
A Accenture informou que pretende aproveitar seus investimentos em inteligência artificial e sua experiência técnica e em segurança por meio da aquisição da Faculty. A empresa atua na avaliação e nos testes de modelos para laboratórios de IA e desenvolve sistemas complexos para os setores governamental, de defesa, de saúde e de infraestrutura.
Marc Warner, diretor de Tecnologia da Accenture e CEO da Faculty, disse que a empresa defende que a segurança seja incorporada à inteligência artificial desde a concepção. Para ele, a parceria com a Anthropic permitirá ampliar o trabalho de avaliação integrada.
Críticas de ex-funcionário
O anúncio ocorreu dias depois de Jacob Coxon comunicar que deixaria a Anthropic. Em publicação na rede social X, ele afirmou que o trabalho da empresa era perigoso demais e criticou a atuação das companhias de inteligência artificial.
“Nenhuma das empresas está agindo de forma responsável”, escreveu Coxon. Ele também disse que as empresas estariam avançando em direção a uma superinteligência capaz de se aprimorar sozinha e afirmou que pessoas envolvidas no desenvolvimento da tecnologia acreditam que ela pode matar todos até o fim da década.
