O pesquisador britânico Jacob Coxon deixou a Anthropic e afirmou que a empresa e a OpenAI avançam de forma irresponsável no desenvolvimento de sistemas de inteligência artificial. Em publicação no X, ele disse que os dois laboratórios estão “brincando com nossas vidas”.
Coxon, de 27 anos, trabalhou nos últimos três anos na etapa de pré-treinamento dos modelos, quando grandes volumes de dados são absorvidos. Ele passou pela OpenAI e, a partir deste ano, atuava na Anthropic, que havia escolhido por considerar mais prudente.
O ex-pesquisador afirmou que as empresas correm para alcançar uma superinteligência capaz de se aprimorar sozinha. Também disse que pessoas que desenvolvem IA acreditam que a tecnologia pode matar todos os seres humanos antes do final da década.
Riscos e corrida tecnológica
Evan Hubinger, diretor de segurança da Anthropic, concordou com Coxon em uma publicação no X. Ele afirmou que a empresa acredita genuinamente que a IA pode matar humanos e estimou um risco maior que 10% na próxima década.
Líderes do setor avaliam que a inteligência artificial se aproxima do autoaperfeiçoamento recursivo, situação em que um modelo poderia projetar o próprio sucessor sem controle humano. Para Coxon, o desenvolvimento de sistemas superiores aos humanos não deveria avançar de maneira responsável sem intervenção governamental ou uma desaceleração coordenada.
A Anthropic se prepara para realizar uma Oferta Pública Inicial na Nasdaq. Em fevereiro, a empresa retirou de sua carta de segurança o compromisso de suspender o desenvolvimento de modelos caso não conseguisse controlar os riscos.
No final de julho, mais de mil profissionais do setor, entre eles o CEO da Anthropic, Dario Amodei, pediram a Washington a criação de um mecanismo de contenção. No domingo, 6, o cientista-chefe da OpenAI, Jakub Pachocki, escreveu que o momento exigia extrema cautela e coordenação internacional.
OpenAI e Anthropic não responderam imediatamente aos contatos feitos sobre as declarações.
