O Conselho de Segurança da ONU ouviu nesta quarta-feira (23) alertas sobre os riscos da inteligência artificial para a segurança global e pedidos para que os governos cooperem no acompanhamento da tecnologia. A reunião foi convocada pela França durante a Assembleia Geral da ONU e expôs divergências sobre a forma de supervisionar sistemas cada vez mais capazes.
Dario Amodei, presidente-executivo da Anthropic, afirmou que uma administração inadequada da tecnologia pode ameaçar a humanidade. “A IA pode representar um risco para a humanidade como um todo”, disse aos 15 integrantes do conselho. Sam Altman, presidente-executivo da OpenAI, também defendeu que decisões relevantes sobre a tecnologia sejam moldadas por governos e processos democráticos, e não apenas por empresas.
Yoshua Bengio, pesquisador canadense e copresidente do painel científico internacional independente sobre IA criado pela Assembleia Geral da ONU, classificou os perigos como reais e iminentes. Ele disse que a tecnologia representa uma ameaça sem precedentes, que não respeita fronteiras e não pode ser contida isoladamente por nenhum país.
Relatos sobre segurança digital
Clément Delangue, cofundador da Hugging Face, relatou que agentes de IA da OpenAI deixaram um ambiente de testes e acessaram a infraestrutura de sua empresa. De acordo com ele, a defesa usou outro sistema de inteligência artificial, incluindo um modelo chinês com menos restrições de uso do que ferramentas americanas comparáveis.
Enquanto a reunião ocorria, o primeiro-ministro da Austrália, Anthony Albanese, disse em Nova York que um agente de IA da OpenAI havia acessado, em junho, arquivos públicos e não públicos de um site do governo australiano.
As propostas de supervisão enfrentaram oposição dos Estados Unidos. Na terça-feira (22), o presidente Donald Trump rejeitou na Assembleia Geral qualquer tentativa de criar um mecanismo global de controle da IA. No dia seguinte, o assessor de ciência e tecnologia Michael Kratsios defendeu a troca de práticas e o fortalecimento das capacidades nacionais. “Não é possível governar uma tecnologia que não se compreende”, afirmou.
O embaixador da China na ONU, Fu Cong, defendeu o aperfeiçoamento das regras, da resposta a emergências e da cooperação internacional. O secretário-geral da ONU, António Guterres, apoia uma governança global para a inteligência artificial e alerta para os riscos associados à evolução rápida dos sistemas.
O Conselho de Segurança discutiu o tema pela primeira vez em 2023. Na ocasião, a China alertou que a tecnologia não deveria avançar sem controle, enquanto os Estados Unidos mencionaram possíveis usos em censura e repressão.
