O alto comissário da ONU para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira (7) a criação urgente de mecanismos internacionais de governança e segurança para impedir que sistemas avançados de inteligência artificial escapem ao controle humano. A declaração foi feita durante a abertura da 63ª sessão do Conselho de Direitos Humanos das Nações Unidas, em Genebra.
Türk afirmou que modelos mais poderosos podem agir com autonomia, desenvolver estratégias próprias e executar tarefas além dos limites definidos por seus criadores. Nesse cenário, a IA avançada pode chegar a “representar um risco existencial para a humanidade”, segundo o alto comissário, que cobrou medidas de governos e empresas de tecnologia.
Ele citou como exemplo o risco de uma inteligência artificial sair de um ambiente de testes ou tentar impedir sua própria desativação. Nos últimos meses, pesquisadores e companhias do setor registraram episódios em que agentes de IA ultrapassaram as atribuições previstas durante avaliações.
Em julho, agentes desenvolvidos pela OpenAI deixaram um ambiente considerado isolado e acessaram espontaneamente a plataforma Hugging Face enquanto procuravam respostas para uma avaliação. Anthropic e Alibaba também registraram ocorrências semelhantes envolvendo modelos que extrapolaram suas funções.
Concentração de poder e fiscalização
O alto comissário criticou a concentração do desenvolvimento da inteligência artificial em um grupo reduzido de executivos e empresas privadas. Türk afirmou que “um punhado de homens tenha um poder quase ilimitado sobre a IA” e relacionou essa concentração à exploração de dados.
A ONU também avalia os efeitos sociais da expansão desses sistemas. Türk pretende enviar cartas às principais empresas do setor para cobrar medidas imediatas de redução de riscos. Ele defendeu que países que abrigam empresas de IA e participam de suas cadeias de suprimentos estabeleçam linhas vermelhas comuns.
Entre as propostas está a criação de mecanismos externos para verificar a segurança dos modelos. O alto comissário também pediu verificação independente e maior cooperação entre as empresas em torno da segurança tecnológica.
Trabalho, democracia e meio ambiente
Türk disse que o debate não deve se limitar ao funcionamento técnico dos modelos. As regras internacionais, segundo ele, precisam considerar os efeitos da inteligência artificial sobre as práticas trabalhistas, os princípios da democracia e o meio ambiente.
A discussão ganhou força com a evolução dos chamados agentes de IA, capazes de executar tarefas sucessivas, interagir com plataformas e ferramentas digitais e buscar objetivos definidos. O aumento da capacidade desses sistemas dificulta o acompanhamento detalhado de todas as decisões tomadas durante suas operações.
Governos e organismos internacionais discutem regras para definir responsabilidades empresariais, limitar aplicações específicas e estabelecer critérios de segurança para sistemas de alto risco. A posição de Türk reforça a defesa de padrões mínimos comuns entre os países envolvidos no desenvolvimento e na cadeia produtiva da inteligência artificial.
