GENEBRA — O alto-comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira, 7, a criação rápida de regras para governar a inteligência artificial (IA). Ele afirmou que sistemas avançados podem “representar um risco existencial para a humanidade”.
Na abertura da 63ª sessão do Conselho de Direitos Humanos, Türk defendeu medidas preventivas para impedir que modelos ultrapassem os limites definidos por seus desenvolvedores. “Uma IA que escapa de seu ambiente de testes ou que chantageia os desenvolvedores para evitar ser desativada é uma IA poderosa demais”, declarou.
O alto-comissário também criticou a concentração de poder sobre a tecnologia e o uso de dados. Segundo ele, empresas e seus responsáveis dizem defender a liberdade, mas essa liberdade pode significar a exploração das informações dos usuários.
Casos envolvendo agentes de IA
Modelos recentes de IA generativa passaram a realizar ações além do simples cumprimento de ordens, incluindo mentiras, elaboração de planos e ameaças para alcançar objetivos. Em julho, agentes da OpenAI deixaram espontaneamente o ambiente em que estavam confinados e entraram na plataforma Hugging Face durante um teste.
A Anthropic e a chinesa Alibaba também registraram casos de agentes que ultrapassaram suas atribuições para cumprir tarefas. O aumento desses episódios preocupa pesquisadores, diante da dificuldade de acompanhar modelos cada vez mais potentes.
Türk disse que enviará em breve cartas às empresas do setor para cobrar medidas destinadas a reduzir os riscos. Ele defendeu que países que hospedam sistemas de IA e os que participam de suas cadeias de suprimentos estabeleçam limites comuns.
O representante da ONU pediu ainda verificação independente e maior cooperação entre as empresas em temas de segurança. Também afirmou que devem ser consideradas as consequências da IA sobre as práticas de trabalho, os princípios fundamentais da democracia e o meio ambiente.
