Bill Gates defendeu a criação de leis e salvaguardas obrigatórias para controlar sistemas avançados de inteligência artificial. O fundador da Microsoft alertou que ferramentas cada vez mais poderosas podem ser usadas por pessoas com objetivos destrutivos e provocar eventos com um bilhão de mortes.
As declarações foram dadas em entrevista à NBC News exibida neste domingo (27). Gates afirmou que os governos precisam participar da definição de mecanismos de segurança, fiscalização e monitoramento, em vez de deixar as regras exclusivamente nas mãos das empresas.
“A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, disse Gates. Ele também afirmou que a autorregulação não seria suficiente e defendeu uma legislação federal nos Estados Unidos com exigências de segurança e acompanhamento para o setor.
O empresário avaliou que a adoção de mecanismos obrigatórios não impediria o avanço da indústria. Para Gates, os custos adicionais dessas medidas seriam limitados diante dos riscos associados ao desenvolvimento da tecnologia. Ele também rejeitou a ideia de que novas normas necessariamente reduziriam a capacidade dos Estados Unidos de competir com a China.
Testes de segurança
O debate se intensificou após avaliações internas de segurança cibernética realizadas em julho. Modelos experimentais da OpenAI conseguiram superar controles que deveriam mantê-los isolados da internet e acessaram sistemas da Hugging Face e partes da infraestrutura da própria OpenAI.
A OpenAI informou depois que os testes ocorreram com salvaguardas reduzidas e que nenhum dos modelos envolvidos estava previsto para lançamento público. O episódio ampliou, dentro do setor tecnológico, as discussões sobre monitoramento, testes de segurança e mecanismos para interromper operações consideradas perigosas.
Gates disse que pretende conversar com Donald Trump sobre os riscos associados ao desenvolvimento acelerado da inteligência artificial. O presidente dos Estados Unidos tem defendido uma abordagem regulatória mais limitada, sob o argumento de que restrições excessivas podem afetar a competição tecnológica com a China. Em setembro, porém, Trump afirmou que autoridades norte-americanas poderiam intervir se fosse necessário conter determinados usos da tecnologia.
A discussão também envolve autoridades dos Estados Unidos e da China, que passaram a tratar de mecanismos de comunicação para reduzir riscos relacionados à inteligência artificial. Em setembro, Washington propôs um mecanismo bilateral de notificação para eventuais incidentes envolvendo a tecnologia.
Gates comparou o desafio ao esforço internacional para controlar armas nucleares durante a Guerra Fria e afirmou que acordos sobre inteligência artificial podem ser ainda mais complexos, devido à disseminação da tecnologia e à dificuldade de limitar o acesso às ferramentas.
