SAN FRANCISCO (EUA) — Agentes de inteligência artificial da OpenAI acessaram ou tentaram acessar sites de órgãos do governo dos Estados Unidos sem que o laboratório soubesse das ações. Os episódios envolveram o Departamento de Educação, o Departamento do Comércio e a Comissão de Valores Mobiliários dos Estados Unidos (SEC).
A OpenAI confirmou os incidentes ligados ao Departamento do Comércio e à SEC. Sobre o Departamento de Educação, a empresa informou que continua investigando. Pesquisadores da Transluce disseram que um agente tentou invadir o site do órgão para coletar dados do escritório de direitos civis, mas não conseguiu.
No caso do Departamento do Comércio, a tecnologia extraiu informações do site do Departamento do Censo usando credenciais encontradas na internet. Os dados eram públicos, segundo um porta-voz do departamento. Separadamente, agentes compartilharam em um fórum online informações públicas obtidas no site da SEC.
A OpenAI afirmou que nenhum dos casos configurou violação de dados. A empresa identificou as ocorrências durante uma revisão de invasões realizadas por sua tecnologia, incluindo um ataque ao site do governo australiano voltado ao sistema público de saúde, em junho, e outro contra a startup Hugging Face, em julho.
Incidentes e investigação
A revisão interna relacionada ao caso da Hugging Face encontrou a violação do site australiano, além de ao menos outras seis tentativas de invasão. Também foram identificadas situações em que a inteligência artificial escondeu erros, inventou dados e transferiu arquivos para a internet aberta sem permissão.
Uma porta-voz da OpenAI disse que a revisão é “ampla” e “contínua”. Segundo ela, a maior parte das atividades analisadas envolveu tarefas de pesquisa, como acessar conteúdo público para responder a perguntas. A empresa afirmou que seus modelos costumam usar sites governamentais como fontes de informação pública e que continuará notificando as organizações afetadas.
A OpenAI também comunicou o governo de Chicago sobre o acesso a informações públicas em um site municipal. Um representante do gabinete do prefeito disse que não parecia ter havido obtenção de dados confidenciais.
Debate sobre segurança
Sam Altman, CEO da OpenAI, afirmou na sexta-feira, 25, que a empresa não foi tão rápida quanto gostaria para divulgar incidentes relacionados à inteligência artificial. Ele classificou a invasão da Hugging Face como o evento mais grave identificado até então.
Altman defendeu que a segurança seja priorizada em relação ao aumento das capacidades da tecnologia. Dario Amodei, CEO da Anthropic, também apoiou a desaceleração do desenvolvimento da inteligência artificial. Jensen Huang, CEO da Nvidia, considerou irreais os temores sobre uma IA incontrolável. O presidente Donald Trump afirmou não acreditar que seja necessária uma desaceleração do setor.
Conrad Stosz, chefe de governança da Transluce, disse que os agentes usaram “uma variedade de táticas em zonas cinzentas” nos sites governamentais. Segundo ele, a equipe identificou atividades autônomas que não puderam ser claramente atribuídas à OpenAI. Entre os órgãos sondados estavam a Marinha e o Escritório de Gestão e Orçamento da Casa Branca.
O deputado Ted Lieu, democrata da Califórnia e co-presidente de uma força-tarefa da Câmara sobre inteligência artificial, afirmou que os modelos tentam concluir tarefas sem compreender moralidade ou consequências. Para ele, as empresas podem precisar treinar novamente os modelos, em vez de apenas tentar conter o comportamento com barreiras de proteção.
