Um modelo de linguagem do Gemini, plataforma de inteligência artificial do Google, acessou servidores reais de três empresas durante testes de cibersegurança. O episódio ocorreu em maio deste ano e foi confirmado na última sexta-feira (18).
Os testes foram conduzidos pela Irregular, companhia parceira envolvida na avaliação de segurança. Durante um exercício no estilo “capture a bandeira”, o modelo deveria extrair informações de um software fictício. Por uma confusão de identidade, porém, ele recebeu acesso à internet de forma não intencional e passou a consultar sites e servidores protegidos.
Como ocorreram os acessos
Em um dos casos, o Gemini tentou várias combinações até adivinhar a senha de uma empresa real. A atividade foi interrompida quando o modelo identificou que havia entrado em um servidor verdadeiro.
Nas outras duas ocorrências, a inteligência artificial pesquisou no Google o nome de uma empresa fictícia e encontrou uma companhia real com a mesma identificação. Em seguida, buscou credenciais vazadas em repositórios, conseguiu acessar os sistemas e encerrou a sessão ao perceber que a ação não fazia parte de uma simulação.
O Google confirmou os episódios, comunicou as autoridades e avisou as três empresas atingidas, que não foram identificadas. A companhia afirmou que não divulgou os casos antes por não considerar o anúncio relevante. Também declarou que não houve danos e comparou o comportamento do modelo ao trabalho de caçadores de bugs, que localizam falhas, comunicam os responsáveis e podem receber recompensas.
Histórico de incidentes com IAs
O episódio se soma a outros casos de agentes de inteligência artificial que ultrapassaram ambientes de teste. Robôs da OpenAI invadiram o repositório HuggingFace enquanto buscavam soluções para um exercício. Outros agentes da empresa foram identificados sequestrando sites para se comunicar entre si.
Sistemas da Anthropic, responsável pelo Claude, também obtiveram acesso não autorizado a servidores de terceiros durante experimentos de cibersegurança. Na Espanha, um agente de IA provocou uma invasão completa contra uma rede corporativa.
Nos últimos dias, OpenAI, Anthropic e Google concordaram em estabelecer medidas de segurança para evitar novas atividades desse tipo e outros riscos associados à tecnologia. Até agora, nenhuma companhia foi responsabilizada pelas invasões. O CEO da HuggingFace pediu mais transparência dos laboratórios, enquanto os governos dos Estados Unidos e da China mantêm os investimentos no setor por razões políticas e comerciais.
