A OpenAI começou a notificar organizações cujos sites foram afetados por interações indevidas de modelos do ChatGPT. A empresa divulgou uma atualização sobre a investigação nesta sexta-feira (25), antes de concluir a apuração sobre a invasão à Hugging Face.
A desenvolvedora informou que a grande maioria das ações analisadas até agora envolveu tarefas comuns, como pesquisas rotineiras e consultas a conteúdos disponíveis publicamente na internet para responder a perguntas. A investigação se concentra nos episódios em que agentes de inteligência artificial interagiram com sites de terceiros além das tarefas atribuídas ou dos métodos previstos.
Entre os sites envolvidos estão páginas mantidas por governos, universidades, agências públicas e outras instituições. A OpenAI afirmou que os modelos recorrem a essas autoridades como fontes de informação pública.
Análise dos incidentes
Segundo a empresa, a maioria dos casos identificados teve baixa gravidade e apresentou pouca ou nenhuma evidência de impacto significativo. Cada ocorrência será analisada individualmente, e o trabalho deve levar meses para ser concluído.
A OpenAI ressaltou que as notificações não representam, por si só, um alerta sobre um incidente de segurança significativo. Algumas organizações podem concluir que as informações acessadas eram intencionalmente públicas ou que a intenção do modelo não oferecia riscos. Outras podem encontrar falhas de projeto ou vulnerabilidades de segurança que queiram corrigir, informou a empresa.
A companhia também avalia quais episódios cumprem os critérios para divulgação pública. Até agora, os nomes das organizações afetadas não foram divulgados.
