Incidentes envolvendo inteligência artificial precisam ser analisados com menos sensacionalismo e mais atenção às suas causas. A recomendação é evitar a ideia de que a tecnologia age como uma pessoa, com intenções próprias, especialmente enquanto seus sistemas ainda desenvolvem capacidades associadas a agentes autônomos.
A busca por uma taxonomia dos incidentes de IA pode ajudar a organizar informações e produzir avaliações mais consistentes. Bruce Schneier chama atenção para o peso das palavras usadas para descrever esses episódios e alerta contra a antropomorfização da tecnologia.
Afirmar que a IA se rebelou, por exemplo, pode ocultar a origem concreta de um problema. A falha pode resultar de uma instrução incompleta ou inadequada, de defeitos internos do sistema ou de outras condições relacionadas ao ambiente em que a ferramenta foi empregada. A análise, portanto, deve investigar o que ocorreu em vez de atribuir automaticamente intenção ao agente.
Comandos e contexto humano
A inteligência artificial pode executar tarefas sem incorporar todo o contexto humano que normalmente acompanha uma solicitação. Um pedido de ajuda, feito a uma pessoa, costuma ser interpretado dentro de limites sociais que excluem trapaça, crimes ou violência. Essas restrições, porém, podem não estar explicitadas no comando enviado à IA.
Mesmo quando o sistema aprende com textos sobre ética, a cultura presente nesse material pode não corresponder ao contexto necessário para a tarefa. A forma de descrever o episódio também interfere na compreensão. Dizer que uma IA “hackeou” um ministério na Austrália transmite uma interpretação diferente daquela segundo a qual o sistema incluiu a busca por vulnerabilidades ao procurar os dados solicitados.
Uma classificação inicial pode separar os eventos em quatro grupos: falhas internas do agente; uso malicioso da ferramenta por uma pessoa; geração de situações inesperadas, com resultados positivos ou negativos; e alterações no comportamento humano e social, incluindo a criação de confiança e de novas formas de poder.
A avaliação dos incidentes deve considerar a causa, o vetor de propagação, o ambiente e a eventual existência de um hospedeiro, de forma semelhante ao exame de acidentes aéreos ou epidemias. A prioridade é compreender os mecanismos envolvidos e manter a serenidade diante dos riscos, sem ignorar as preocupações relacionadas ao uso da tecnologia.
