Um erro cometido com auxílio de inteligência artificial quase desencadeou uma operação militar dos Estados Unidos contra um navio chinês no Oriente Médio.
O episódio ocorreu durante a guerra contra o Irã e expôs um dos riscos mais delicados da utilização de sistemas de IA em atividades de inteligência: uma informação falsa pode adquirir aparência de informação oficial e chegar rapidamente aos níveis operacionais das Forças Armadas.
Segundo informações obtidas pela CNN com quatro fontes familiarizadas com o caso, um relatório de inteligência que circulou entre militares americanos afirmava que uma embarcação chinesa transportava componentes relacionados a um programa de armas nucleares. A informação provocou uma reação imediata dentro da estrutura militar dos Estados Unidos.
A situação chegou a um ponto crítico. De acordo com duas das fontes ouvidas pela CNN, militares americanos armados se preparavam para abordar o navio. Além disso, aeronaves militares já estavam no ar enquanto a operação era planejada.
A identificação do problema antes do ataque
A origem do erro estava em uma análise realizada por um analista ligado ao comando de operações especiais. O profissional utilizou um chatbot de inteligência artificial para analisar informações relacionadas ao manifesto de carga do navio, um documento que registra os produtos transportados pela embarcação.
O material de inteligência utilizado na análise tinha origem no Comando de Operações Especiais do Pacífico, sediado no Havaí. Segundo a CNN, o sistema de IA combinou informações de fontes abertas com dados sigilosos de inteligência disponíveis nos sistemas governamentais e chegou a uma conclusão incorreta sobre a carga.
Em outras palavras, a inteligência artificial interpretou de maneira errada aquilo que estava sendo transportado pelo navio.
O problema, porém, não terminou na resposta equivocada do chatbot.
O analista utilizou novamente a inteligência artificial para transformar aquela análise em um relatório de inteligência no formato normalmente utilizado pelos militares. O documento acabou sendo distribuído dentro da estrutura militar americana.
Foi justamente esse processo de “continuidade das ações” que tornou o episódio particularmente preocupante, já que militares em campo haviam sido ativados para operação iminente.
Quando autoridades aprofundaram a análise do documento, descobriram que a inteligência artificial havia identificado incorretamente o material transportado pela embarcação. A operação foi então interrompida.
Uma fonte familiarizada com o episódio resumiu a gravidade do caso dizendo que o erro “quase provocou uma guerra”. Essa é uma avaliação atribuída à fonte, e não uma confirmação de que um conflito entre Estados Unidos e China estava efetivamente prestes a começar.
O ponto concreto é que uma operação militar contra uma embarcação chinesa poderia criar um risco significativo de escalada entre as duas potências.
