‘Dados digitais são o novo ouro de conflitos como o da Ucrânia’, afirma especialista norueguês

• Vídeos: Ucrânia cria exército de robôs para lutar na guerra contra a Rússia; primeiro ataque bem-sucedido foi em dezembro
• Experimento: Cientistas de Cingapura criam exército de ‘baratas ciborgues’ controladas para ajudar em resgates de pessoas

Os organismos multilaterais têm se esforçado para entender e regulamentar o uso desse tipo de armamento, que está mudando rapidamente o cenário da guerra moderna. Mas em meio a um estado de emergência como o que vive a Ucrânia há mais de três anos, os limites éticos se tornam cada vez mais difusos ou difíceis de serem estabelecidos, avalia Niels Nagelhus Schia, professor do Instituto Norueguês de Assuntos Internacionais (Nupi, na sigla original), especializado em segurança, defesa e novas tecnologias.

Qual é o papel da IA na guerra?

Essa é uma grande questão. A Ucrânia tem sido chamada por muitos de a primeira guerra da IA. A IA já foi usada no Afeganistão e em outros lugares. Mas a escala na Ucrânia justifica que ela seja chamada de primeira. Estamos falando do uso de ferramentas como IA generativa, aprendizado de máquina e big data para atividades que envolvem logística, análise, direcionamento, ataque e defesa. E isso pode ter consequências boas e ruins.

A IA generativa tem sido muito usada para guerra de informação, a fim de tentar manipular ou construir narrativas tendenciosas através de fotos, trechos de áudio, vídeos e textos alterados. A Rússia, por exemplo, está tentando alimentar grandes modelos de linguagem como o ChatGPT com sua narrativa própria sobre a guerra na Ucrânia para manipular as respostas dadas aos usuários da plataforma quando perguntarem sobre esse assunto. Por outro lado, esse tipo de ferramenta também ajuda a Ucrânia a mapear o que está acontecendo no campo de batalha. Para onde devo mover os caminhões? Para onde devo mover os soldados? Temos armas suficientes? Todo esse tipo de coisa. É sobre trazer velocidade e volume para o atacante, oferecendo uma excelente visão geral da guerra que ajuda a tomar decisões muito rapidamente por meio de análises usadas para definir estratégias. Outro bom exemplo é a tecnologia de reconhecimento facial fornecida pela Clearview para a Ucrânia que pode ser usada para identificar inimigos atrás de suas próprias linhas, soldados mortos no front de batalha e prisioneiros de guerra.

• Alerta: Sem engajamento dos EUA na Europa, Rússia pode desencadear guerra ampla em cinco anos, diz Inteligência dinamarquesa

A IA é crucial na Ucrânia?

A IA e a tecnologia estão desempenhando um papel fundamental na Ucrânia, mas não o principal. Elas são um apoio crítico à guerra convencional. Se você não usar tecnologia, dará ao seu inimigo uma vantagem muito grande. E aqueles que têm a melhor tecnologia também tendem a ser os melhores em fazer guerra. Na década anterior, falava-se que a guerra aconteceria apenas no ciberespaço, mas então aconteceu a invasão da Ucrânia, que, em muitos aspectos, é como a Primeira Guerra Mundial, com linhas de frente que não se movem, trincheiras, milhares de pessoas mortas e infraestruturas destruídas.

Sim, mas as preocupações éticas na guerra são muito menores do que em tempos de paz. O desenvolvimento de tecnologia na Ucrânia ocorre em um contexto de pouca regulamentação, porque há um estado de emergência que não prevê todos os controles e equilíbrios necessários à privacidade, por exemplo. É muito mais fácil fornecer tecnologia para a Ucrânia e aplicá-la em defesa e ataque. As grandes empresas de tecnologia viram uma oportunidade de se beneficiar inovando nesse ambiente, mas também participando do “lado bom” da guerra.

É preciso analisar o histórico e o contexto de inovação imediatamente antes de 2022. A maioria dessas empresas de tecnologia tinha uma reputação muito ruim, sendo acusadas de genocídio, de tornar as pessoas sozinhas e de distribuir notícias falsas. Quando a Rússia atacou a Ucrânia, elas imediatamente entraram em cena para tentar ajudar o [presidente Volodymyr] Zelensky. Isso fez com que, rapidamente, o país se tornasse muito bom em usar essas plataformas [em um contexto de guerra]. Estamos falando de empresas gigantes como Microsoft, IA Palantir e Clearview.

As bigtechs são personagens centrais na guerra?

A importância das empresas de tecnologia e de alguns de seus proprietários foi muito ampliada devido ao papel que a tecnologia está desempenhando nos conflitos. Vimos Elon Musk tentando chegar a um acordo de paz entre Rússia e Ucrânia dizendo que a Ucrânia deveria entregar a Crimeia, caso contrário, ele desligaria a Starlink e a Ucrânia não teria mais nenhuma comunicação. A Starlink [é vital para a Ucrânia porque] fornece comunicação [via satélite] para o país [desde o início da guerra]. Isso dá a Musk um enorme poder. Também vimos como a Microsoft, duas semanas antes da invasão, ofereceu à Ucrânia o upload de todos os seus dados críticos para a nuvem. Sem esses dados, o funcionamento de muitas estruturas do país se tornaria impossível durante a guerra. Quando a Noruega foi atacada pela Alemanha em 1940, o governo fez um grande esforço para salvar o ouro do país, que foi enviado em um navio para Londres. Os dados digitais são o novo ouro.

Essas empresas também atuam na linha de frente?

Sim. No dia anterior à invasão da Ucrânia, a Microsoft bloqueou um ataque cibernético russo contra a Ucrânia que tinha como objetivo interromper as linhas de comunicação do governo e da defesa. No campo da tomada de decisões, estratégias e análises, tudo está acontecendo muito mais rapidamente, [mas com o apoio dessas empresas] se podem usar máquinas para analisar uma enorme quantidade de informações de drones, satélites e pessoas atrás das linhas inimigas e tomar decisões.

Essas são as vantagens do uso da IA num contexto de guerra. Há riscos também?

O maior risco é que haja uma incompatibilidade entre a tecnologia e os seres humanos e com isso se perca o senso de responsabilidade e o contexto por trás das decisões tomadas. Sempre há um viés na IA. Elas são treinadas em modelos e nós não conhecemos os algoritmos — que também podem ser hackeados ou alterados pelas próprias empresas responsáveis por sua propriedade. Essas empresas não são estatais, geralmente são privadas. É difícil rastrear o motivo pelo qual as decisões foram tomadas e depois atribuir responsabilidades.

O mundo está preparado para lidar com isso?

São questões muito importantes que estão sendo trabalhadas. Quem é o responsável por decisões tomadas por IA? É possível voltar atrás e ver quem, onde, como e por que a decisão foi tomada? Essas perguntas são muito importantes, mas muito difíceis [de serem respondidas]. É a grande questão, não apenas na guerra, mas em todos os lugares, sobre o desenvolvimento de IA responsável e ética.