A OpenAI afirmou que agentes do Irã usaram modelos da empresa e identidades falsas para produzir e disseminar notícias críticas à guerra dos Estados Unidos. Segundo a companhia, cerca de uma dúzia de veículos ao redor do mundo publicaram aproximadamente 100 artigos escritos por sete jornalistas que não existiam. Após a descoberta, empresa baniu contas do ChatGPT que estavam utilizando a ferramenta de IA em persa para alterar artigos e sugestões de pauta, além de produzir comentários para redes sociais.
Crise a bordo de um porta-aviões americano: Marinheiros exaustos, problemas de saúde mental e escassez de alimentos
Quer morar fora? Veja guia interativo do GLOBO que reúne informações sobre 36 países
Quer ler mais notícias de Mundo? Acompanhe o canal no WhatsApp
Os textos abordavam temas relacionados à política externa americana e ao conflito envolvendo Estados Unidos, Israel e Irã. Em alguns artigos criados com o auxílio da IA, os títulos eram provocativos como “A política americana em relação ao Irã está sendo privatizada? A questão de Jared Kushner” e “A guerra com o Irã e o colapso da credibilidade moral ocidental”.
O caso é o exemplo mais recente de como os agentes de IA desempenham um papel fundamental nas propagandas sobre a guerra entre os EUA e Israel contra o Irã. Além disso, jovens ucranianos também usaram a inteligência artificial para criar vídeos virais com temática de Lego zombando de líderes americanos, enquanto o presidente Donald Trump publicou vídeos gerados por IA retratando ataques dos EUA contra o território iraniano.
Initial plugin text
Embora nenhum dos veículos que publicaram os artigos seja considerado parte da grande imprensa americana, algumas das plataformas possuem uma audiência significativa nas redes sociais. Uma delas, o Middle East Monitor, sediado em Londres, reúne quase dois milhões de seguidores no Facebook.
Levar narrativas contrárias à guerra para o público americano pode ser considerado uma operação de informação bem-sucedida para quem quer que esteja por trás da iniciativa. No entanto, a OpenAI afirma que ainda não está claro quem organizou a campanha, ou se os responsáveis têm ligação com o governo iraniano.
— A atividade pareceu compatível com a atuação de um agente comercial conduzindo uma campanha de influência contratada, mas não conseguimos identificar o responsável específico — escreveu a empresa de IA em seu blog.
Entenda: O que ganha quem recebe um Prêmio Nobel? Veja o que está incluído na premiação
Um dos artigos citados pela OpenAI, que fala sobre Kushner e a política externa dos EUA, foi publicado pelo site LA Progressive, que se apresenta como uma “publicação independente voltada para a justiça social”. A emissora CNN solicitou um posicionamento do LA Progressive.
Já o diretor do Middle East Monitor, Daud Abdullah, disse à CNN que irá analisar os artigos sinalizados pela OpenAI e “tomará as medidas cabíveis”. Posteriormente, outro representante do Middle East Monitor informou à emissora que os artigos foram removidos e que o processo de submissão de artigos está sendo revisado.
Segundo a empresa de tecnologia, a operação não se limitou à produção dos textos. Depois da publicação das reportagens, os agentes iranianos pediram ao ChatGPT para gerar comentários para as redes sociais, fingindo serem reações espontâneas de pessoas reagindo ao artigo.
“Os usuários solicitaram comentários sobre temas como ataques com mísseis, cessar-fogo e manobras diplomáticas, especificando resultados que retratassem os EUA como o agressor, Israel como um aliado pouco confiável dos EUA e o Irã como uma vítima desafiadora, mas resiliente”, diz o blog.
‘Operações de influência maligna’: EUA e aliados alertam para ‘planos letais’ do Irã na América Latina
Para Jessica Brandt, ex-diretoria do Centro de Influência Maligna Estrangeira do Gabinete do Diretor de Inteligência Nacional dos EUA, a operação demonstra a capacidade da IA em conseguir espaço em veículos de comunicação.
— É impressionante que os iranianos tenham conseguido inserir seu conteúdo em veículos de comunicação reais, ampliando o alcance potencial de sua campanha — disse à CNN. — Estamos testemunhando a inteligência artificial permitindo que adversários estrangeiros ocultem melhor suas intenções, construindo fachadas falsas mais sofisticadas do que conseguiriam de outra forma para fazer seu conteúdo circular por canais autênticos e aproveitar esses canais para ampliar seu alcance — afirmou à emissora.
As descobertas reforçam a preocupação com o uso da inteligência artificial para moldar a percepção de conflitos internacionais. Este ano, um relatório falso de inteligência dos EUA produzido com auxílio de IA, que alegava que um suposto navio chinês transportava componentes nucleares, quase levou os militares americanos a abordar a embarcação.
Agentes iranianos usaram inteligência artificial para publicar notícias falsas em veículos de comunicação dos EUA
