Quem paga a conta quando o chatbot erra? Empresas processam big techs nos EUA por respostas falsas da IA

• A era do ‘brain rot’: como a IA e as redes sociais contribuem para o enfraquecimento cognitivo
• Dúvida: A inteligência artificial precisa ser realmente inteligente para ser eficiente?

Os clientes disseram que haviam desistido do serviço depois de descobrirem, em buscas no Google, que a empresa teria feito um acordo judicial com o procurador-geral do estado por práticas comerciais enganosas. Mas a companhia nunca havia sido processada pelo governo, muito menos feito qualquer acordo relacionado a esse tipo de acusação.

A confusão virou preocupação quando os executivos da Wolf River verificaram por conta própria. Os resultados de busca exibidos no topo da página pelo Gemini, a tecnologia de inteligência artificial do Google, incluíam essas respostas falsas. E menções a um suposto acordo judicial apareciam automaticamente quando eles digitavam “Wolf River Electric” na caixa de pesquisa.

Com os cancelamentos se acumulando e as tentativas de corrigir o problema pelas próprias ferramentas do Google se mostrando inúteis, os executivos da Wolf River decidiram que não tinham outra escolha senão processar o gigante da tecnologia por difamação.

• Por que até as IAs ‘alucinam’? Resposta pode estar na obsessão por acertar

“Investimos muito tempo e energia para construir uma boa reputação”, disse Justin Nielsen, que fundou a Wolf River com três de seus melhores amigos em 2014 e ajudou a transformá-la na maior empresa de energia solar do estado. “Quando os clientes veem um alerta como esse, é praticamente impossível reconquistá-los.”

O caso da empresa é um dos pelo menos seis processos por difamação abertos nos Estados Unidos nos últimos dois anos por causa de conteúdo gerado por ferramentas de inteligência artificial que produzem textos e imagens.

Os autores alegam que a tecnologia de ponta não apenas criou e publicou informações falsas e prejudiciais sobre indivíduos ou organizações, mas, em muitos casos continuou a divulgá-las mesmo depois de as empresas responsáveis pelos modelos terem sido notificadas sobre o problema.

• Veja como proteger seus dados: Meta vai usar conversas com IA para personalizar anúncios

Diferentemente de outros processos por difamação ou calúnia, esses casos buscam definir como difamatório um conteúdo que não foi criado por seres humanos — um conceito novo que vem despertando o interesse de juristas.

“Não há dúvida de que esses modelos podem publicar afirmações prejudiciais”, disse Eugene Volokh, um dos principais especialistas em Primeira Emenda da UCLA. Em 2023, ele dedicou uma edição inteira de sua publicação, o Journal of Free Speech Law, à questão da difamação gerada por IA.

“A questão”, afirmou Volokh, “é: quem é o responsável por isso?”

• Assistente de inteligência: Google é acusado de usar ferramenta de IA Gemini para espionar usuários

Um dos primeiros casos de difamação envolvendo inteligência artificial foi aberto na Geórgia, em 2023. O autor, Mark Walters, apresentador de rádio e defensor do direito ao porte de armas, alegou que o ChatGPT havia prejudicado sua reputação ao responder a uma pergunta de um jornalista sobre direitos armamentistas afirmando falsamente que ele havia sido acusado de desvio de dinheiro.

Uma tarefa fundamental em muitos processos de difamação nos Estados Unidos é provar a intenção. Mas, como é impossível saber o que se passa dentro dos algoritmos que movem modelos de IA como o ChatGPT, o processo — assim como outros semelhantes — tentou atribuir a responsabilidade à empresa que criou o código, neste caso, a OpenAI.

“Frankenstein não pode criar um monstro que sai por aí matando pessoas e depois alegar que não tem nada a ver com isso”, disse John Monroe, advogado de Walters.

• Medo: Por que a IA está deixando tanta gente ansiosa no trabalho?

O caso de Walters foi arquivado em maio, muito antes de chegar a julgamento. Entre outros motivos, o tribunal observou que o jornalista admitiu não ter confiado na alegação feita pelo ChatGPT e ter verificado rapidamente que ela era falsa. Essa questão — se terceiros são ou não propensos a acreditar que o conteúdo supostamente difamatório é verdadeiro — é crucial nesses processos.

“Se a pessoa que lê uma declaração contestada não acredita subjetivamente que ela seja factual, então essa declaração não é difamatória”, escreveu a juíza Tracie Cason em sua decisão. A OpenAI não respondeu ao pedido de comentário.

Até o momento, nenhum caso de difamação por IA nos Estados Unidos chegou a ser julgado por um júri, mas pelo menos um deles — aberto em abril contra a Meta por Robby Starbuck, um influenciador de direita conhecido por suas campanhas contra programas de diversidade, equidade e inclusão — foi encerrado por acordo.

• Breaking Rust: Quem é o cantor de música country com voz gerada por IA que alcançou o topo da Billboard?

Starbuck afirmou que, ao navegar pela rede social X, encontrou uma imagem com informações falsas sobre ele, gerada pelo Llama, um dos chatbots de IA da Meta. O texto na imagem dizia que ele estava no Capitólio dos EUA durante os distúrbios de 6 de janeiro de 2021 e que tinha ligações com a teoria da conspiração QAnon. Starbuck disse que estava em casa, no Tennessee, nessa data e nada tinha a ver com o QAnon.

A Meta fechou um acordo em agosto, sem jamais responder formalmente à queixa. Como parte do acordo, a empresa contratou Starbuck como consultor, com foco em políticas de moderação da IA da companhia.

“Desde que passamos a tratar dessas questões importantes com Robby, a Meta tem feito grandes avanços para melhorar a precisão da Meta AI e reduzir vieses ideológicos e políticos”, afirmou a empresa em comunicado na época. A Meta não divulgou os termos adicionais do acordo, nem se Starbuck recebeu pagamento por seu trabalho de consultoria.

• Reconhecimento: Saiba como descobrir quem se conectou à sua rede Wi-Fi

No mês passado, Starbuck também processou o Google por difamação relacionada à sua inteligência artificial. No processo, que pede US$ 15 milhões em indenização, ele alegou que os modelos de linguagem de grande escala do Google — a tecnologia que alimenta seus chatbots — fizeram afirmações manifestamente falsas sobre ele.

Desta vez, porém, argumentou que os erros seriam o resultado deliberado de um “viés político embutido no algoritmo”.

O Google ainda não respondeu formalmente à ação, mas o porta-voz da empresa, José Castañeda, afirmou que a maioria das alegações de Starbuck remonta a 2023 e já foi tratada na época. Ele acrescentou:

• Entenda os casos: 4 processos judiciais responsabilizam o ChatGPT por suicídios e delírios nocivos

“Como todo mundo sabe, se você for criativo o bastante, pode induzir um chatbot a dizer algo enganoso.”

Nina Brown, professora de comunicação na Universidade de Syracuse e especialista em direito da mídia, disse acreditar que poucos — se é que algum — desses casos chegarão a julgamento. Um veredito que responsabilize uma empresa pelo conteúdo gerado por seu modelo de IA, afirmou, poderia abrir as portas para uma enxurrada de processos de outras pessoas que descobrissem informações falsas sobre si mesmas.

“Suspeito que, se surgir um processo de difamação por IA em que o réu esteja vulnerável, ele vai desaparecer — as empresas vão buscar um acordo”, disse Brown. “Elas não querem correr esse risco.”

• A era do cupido digital: veja como a IA mudou os apps de namoro e agora promete o ‘match’ perfeito

Ela, Volokh e vários outros especialistas jurídicos disseram que o caso da Wolf River parece particularmente forte, em parte porque a empresa conseguiu documentar perdas concretas causadas pelas falsidades.

Na queixa apresentada, a companhia mencionou US$ 388 mil em contratos cancelados. O CEO, Vladimir Marchenko, afirmou em entrevista que a empresa também deixou de conquistar novos clientes.

“Descobrimos que alguns concorrentes mencionam as falsas acusações do procurador-geral em reuniões com potenciais clientes, para convencê-los a não fechar negócio conosco”, disse ele. Marchenko acrescentou que também encontrou postagens no Reddit citando os falsos resultados do Google — uma delas chegou a chamar a Wolf River de ‘possível corporação do diabo’.

Em sua comunicação com o Google, a empresa afirmou ter perdido quase US$ 25 milhões em vendas em 2024 e estar buscando uma indenização total de pelo menos US$ 110 milhões. O processo está suspenso enquanto um juiz federal decide se manterá o caso ou o devolverá à justiça estadual, onde ele foi inicialmente protocolado, em março.

Um ponto potencialmente favorável à Wolf River é que ela dificilmente será classificada como figura pública. Essa é uma distinção importante porque, nos Estados Unidos, pessoas ou entidades privadas têm um padrão mais baixo para comprovar difamação: precisam demonstrar apenas que o Google agiu com negligência, e não com o que se chama de “desrespeito temerário” à verdade.

O porta-voz do Google, José Castañeda, reconheceu em comunicado que “com qualquer nova tecnologia, erros podem acontecer” e afirmou que “assim que soubemos do problema, agimos rapidamente para corrigi-lo.”

No entanto, ainda na segunda-feira, uma pesquisa no Google por “reclamação sobre a Wolf River Electric” apresentou um resultado informando que “a empresa também está enfrentando um processo do procurador-geral de Minnesota relacionado às suas práticas de vendas” e sugerindo que os clientes “apresentem uma reclamação ao gabinete do procurador-geral de Minnesota, uma vez que já estão envolvidos com a empresa”.