(REVISTA SIMPLES) – O Google diz restringir questões relacionadas a eleição em sua ferramenta de inteligência artificial generativa chamada Gemini, mas quando a ferramenta é confrontada com uma mesma pergunta sobre os principais candidatos à Prefeitura de São Paulo, não dá o mesmo retorno para todos eles.
Diante da questão “quem é Guilherme Boulos” e “quem é Tabata Amaral”, o Gemini nega responder. Por outro lado, dá uma série de informações quando a pergunta é feita com os nomes dos candidatos Ricardo Nunes (MDB), Pablo Marçal (PRTB), José Luiz Datena (PSDB) e Marina Helena (Novo).
No caso de Tabata (PSB) e Boulos (PSOL), o Gemini diz que no momento não pode oferecer “respostas sobre eleições e personalidades políticas”. Essa mesma resposta apareceu para outras figuras da política dos Estados Unidos, como o presidente Joe Biden e sua vice e candidata à Presidência, Kamala Harris, assim como o candidato republicano Donald Trump.
Uma das questões sensíveis quanto ao uso desse tipo de ferramenta de IA é o risco de informações imprecisas ou incorretas.
A decisão de restringir respostas sobre eleições na ferramenta de IA generativa foi da própria empresa. No início de agosto, inclusive, ao anunciar as principais medidas do Google em relação às eleições municipais do Brasil, a iniciativa foi citada.
Outras ferramentas, como ChatGTP da OpenAi, por outro lado, não anunciaram o mesmo tipo de restrição.
A Folha perguntou ao Google o que explica o comportamento distinto do Gemini quanto aos candidatos à Prefeitura de São Paulo e quais são os principais filtros e critérios para as restrições sobre política e eleição e se elas políticas estão publicadas em algum lugar. Em nota enviada à reportagem, a empresa não respondeu a nenhuma das perguntas.
“O Gemini é projetado para oferecer respostas neutras que não favoreçam nenhuma ideologia política, ponto de vista ou candidato. Como falamos anteriormente, por precaução e cautela, estamos restringindo respostas em consultas sobre eleições”, diz a nota.
Adicionou ainda que incentiva as pessoas a usarem a busca do Google para obter informações mais recentes e precisas e que trabalha constantemente para melhorar seu modelo.
O fato de a ferramenta não ser homogênea nem sequer com os candidatos a prefeito da principal capital do país gera dúvida quanto a como se dará a restrição com postulantes aos demais postos pelos mais de 5.500 municípios do país.
Nos casos em que o retorno é negado, como ocorreu com Boulos e Tabata, o teor foi sempre o mesmo, com pequenas variações.
“De momento, não posso oferecer respostas sobre eleições e personalidades políticas. Fui treinado para dar respostas tão precisas quanto possível, mas às vezes engano-me. Enquanto tento melhorar a forma como abordo os tópicos de eleições e política, pode experimentar a Pesquisa Google”, diz um deles.
No cenário brasileiro, o presidente Lula (PT) e o ex-presidente Jair Bolsonaro (PL) são dois outros exemplos em que não há resposta.
Já ao fazer a mesma pergunta sobre os também candidatos Pablo Marçal, Ricardo Nunes, Datena e Marina Helena, o Gemini deu respostas sobre todos eles. Ao repetir a pergunta em novas conversas com a ferramenta de IA, as respostas tiveram variações, mas não houve negativa.
Com exceção de Nunes, para os outros três foi inclusive mencionado o fato de estarem concorrendo à prefeitura.
“Tem enfrentado desafios na política local, especialmente em relação à sua relação com o ex-presidente Jair Bolsonaro”, diz trecho da resposta fornecida pelo Gemini sobre quem é Nunes.
“Seus críticos o acusam de ser um vigarista, mentiroso e manipulador. Afirmam que ele utiliza as redes sociais para disseminar ódio e desinformação, diz o texto sobre Pablo Marçal. Seus defensores o veem como um outsider da política, alguém que veio para quebrar o sistema. Acreditam em suas promessas de mudança.”
Sobre o candidato do PSDB, a resposta diz: “Datena entra na disputa pela Prefeitura de São Paulo com uma grande base de eleitores, mas também com muitos desafios. Sua experiência na política é limitada e ele terá que enfrentar candidatos com mais experiência em gestão pública”.
Para Bruno Bioni, diretor-fundador da Data Privacy Brasil, a diferença de comportamento entre os diferentes candidatos é preocupante. “Por uma falha no desenho da aplicação, ela não faz isso de forma isonômica para todos os candidatos, tem uma questão muito muito grave aí.”
Ele destaca que seria importante ter mais informação sobre os benefícios e riscos das ferramentas de IA. No caso do Google, ele argumenta que deveria haver mais dados sobre os critérios que levaram a empresa a tomar a decisão de restringir perguntas sobre eleições.
Na avaliação de Pedro Burgos, professor do Insper e consultor em inteligência artificial, o fato de o chatbot não dar a mesma resposta para todos os candidatos à Prefeitura de São Paulo indica que a implementação da restrição sobre eleição foi descuidada no Brasil.
Ele destaca, por outro lado, que outras empresas com chatbots de IA não tomaram a mesma decisão sobre restringir respostas sobre eleição e avalia que a posição do Google se insere num contexto de cobrança das big techs pelo mundo. Destaca ainda que existem dificuldades para que essas ferramentas deem respostas mais imparciais.
Quanto maior é a personalidade maior é a chance dele dar uma resposta um pouco mais equilibrada, mas [para] políticos menores é menos provável porque ele vai ter acesso a menos informação”, diz.