por que tanta gente usa IA para postar fotos em viagens que nunca fizeram?

No mundo da tecnologia, não é preciso ser nenhum privilegiado para compartilhar fotos assim nas redes. Aplicativos de inteligência artificial (IA) fazem sucesso produzindo imagens de pessoas em cenários nos quais elas nunca pisaram, confundindo muita gente.

• ‘Clones digitais’: startups do Vale do Silício criam réplicas dos sites para treinar agentes de IA
• Quem fez essa música? Pesquisa da Deezer mostra que canções geradas por IA enganam 97% dos ouvintes

A primeira febre de manipulação de fotos com IA foi a aplicação de filtros no estilo de animação do Studio Ghibli, seguida dos retratos de infância recriados em novos cenários. Agora, a onda é compartilhar imagens simulando cenas de turismo, muitas vezes sem qualquer indicação de que foram geradas artificialmente.

Os recursos estão em aplicativos que também usam a IA para simular ensaios fotográficos de aniversários nunca comemorados ou fotos em ambiente corporativo (geralmente com aquele figurino de executivo assertivo e cara de conteúdo) para compor perfis profissionais nas redes.

• Masayoshi Son: CEO do Softbank iz que uma super-IA pode transformar humanos em ‘peixes’ ou vencer o Nobel

A criação é, geralmente, simples como uma receita de bolo. Basta enviar uma selfie e escrever algumas linhas num prompt, como são chamados os comandos enviados em texto, de forma objetiva e específica, à IA. Em segundos, é possível se ver numa foto tomando café da manhã num hotel grego ou posando no volante de uma Ferrari numa estrada italiana. Aí é só postar e alimentar a curiosidade — e talvez a inveja — alheia.

Essa facilidade fez surgir comunidades inteiras dedicadas a esse tipo de conteúdo nas redes. Muitos entusiastas recorrem ao ChatGPT, da OpenAI, ou ao Nano Banana, do Gemini AI, do Google, mas já há um vasto mercado de aplicações de imagens realistas com IA.

• Nova legislação: Austrália impõe limite de 16 anos para redes sociais e prevê multas de R$ 175 milhões a plataformas

Um deles é o Endless Summer, lançado em outubro na Apple Store pelo designer Laurent Del Rey, que trabalhou no laboratório de superinteligência da Meta. A proposta é simples: gerar fotos fictícias de férias “para quando o burnout bater e você precisar manifestar a vida tranquila que merece”, define o criador.

Ao abrir o app, o usuário envia uma selfie e tem direito a três imagens sem custo, criadas a partir de filtros temáticos que simulam diferentes cenários: da estética vintage ensolarada, com luz quente, céu azul e a atmosfera de viagem perfeita, a modelos que imitam flagras de paparazzi ou o clima de férias ao ar livre, meio nature vibe.

A partir da quarta imagem, paga-se por um dos pacotes, de R$ 29,90 por 30 fotos a R$ 299,90 por 300. Só nos primeiros 30 dias, o app gerou mais de 30 mil fotos. Ao GLOBO, Del Rey disse considerar o número expressivo, embora limitado pelo custo da criação. Para não infringir direitos autorais, ele explica que o sistema não usa referências fotográficas reais, só descrições textuais.

‘Sonhar por um instante’

O designer avalia que o uso do app tem sido mais lúdico que enganoso. Mesmo quando a foto é postada sem deixar claro que foi feita por IA, o desenvolvedor acredita que os usuários costumam admitir isso caso algum amigo ou seguidor questione.

Cada imagem leva uma marca d’água, e, para Del Rey, é improvável que alguém não perceba. Mas então qual é o sentido de pagar e postar o registro de uma experiência que não foi vivida? Para ele, parte do público usa o app para se imaginar em realidades às quais não tem acesso:

— Pode ser que esteja acontecendo. É bem parecido com folhear uma revista ou assistir a um clipe. Abre a mente para mais possibilidades, te faz sonhar por um instante.

• IAí?: Como usar a IA para planejar viagens e encontrar voos mais baratos

O site FakeTravel.net é outro exemplo que promete “dar vida aos destinos dos sonhos”. Do Louvre a Machu Picchu, passando por Times Square, Fontana di Trevi, Big Ben, Taj Mahal e outros pontos turísticos marcantes do mundo, o usuário escolhe um deles no sistema, envia uma foto pessoal e descreve como quer a cena.

A plataforma diz já ter criado mais de 500 mil imagens para 15 mil pessoas. Na App Store, o Fieldtrip – AI Travel Photos se vende como uma forma de “viajar pelo mundo sem sair do sofá”, gerando retratos em cidades como Nova York, Londres ou Paris a partir de uma selfie.

O desenvolvedor Timothy Wijaya, ao prestar uma consultoria à OpenAI, compartilhou no X alguns de seus achados sobre como indonésios têm usado o ChatGPT para isso. Ele identificou um grupo no Facebook com 30 mil membros que compartilham fotos geradas por IA em cenários luxuosos em cidades europeias, dividindo a cena com sonhos de consumo como carros Lamborghini e bolsas Gucci.

Segundo Wijaya, a maioria são usuários de renda média e baixa de cidades medianas ou pequenas da Indonésia. “É triste e fascinante ao mesmo tempo que o uso da IA tenha se tornado uma forma de escapismo, permitindo que as pessoas experimentem vidas que provavelmente nunca viverão”, escreveu.

• Quer receber a newsletter de IA no seu e-mail? Inscreva-se no cardápio do GLOBO

Em grupos de Facebook e perfis do Instagram visitados pelo GLOBO, usuários compartilham não só imagens realistas de si mesmos criadas por IA, mas também os prompts que usaram para alcançar o resultado.

No grupo “AI Prompt Party”, no Facebook, com mais de 460 mil membros, um filipino na faixa dos 30 a 40 anos publica fotos “de viagem” em pontos famosos do mundo (das pirâmides do Egito à Muralha da China ou um arranha-céu de Dubai), sempre acompanhadas do prompt para quem quiser replicar a “viagem” estética. No Instagram, suas postagens costumam receber o rótulo “Informação de IA”, da plataforma.

Em outro grupo do Facebook, o “AI Photoshoot Lounge”, com mais de 70 mil pessoas, é possível encontrar milhares de fotos dos integrantes em situações curiosas, não só turísticas. Uma jovem de Atlanta, nos EUA, por exemplo, refez todo o seu ensaio fotográfico num chá de bebê usando IA para substituir fotos reais que não lhe agradaram.

A tendência também está em perfis e grupos brasileiros. No perfil de uma jovem brasileira, que se diz cearense, fotos criadas por IA de supostas viagens a Paris, Dubai e Tóquio dividem espaço com registros reais com amigos.

• Nem tubo nem asa: conheça o avião que promete transformar a forma como voamos e reduzir emissões

Outra, do interior de São Paulo, mistura vídeos autênticos da família com imagens geradas por IA. Algumas dessas publicações não têm rotulagem da plataforma, mas são encontradas por pistas discretas nas legendas, como a expressão “Pôr do sol #prompt”.

Criadores de conteúdo brasileiros também têm usado o recurso para atrair a atenção nas redes. Uma influenciadora do nicho materno, com 15 mil seguidores, ensina seus seguidores os comandos que dá ao Gemini AI para que possam replicar suas “experiências profissionais digitais”, em exemplos como “fotos que eu faria se fosse médica”, “se fosse arquiteta”, ou até um ensaio sintético de Natal em família.

Os prompts envolvem uma série de pedidos com detalhes como fundo sólido, tom quente ou frio, expressão sorridente ou séria e até textura da pele. “Foto bonita? Não. Foto estratégica”, resume a influenciadora.

Termômetro contemporâneo

Para o antropólogo David Nemer, o uso de IA para gerar fotos de viagens e experiências inexistentes diz muito mais sobre a cultura digital contemporânea no mundo do que sobre “falsidade”. Ele recorre ao conceito atual de economia da performance, em que a visibilidade digital funciona como capital simbólico.

A imagem atrai, mas não é registro: vira status e narrativa pessoal, numa lógica que já existia com os filtros e programas de edição de fotos. O que muda agora é a escala e a facilidade, aponta o pesquisador.

— O valor não está no que você viveu, mas no que você consegue mostrar — diz ele. — E ainda reforça desigualdades, porque quem já tem mais repertório digital, literacia tecnológica e familiaridade com IA consegue manipular melhor essas ferramentas e construir imagens mais “críveis”, enquanto outros ficam excluídos ou vulneráveis a julgamentos morais.

E como identificar que uma imagem foi gerada por IA? Especialistas apontam falhas que a IA costuma deixar nas imagens, como assimetrias no olhar, reflexos e sombras que não obedecem a nenhuma fonte de luz, borrões no fundo, texturas de pele uniformes demais ou transições estranhas entre objetos e fundo. Mas, com a evolução dos modelos, esses sinais vão ficando menos detectáveis.

O Nano Banana Pro, lançado pelo Google no mês passado, surpreende pelo grau de realismo, ainda que inclua uma marca d’água automática no canto inferior direito. Para especialistas, é um detalhe que não afasta potenciais problemas.

Arthur Igreja, especialista em tecnologia e inovação lembra que, até pouco tempo atrás, plataformas como o ChatGPT, da OpenAI, tinham restrições mais claras para impedir o uso de imagens de terceiros sem consentimento nesse tipo de manipulação, mas uma versão lançada em abril retirou esse bloqueio, algo que ele atribui a pressões de mercado.

— Caminhamos para um terreno mais permissivo e, ao mesmo tempo, mais complexo — diz o pesquisador, destacando a velocidade muito mais alta do avanço tecnológico em comparação ao debate regulatório.

• Até conversar com espíritos: o que a OpenAI fez quando usuários do ChatGPT perderam contato com a realidade

Para Ronaldo Lemos, diretor do Instituto de Tecnologia e Sociedade do Rio (ITS Rio), é preciso criar padrões mínimos de transparência técnica, como auditabilidade e mecanismos globais de autenticação de conteúdo como os padrões C2PA, um conjunto de normas que insere metadados verificáveis sobre origem e histórico de edição das imagens. Não elimina o problema, diz ele, mas dá rastreabilidade.

Problema para o marketing

O avanço das imagens sintéticas também afeta a relação entre marcas, profissionais e consumidores. Para José Carlos Rodrigues, professor de comportamento do consumidor e storytelling da Escola Superior de Marketing (ESPM), o uso indiscriminado dessa tecnologia pode comprometer a confiança do público em relação a uma marca pessoal, como a de um artista ou profissional, ou comercial, como a de produtos e empresas.

Na visão dele, o chamado consumo aspiracional cresce junto com um certo mal-estar potencializado pelas redes sociais, onde a comparação constante movida por conteúdos formatados sob padrões inalcançáveis gera insatisfação e pode distorcer a forma como as pessoas lembram ou percebem suas próprias experiências reais.

— Afinal, se tudo que essa pessoa exibe é manipulado, o que de verdadeiro ela traz? — questiona Rodrigues. — Quando a evidência fotográfica perde valor social por se tornar fácil de falsificar, espectadores e mercados precisam criar novos sinais de confiança. Isso deve levar a mudanças institucionais em verificação, rotulagem e regulação.

• Apple Music: de áudio imersivo a tradução de letras e vídeos. Veja as mudanças do streaming do iPhone

Além dos impactos reputacionais, há riscos legais e de privacidade que o usuário costuma ignorar ao gerar imagens de si mesmo com IA. Ronaldo Lemos lembra que muitas ferramentas são treinadas com bancos de imagens que incluem obras protegidas por direito autoral.

Ao gerar uma foto pessoal com certo estilo, o usuário pode, sem perceber, incorporar elementos derivados desses acervos. Mesmo que não haja violação, a originalidade é comprometida no processo, ele observa

Outra preocupação é o compartilhamento de imagens pessoais como selfies em uma plataforma para gerar imagens sintéticas. A maioria das pessoas não sabe como esse material é tratado, armazenado ou reutilizado para treinar modelos.

— Mesmo quando você acha que está apenas melhorando sua aparência, você pode estar permitindo acesso ao seu registro biométrico de forma profunda, rastreável e provavelmente irreversível na prática — alerta Lemos, referindo-se a dados que podem ser usados por criminosos para acessar sistemas de reconhecimento facial, clonagem de identidade e até golpes com deepfakes de voz e imagem.

• Saiba como funcionam: Empresas chinesas de óculos inteligentes buscam conquistar mercado mundial

No longo prazo, esse novo movimento tende a transformar a noção de autoimagem no ambiente digital, avalia o diretor do ITS Rio. Para ele, a sociedade já vive a era pós-fotográfica, nas quais as imagens não são mais captadas a partir do mundo e do real, mas sintetizadas.

— Isso afeta tudo: política, justiça, memória, autoestima. Quando qualquer pessoa pode se ver em qualquer realidade, a própria ideia de realidade se fragiliza — afirma.

— A consequência de longo prazo é psicológica e social. A comparação entre “quem eu sou” e “quem eu posso ser com IA” é insidiosa, inclusive porque abala a confiança no real. Para enfrentar esse problema vai ser preciso um esforço amplo, que passa por informação, letramento algorítmico e até emocional.