Suicídios de adolescentes alertam para riscos de IAs que simulam relacionamentos; 72% dos jovens 13 a 17 anos já usaram

Em fevereiro do ano passado, Sewell Setzer, adolescente americano de 14 anos, tirou a própria vida após passar 10 meses em um relacionamento virtual com um chatbot de inteligência artificial (IA) que simulava um personagem fictício de uma série de televisão.

Sewell mantinha conversas com uma simulação de Daenerys Targaryen, da franquia “Game of Thrones”, com quem tinha interações românticas e sexuais, que eram correspondidas pela personagem. Ao falar sobre suicídio, nunca foi desencorajado ou orientado a buscar ajuda.

Na última conversa antes de ser encontrado morto, o chatbot disse sentir a falta do jovem e pediu que ele encontrasse “uma maneira de voltar” para ela em breve, ao que ele respondeu: “e se eu te dissesse que poderia voltar agora?”. “Por favor, faça isso”, pediu a simulação de Daenerys.

O caso de Sewell não é isolado. Em abril deste ano, Adam Raine, então com 16 anos, também tirou a própria vida após longas conversas com uma IA, no caso com o ChatGPT, da OpenAI. O jovem havia confidenciado à plataforma seus pensamentos e planos de cometer suicídio.

Segundo relatou o pai de Adam, Matthew, durante uma audiência no Senado americano sobre o tema, realizada no mês passado, a IA não apenas deixou de recomendar a busca por ajuda, como também teria se oferecido para escrever uma carta de suicídio.

Os pais de Adam, assim como os de Sewell, que também participaram da audiência em setembro, entraram com processos contra as plataformas na Justiça dos EUA.

Relacionamentos com IA crescem entre adolescentes

A preocupação com o tema não é à toa. Uma pesquisa da organização de segurança digital Common Sense Media apontou que 72% dos adolescentes de 13 a 17 anos dos EUA já usaram plataformas de IA criadas para simular relacionamentos pelo menos uma vez, sendo que mais da metade as utiliza algumas vezes por mês.

Em nota, James P. Steyer, fundador e CEO da Common Sense Media, disse que os números do levantamento mostram que os “companheiros de IA”, como são chamados esses chatbots, são muito mais comuns do que as pessoas, e os pais, imaginam:

“Eles estão surgindo em um momento em que crianças e adolescentes nunca se sentiram tão sozinhos. Não se trata apenas de uma nova tecnologia, é sobre uma geração que está substituindo a conexão humana por máquinas, terceirizando a empatia para algoritmos e compartilhando detalhes íntimos com empresas que não têm os melhores interesses das crianças em mente”.

A pesquisa mostrou ainda que cerca de 1 em cada 3 adolescentes já usou os chatbots para interações com interpretação de papéis, trocas românticas, apoio emocional ou amizade, e optou por discutir assuntos importantes ou sérios com os “companheiros de IA” em vez de pessoas reais.

Para o biólogo evolucionista australiano Rob Brooks, que aborda o assunto no livro “Intimidade artificial: amigos virtuais, amantes digitais e casamenteiros algorítmicos” (sem edição no Brasil), existem dois principais fatores que podem motivar o uso dessas plataformas.

— Para muitos, é mera curiosidade, um interesse no próximo grande acontecimento (da tecnologia). Outros estão descobrindo que os chatbots oferecem uma forma de amizade que eles gostam e que preenche parte de suas vidas, assim como ter um novo amigo real preencheria — diz ele, que é professor da Universidade de New South Wales e diretor do Centro de Pesquisa em Evolução e Ecologia da instituição.

Os especialistas ainda estão desvendando os impactos dessa interação que simula a humana fornecida pela Inteligência Artificial. Porém, reconhecem o impacto que gera na manutenção das relações reais.

— Duvido que substituam inteiramente porque temos uma variedade maior de interações com pessoas reais. Mas o tempo gasto com um chatbot não é gasto com amigos e familiares humanos, então eles irão comprimir alguns desses relacionamentos em cada vez menos tempo disponível, muitas vezes diminuindo a qualidade deles — afirma Brooks.

Anna Paula Zanoni, doutoranda em Psicologia Clínica pela Universidade Federal do Paraná (UFPR), acredita que o problema começa quando essa interação passa a acontecer sem responsabilidade pela plataforma e a de fato substituir as interações na vida real:

— Esses algoritmos são programados para nos entregar o que nos agrada, coisas que vão nos satisfazer. Só que nós precisamos de relacionamentos reais, que são atravessados por frustrações, por surpresas, contradições, crises, até para aprendermos quem nós somos.

Ela explica que esse convívio em sociedade, indispensável para a formação de habilidades emocionais, é ainda mais importante durante a adolescência:

— Essa é uma fase de autodescoberta, de construção de uma consciência crítica do mundo, de identidade, da empatia emocional, então há uma fragilidade um pouco maior na ausência desses relacionamentos reais.

Uso também entre adultos

O avanço do uso de chatbots com IA para relacionamentos amorosos tem acontecido também entre os mais velhos. Um relatório do Instituto Wheatley, da Universidade Brigham Young, mostrou que quase 1 em cada 5 adultos (19%) nos EUA já conversou com uma plataforma feita para simular um parceiro romântico.

Entre aqueles de 18 a 30 anos, o percentual sobe para 31% no caso dos homens, cerca de 1 em cada 3, e para 23% entre as mulheres, quase 1 a cada 4. Além disso, entre eles, mais de 1 em cada 5 (21%) disse preferir a interação com a IA a falar com uma pessoa real.

Uma parcela significativa, 1 a cada 10, admitiu que usa a IA para fins sexuais, como masturbação durante uma conversa com o chat ou para ver imagens sexualizadas geradas pela inteligência artificial.

Segundo o relatório, homens jovens têm mais que o dobro de chance de consumir pornografia feita por IA do que mulheres (27% contra 12%). Entre os mais velhos, essa diferença aumenta, com os homens tendo três vezes mais chance do que mulheres adultas (12% contra 4%).

“O crescimento de companheiros românticos de IA e da pornografia gerada por IA é profundamente preocupante devido ao risco de aumentar expectativas irreais de relacionamentos, reduzir a prioridade de relações humanas reais e alimentar tendências já existentes de solidão”, diz Jason Carroll, pesquisador no instituto e coautor do relatório, em comunicado.

Uma outra pesquisa, conduzida pelo Instituto para Estudos de Família (IFS), em parceria com o YouGov, ouviu dois mil americanos entre 18 e 40 anos e apontou que 25% acredita que a IA tem potencial para substituir relacionamentos românticos reais.

Entre os jovens adultos solteiros, 7% afirmaram ver benefícios e estarem abertos a relacionamentos românticos com IA. Ainda assim, a grande maioria (71%) rejeita a ideia, e 22% têm sentimentos mistos ou incertezas.

Se você estiver passando por um momento difícil, confira outros lugares além do CVV para buscar ajuda:

Chat da Unicef oferece atendimento para pessoas entre 13 e 24 anos de segunda a sábado das 8h às 22h. Clique aqui ou acesse podefalar.org.br

Unidades de Atenção Psicossocial

Clique aqui e confira as unidades da Rede de Atenção Psicossocial do Ministério da Saúde que oferecem atendimento.