A Secretaria Nacional de Direitos Digitais (Sedigi), ligada ao Ministério da Justiça e Segurança Pública (MJSP), encaminhou pedido de investigação à Agência Nacional de Proteção de Dados (ANPD) contra os “companheiros de IA”, aplicativos de inteligência artificial que simulam amizades com o usuário. Em nota técnica, divulgada nesta terça-feira, a Sedigi analisou os riscos associados à exposição de crianças e adolescentes aos chatbots. Entre as principais ameaças estão o apego intenso, substituição de vínculos humanos, exposição a conteúdos inadequados e coleta de informações íntimas. Além de danos como privação de sono, queda no desempenho escolar, abandono de atividades, afastamento de relações presenciais e sofrimento decorrente de alterações no sistema.
Quem era o dentista encontrado morto quatro dias após desaparecer em Itu (SP)
Disponíveis a adolescentes, ‘namorados’ de IA testam aplicação do ECA Digital
Os companheiros IA, estabelecem interações com bases em conversas contínuas e personalizadas, permitem recordar informações compartilhadas anteriormente e adaptar as respostas às preferências e reações do usuário. Segundo a Sedigi, a preocupação com os impactos dos chatbots não se restringe ao contexto brasileiro, pois a tecnologia sustenta interações sociais e afetivas, com simulação de responsividade emocional e pode oferecer apoio emocional por meio de personas.
Os riscos abarcam conteúdo sexual, com exposição de intimidade inadequada à idade e dificuldade de reconhecer ou mediar conteúdos inadequados em conversas, armazenamento de dados íntimos e expectativas irreais sobre relações; apego intenso, uso compulsivo, abstinência, tolerância, recaída e substituição de vínculos humanos e presenciais, dependência psicológica; confusão entre ficção e relação recíproca; privação de sono, queda no desempenho escolar e afastamento social; e sofrimento e desconforto ligados à dependência emocional.
“Os elementos analisados indicam que os Companheiros de IA são acessíveis no mercado brasileiro e apresentam riscos específicos para crianças e adolescentes em razão da combinação entre interação contínua, simulação de vínculos afetivos, memória persistente, personalização de respostas e produção de inferências sobre comportamentos, preferências e estados emocionais”, diz o documento.
Conforme mostrou O GLOBO, os chatbots vêm sendo usados por adolescentes como namorados virtuais. Especialistas alertam que a chamada antropomorfização, quando usuários atribuem características humanas às máquinas, pode estimular vínculos de confiança e dependência emocional. Embora o Estatuto Digital da Criança e do Adolescente (ECA Digital) não mencione expressamente os companheiros de IA, o decreto que regulamenta a lei passou a incluir sistemas capazes de gerar conteúdo e interagir por linguagem natural.
Pedido de investigação
A Sedigi encaminhou os riscos à Agência Nacional de Proteção de Dados (ANPD), para avaliação à luz do ECA Digital. Além de também enviar à Secretaria Nacional do Consumidor (SENACON), para avaliação sob a perspectiva da prestação de serviço, das práticas comerciais, informacionais e de desenho potencialmente enganosas ou exploratórias, principalmente quando associadas à publicidade, monetização, perfilamento ou à vulnerabilidade etária.
“Encaminhamos a nota técnica à ANPD e à Senacon porque entendemos que os riscos dos AI Companions para crianças e adolescentes precisam ser avaliados por ambos, dentro das competências regulatórias e fiscalizatórias, e sob a ótica da proteção do consumidor, avaliando defeitos na prestação do serviço e práticas comerciais, informacionais e de desenho que podem ser enganosas ou exploratórias, especialmente quando envolvem publicidade, monetização, perfilamento ou a vulnerabilidade própria da idade dessas crianças e adolescentes”, pontua o secretário nacional de Direitos Digitais do MJSP, Victor Oliveira Fernandes, em nota.
O documento também apontou que os aplicativos de Companheiros de IA possuem fragilidades nos mecanismos de verificação de idade. Na maior parte dos sistemas, o cadastro depende unicamente da autodeclaração do usuário, o que é proibido pela legislação brasileira quando o serviço oferece conteúdo inadequado para usuários com menos de 18 anos.
Entre os chatbots analisados no documento estão o Character.AI, que permite criar personagens para conversar; o Replika, que, ao criar o avatar, é possível selecionar o contexto relacional; o Nomi, que permite definir história e preferências; o Candy.ai, que também troca mensagens de voz; e o Kindroid, que realiza chamadas de voz e vídeo.
Também foram investigados o Chai, que autoriza seguir e enviar mensagem para outros usuários; o Paradot, que deixa definir aparência, voz, personalidade e tom da conversa; o Talkie, que permite compartilhar conversas e comentar sobre o personagem com outros usuários na aba de comentários; o CrushOn.AI, que cria o personagem e o cenário da conversa; o EVA AI, que desenvolve memórias compartilhadas e possui aba de compras; o Anima, com conversar por texto, voz, imagens e vídeos; o Swipey, que permite configurar aspectos relacionais; e o SpicyChat.AI, que deixa manter personagens privados.
*Estagiária sob supervisão de Alfredo Mergulhão
‘Companheiros de IA’: Ministério da Justiça encaminha pedido de investigação à ANPD contra chatbots
