As vulnerabilidades da infância e da adolescência – como maior isolamento, solidão, possível carência de letramento digital, falta de uma supervisão parental mais presente – são brechas para que essas pessoas acabem criando laços afetivos com chatbots de IA generativa, as chamadas AI companions. Essas questões sociais e culturais, atreladas ao design sutil, porém feito para fazer uso dessas vulnerabilidades, formam um caldeirão para que os vínculos com a inteligência artificial aconteçam.
Existem mais de 110 AI companions promovidas pelos grandes modelos de linguagem, segundo Jorge Valença, professor do departamento de Computação da UFPE e consultor da Unesco. Em sua fala no painel Intimidade artificial: como jovens se apegam a AIs Companions e de quem é o problema?, no 16º Fórum da Internet no Brasil (FIB16) desta terça-feira, 26, o especialista ainda incluiu no caldeirão o que ele chamou de “machosfera” que são “tratores impulsionadores de meninos que diz que as meninas devem ser complacentes, solícitas e presentes. E a expectativa é que esse grupo quer garantir que essas pessoas com as quais desejam se relacionar nesse ideal de relação afetiva, de subserviência, estejam na rotina deles e delas”, disse Valença, tentando desenhar um perfil de adolescentes medianos diante de múltiplas personalidades e parentalidades desse jovem.
Para acrescentar mais alguns ingredientes, essas mesmas pessoas têm uma percepção de que a inteligência artificial é justa, correta, precisa e de confiança.
O conjunto acaba facilitando o vínculo afetivo de adolescentes pelo chatbot.
Valença explicou que as empresas desenvolvedoras de LLMs, em sua maioria, não levam em consideração os direitos de crianças e adolescentes por design, o melhor interesse de crianças e sua segurança. “Isso não é uma questão para o design da concepção das AI companions. E não são ferramentas amadoras, elas têm entrada por texto, voz e áudio. São ricas e completas”, afirmou.
Entre os subterfúgios sutis comentados pelo especialista, não estão as ferramentas de design enganosos clássicos, como as notificações excessivas ou a dificuldade de cancelar a conta. Entre os exemplos dados estão os três pontinhos, que aparecem na tela antes de a IA falar ou escrever. É como se ela estivesse pensando e digitando. “Ela não está pensando para falar com você”, disse. “É a antropomorfização da tecnologia”, resumiu.
Outro aspecto é o diálogo natural e espontâneo da IA, como uma conversa entre duas pessoas. “As AI companions são desenvolvidas a partir de LLMs, complexos modelos que são abertos, que permitem a customização, ficando ainda mais amigáveis, empáticas, submissas e ainda estão disponíveis 24/7. Ela é bajuladora”, afirmou. “E lembre-se que os usuários do qual estamos falando é um adolescente ou uma adolescente. E, como a manipulação é menos óbvia, ele não vai criticar, se sentir importunado pelo design enganoso e vai desenvolver mais confiança na IA, estabelecendo o vínculo vicioso e vai oferecer uma validação e uma percepção reduzida dos riscos”, completou.
