Muitas pessoas, em especial aquelas em um estágio pouco avançado na jornada de inteligência artificial, enxergam os problemas e riscos da IA como uma questão técnica a ser resolvida com o ganho de escala. Como se a IA estivesse na versão Playstation 2 e os gráficos não são tão bons, mas quando chegar a versão PS5, ou GPT-6, tudo estará bem. Mas não acontece dessa forma, como explicou em palestra na USP David Levi, Industry Partnerships Program Manager no Institute for Human-Centered Artificial Intelligence (HAI), da Universidade de Stanford, nos EUA, nesta terça-feira, 24. A analogia mostra que, ao contrário do console de videogame, as falhas e alucinações são inerentes à IA, e esta deve ser centrada no humano, o que, em sua essência, quer dizer que deve ter uma abordagem estruturada e baseada em valores, que utiliza a tecnologia como suporte consciente para decisões humanas, garantindo a autonomia e o controle das pessoas sobre os sistemas.
“Infelizmente, o caso da IA não é semelhante ao do Playstation. Uma pesquisa recente mostra que as alucinações e outras coisas que surgem da IA são inerentes ao sistema”, afirmou o especialista.
Levi explicou que a IA centrada no humano deve aumentar a capacidade humana no lugar de substituí-la e não se deve pensar na criação de uma inteligência artificial perfeita e que seja totalmente confiável. Isso não é possível. “Na verdade, é um chamado para fazer o que precisamos fazer para manter a IA honesta”, resumiu.
Para isso, é preciso ter paciência com a tecnologia, educá-la, criar estruturas de salvaguardas e governança e questionar valores.
“O ponto na IA centrada no humano não é encontrar o resultado mais humano, se é que isso existe. O ponto é encontrar um resultado que a gente escolha a partir de uma tomada de decisão bem-informada”, continua.
Em um modelo centrado no humano, a IA atua fornecendo informações e ajudando a resolver problemas, mas a responsabilidade final de uma ação continua sendo humana. Isso exige a implementação de salvaguardas e de uma infraestrutura que permita aos usuários desafiar e questionar a IA sempre que não concordarem com suas sugestões.
Outro ponto de atenção apresentado pelo especialista é que, como a IA é inspirada na inteligência humana, ela invariavelmente captura nossos próprios vieses e falhas, como o viés de adulação – quando o sistema concorda com o humano mesmo quando o humano está errado, apenas para ser motivador. Uma mentalidade centrada no humano compreende essas limitações e encoraja o uso da IA como um “copiloto” ou “companheiro”, tolerando suas imperfeições de maneira semelhante ao que faríamos com outras pessoas.
Os questionamentos devem ser constantes.
Levi citou uma pesquisa de Stanford que mostra ser possível reduzir em 97% as alucinações da IA. A pesquisadora, para transformar a inteligência artificial, precisou checar fatos e treinar a IA para dizer que não sabe.
Gêmeos digitais: a perspectiva da IA
Levi também apresentou um conceito sobre gêmeos digitais um pouco diferente daquele já conhecido – que simula um chão de fábrica, por exemplo, para experimentar virtualmente mudanças tecnológicas para depois implementar no mundo real.
São formas diferentes de considerar os gêmeos digitais. A primeira delas é a ideia de que um agente é uma simulação de uma pessoa. O seu “eu virtual” responde como você responderia. “Seria algo com que você estaria confortável?”, questiona o especialista. “Saber que tem outra versão sua no espaço corporativo, por exemplo? É algo que deveríamos aceitar? Pessoas que já morreram voltam a ter uma versão virtual? Estamos começando a entrar nesse ponto em que cada vez mais se usam agentes, em especial no mundo econômico”, disse.
Outro tipo de gêmeo digital é o aspiracional. “Ele conhece você, sabe quem você é, mas é mais inteligente, trabalha mais e tem dois metros de altura”, brincou Levi, comparando os atores Arnold Schwarzenegger com Danny DeVito, no filme Irmãos Gêmeos. “É algo que a gente pode confiar que estará no sistema e nos ajudará. Como pesquisas interessantes que estão acontecendo em Stanford com firmas de advocacia”, explicou.
Outro exemplo dado são os agentes de compras, mas Levi alerta que, neste caso, é preciso ter certeza de que funciona e que o agente não vai comprar algo que a pessoa não pediu. “Se esse é o futuro, precisaremos de normas muito restritivas não só para ter certeza de que funciona, mas que ele será leal e não vai comprar algo que não quero. Há muitos riscos nesses agentes. E, no momento, é fácil enganar agentes e eles podem dar nossos dados privados facilmente. Vimos em Stanford que esses agentes de compras entre jovens têm um impacto mental muito alto. Ninguém com menos de 18 anos deveria usar um agente como esses. São aspectos que deveríamos considerar e as IAs não necessariamente se dão bem entre si. Quando tentamos fazer o ChatGPT falar com o Claude, o trabalho passa a ter ¼ do sucesso”, disse.
