Andrew Newell, Chief Scientific Officer da iProov, afirmou que duas tendências têm avançado nos últimos tempos em ataques digitais: o aumento da qualidade dos deepfakes e a melhoria de efeitos visuais usados nesses tipos de conteúdos sintéticos feitos com inteligência artificial generativa.
Em coletiva realizada pela empresa nesta quarta-feira, 25, o executivo explicou que a qualidade dos deepfakes têm aumentado fortemente nos últimos dois anos e o formato mais usado é o de face swap (troca de rosto, na tradução livre para o português). Explicou que esses conteúdos sintéticos deixaram de ser perceptíveis a olho nu.
Os efeitos visuais que são incorporados para deixar os deepfakes mais realistas ficaram mais fáceis de serem utilizados pelos criminosos em ataques de inserção – o uso do conteúdo sintético com ferramentas para driblar o sistema de câmera no smartphone e injetar o conteúdo falso diretamente em aplicações, como em apps de bancos.
“Se voltarmos cinco anos, lançar esse tipo de ataque (de inserção) dependia de uma expertise alta do atacante. O criminoso precisava entender de deepfakes, de ataques de inserção, escrever códigos para conectar esses dois. Um especialista pode fazer, mas a maioria das pessoas, não”, explicou, ao afirmar que usar técnicas como reconhecer pelos olhos já não funciona mais.
“Porém, nos últimos dois anos, nós vimos a chegada de ferramentas fáceis que combinam esses processos (deepfakes e ataques de inserção). Basicamente, uma pessoa pode baixar uma ferramenta dessas, que são fáceis de achar, e pode rodar esse tipo de ataque em uma hora ou duas”, explicou Newell. “Portanto, nós podemos falar da qualidade dos deepfakes, dos ataques de inserção e a evolução em ambos. Mas a grande mudança foi a chegada de ferramentas que facilitam seus usos. Com isso, nós vimos um grande aumento de ataques”, disse.
‘Não tem bala de prata com GenAI’
Diante deste cenário, o executivo da iProov acredita que são precisas algumas ações em conjunto para combater o deepfake e outras tecnologias de ataque baseadas em IA generativa. Deu como exemplos:
- Acompanhar a gama de soluções de deepfake e suas variações. Atualmente há pelo menos 125 diferentes aplicações de face swap;
- Ter um complexo set de dados para combater o deepfake, como usar vídeo de um rosto para reconhecer a identidade com variações de luz e cor, no lugar de usar uma única foto para fazer a checagem.
Newell acredita ainda que não existe uma bala de prata para combater ataques com IA generativa. Mas reforça que pode-se combater conteúdos sintéticos com as tecnologias existentes e com a equipe certa. Em outras palavras, o especialista crê que a própria IA generativa pode ser usada para combater a IA generativa, desde que existam especialistas para supervisionar suas ações.
“Mas o mais importante é construir um fluxo de trabalho contínuo. Nós vemos que os deepfakes estão evoluindo e ficando mais ofensivos. E eles vão continuar funcionado. A questão aqui é ter algoritmos que parem eles e que esses códigos continuem evoluindo em um ritmo rápido”, completou.
América Latina e deepfakes
Analisando pela ótica de mercados, o executivo da empresa que trabalha com soluções de liveness e prova de vida por meio da tecnologia móvel, o cientista-chefe explicou que o mercado latino-americano é o que tem o maior nível de ataques. Em sua visão, a região é interessante, pois tem o maior nível de adoção de biometria, mas também tem altos números de tentativas de ataques.
Globalmente, Newell explicou que os atacantes não estão limitados a lançar ataques em apenas um país, à medida que o mundo avança para o acesso remoto a mais sistemas.
Paralelamente, o executivo afirma que existe um “mercado de troca muito ativo para ferramentas de ataque”. Em outras palavras, alguém cria uma ferramenta de ataque e demonstra sua eficácia de alguma forma. Ela é então oferecida para venda online, é adquirida por outra pessoa e se torna uma maneira para fazer ataques de um território para outro.
“Acho que essas duas forças (ataques globalizados e mercado de ferramentas) fazem com que as ações sejam muito mais globais. Mas a diferença é que alguns são focados em ganhos imediatos e outros em ganhos em longo prazo”, concluiu.
Imagem principal: A ilustração no alto foi produzida por Mobile Time com IA
