A democracia e o direito que temos hoje foram construídos com base no Iluminismo e não estão preparados para lidar com a era da inteligência artificial, na qual nosso dia a dia passa a ser intensamente tecnorregulado e até eleições podem ser hackeadas. O alerta parte do advogado e especialista em direito digital Eduardo Magrani, em entrevista para Mobile Time. Ele aponta também para uma outra questão em paralelo: a definição de direitos dos robôs. “Para as novas gerações, a fronteira entre online e offline acabou. A nova fronteira é entre orgânico e inorgânico”, comenta.
Magrani é autor de uma trilogia de livros sobre a sociedade digital: “Democracia Conectada”, “Internet das Coisas” e “Entre dados e robôs”. É a primeira trilogia sobre direito digital no Brasil, que faz um balanço sobre os últimos 10 anos de avanço tecnológico, tratando de democracia, proteção de dados e inteligência artificial. Os três títulos estão disponíveis para leitura gratuitamente na Internet, sob licença do Creative Commons.
Mobile Time – Em 2014 você lançou o livro “Democracia conectada”, que tratava de como a tecnologia poderia contribuir para aprimorar a participação popular na politica. Como avalia essa relação entre democracia e tecnologia hoje?
“Estamos perdendo as rédeas”, alerta Eduardo Magrani
Eduardo Magrani – Naquele livro analisei como se valer de novas tecnologias para ter uma participação mais direta, pois a democracia representativa estava cheque. A Internet seria um respiro de esperança. Tivemos o Marco Civil da Internet, com a primeira consulta pública online. Depois o aplicativo Mudamos, do ITS, para iniciativas populares de projetos de lei. Tudo isso gerou grande entusiasmo para resolver déficits democráticos. O problema é que em menos em menos de 20 anos passamos de uma Internet romântica para uma Internet distópica. Até o Manuel Castells, que era um otimista, agora está pessimista. Ele disse em recente passagem pelo Brasil que vivemos ditaduras sutis por conta da Internet. E hoje temos democracias hackeáveis. Isso é muito novo. As emoções (dos eleitores) são hackeáveis.
Como isso acontece?
Hoje somos tecnorregulados. Temos a nossa vida governada por algoritmos. Cada like, cada compartilhamento é usado para mapear o perfil político-ideológico e pode ser usado para manipular as emoções. E politica não é só racionalidade, mas emoção. Não somos mais donos das nossas emoções. A inteligência computacional trata um volume massivo de dados e é difícil ter a dimensão disso.
O que precisa ser feito?
Defendo que o direito precisa mudar. O direito precisa servir como uma metatecnologia, para regular como a tecnologia vai nos regular. Afinal, já somos e continuaremos sendo tecnorregulados. Precisamos de leis que definam como uma plataforma deve ser desenhada, inclusive com princípios éticos. Não pode ser permitido design discriminatório ou não transparente. É preciso ter o direito à explicação etc.
Com robôs começando a interagir conosco, é importante absorvermos novas frentes éticas no direito e na computação, com uma solução interdisciplinar que enxergue a regulação das arquiteturas e tenha eventualmente até um olhar pós-humanista, garantindo direitos e deveres para novas entidades inclusive não orgânicas, sintéticas, não sencientes. Nosso direito é tão atrasado que animal é considerado coisa. No futuro, vai deixar de fazer diferença sermos orgânicos ou não orgânicos, mas sim quais informações cada entidade trata e com que autonomia, seja humano, animal ou robô. Aí vamos começar a ter empatia com os robôs. Para as novas gerações, a fronteira entre online e offline acabou. A nova fronteira é entre orgânico e inorgânico.
Ao longo dos anos, depois da publicação de “Democracia conectada”, você ficou mais pessimista em relação à tecnologia?
Eu não diria que tenha ficado mais pessimista. Talvez, mais realista. A trilogia faz um balanço do que aconteceu nos últimos dez anos de impacto tecnológico na sociedade e na democracia. Traz aspectos positivos e outros negativos que não eram mapeados, como a importância do uso dos nossos dados pessoais.
O livro “Internet das coisas” é do inicio de 2018. Fala da hiperconectividade cada vez mais invisível, ubíqua, permeando nossas vidas como um todo. Isso traz uma promessa econômica muito grande, o que leva empresas e estados a investirem em IoT. Mas traz problemas de cybersegurança e privacidade.
E agora, o “Entre dados e robôs” chacoalha bases jurídicas. Nem o direito nem os processos democráticos foram pensados para uma sociedade de coisas inteligentes. Eles foram pensados para uma sociedade de seres humanos mediamente inteligentes, não para coisas inteligentes. Nesse livro trago uma carga nova de lentes da filosofia e da antropologia para mostrar que nossas lentes jurídicas não servem mais para a era da inteligência artificial, nessa sociedade em que seres humanos interagem com coisas inteligentes inclusive em processos democráticos e empresariais. Estamos perdendo as rédeas. Nosso direito é de matriz iluminista, coloca o ser humano acima das outras espécies, traz um tratamento romântico dele.
Qual será o tema da sua próxima pesquisa?
Vou em setembro para a Alemanha onde serei senior fellow do programa de cooperação internacional do think tank político Konrad Adenauer. Vou trabalhar em uma pesquisa sobre fake news e inteligência artificial em eleições. Aliás, em vez de “fake news”, preferimos usar o termo “desinformação”. Vamos analisar o caso brasileiro e o que aconteceu com o Trump. A partir dos casos brasileiro e norte-americano queremos saber como desinformação e bots conseguiram moldar opiniões políticas especialmente em indecisos e a possibilidade de regulação desse cenário, assim como a aplicação de medidas práticas para que tanto políticos quanto cidadãos possam se blindar contra isso.
