O novo relatório preliminar para regular a inteligência artificial no Brasil introduz pela primeira vez o conceito de IA generativa, que ganhou força no último ano e, na época em que o Projeto de Lei de Rodrigo Pacheco foi apresentado ainda não estava em evidência. Entregue na semana passada pelo relator e senador Eduardo Gomes (PL-SE) na Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), o texto reúne propostas de uma série de PLs que circulam pelo Congresso sobre o tema e ainda inclui novidades como maior proteção de direitos e criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial, (SIA), que foi esmiuçado e propõe um ecossistema regulatório coordenado por uma autoridade a ser designada pelo Poder Executivo.
Mobile Time ouviu especialistas para entender melhor o novo texto proposto, seus pontos fortes e fracos. A primeira constatação é que o texto é fortemente inspirado no modelo europeu, “logo, mais assertivo em princípios e regulação, com modulação de regulação mais pesada de atividades de risco, especialmente atividades de profiling em que uma máquina/robô seleciona características de uma base de dados para separar (e julgar) humanos”, explica Rafael Pellon, especialista em direito digital, consultor do MEF e sócio do escritório Pellon de Lima Advogados.
“Esta é a melhor proposta que a gente alcançou até agora”, comemora Patricia Peck, advogada especialista em direito digital e CEO do Peck Advogados.
Tainá Junquilho. Foto: divulgação
Tainá Aguiar Junquilho, advogada, coordenadora do LIA IDP, conta que o novo texto possui fortes influências da regulação da União Europeia – o que é um consenso entre os especialistas – porém, existem alguns pontos inspirados no modelo aplicado nos Estados Unidos.
Um deles é a criação da SIA, cujo papel é ser uma autoridade articuladora com o ecossistema já regulado, diferente daquele visto na União Europeia. “A Ordem Executiva veio com uma abordagem integrativa, demandando de cada setor que levante e realize relatórios de riscos”, diz Junquilho.
Outro ponto é com relação à abordagem de riscos. “A regulação da União Europeia traz riscos por hipóteses, que era como estava no substitutivo anterior (do texto brasileiro). Agora o artigo 15 traz critérios para classificação de sistemas de alto risco e não mais hipóteses”, diz a coordenadora do LIA IDP.
IA generativa não é a única novidade
O novo relatório preliminar para regular a IA não é somente um compilado dos diversos projetos de lei que circulam pelo Congresso. Ele também apresenta alguns pontos inéditos ou versões mais aprimoradas das propostas anteriores.
Entre as novidades estão:
– A introdução da IA generativa, de modo a contemplar esta tecnologia recente, mas também tentando abarcar as demais que surgirão;
– Uma maior proteção de direitos: entre eles, direitos culturais e bens artísticos e históricos; de propriedade intelectual; além da proteção de direitos fundamentais individuais, sociais e econômicos.
– Armas autônomas: são aquelas que, ao serem ativadas, podem selecionar e atacar alvos sem intervenção humana adicional. Neste caso, é vedado o seu uso “sem o controle humano significativo, cujos efeitos sejam imprevisíveis ou indiscriminados ou cujo uso implique em violações do Direito Internacional Humanitário”, diz o texto. Vale dizer que o PL não proíbe seu uso por completo, mas deve-se estabelecer “limites espaciais e temporais para sua utilização”.
– Criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA): “ecossistema regulatório coordenado pela autoridade competente que busca a cooperação e a harmonização com as demais agências e órgãos reguladores para a plena implementação e fiscalização”, diz o texto. Sua proposta é “ser um órgão articulador para promover a integração e a interoperabilidade entre o que já é regulado por setor e o que não é”, resume Junquilho.
Relatório preliminar: pontos fortes
- Responsabilidade Civil:
Rafael Pellon. Foto: divulgação
Pellon aponta o formato como o texto endereça questões de responsabilidade civil e preserva as questões de consumo para que sejam julgadas nos termos do Código de Defesa do Consumidor como um ponto positivo e inovador.
A novidade aqui seria que as responsabilidades serão apuradas a partir de todas as partes envolvidas. “Não digo que a culpa é do robô ou de quem opera o robô ou de quem desenvolveu determinado conteúdo com aquele prompt ou de quem divulgou aquilo ou de quem comercializou. O que se diz é que as responsabilidades serão apuradas na medida da responsabilidade de cada um”, explica o advogado. “Até aí, nada de novo a não ser reconhecer o que o Brasil faz no seu dia a dia”, completa.
Fazendo isso, o País acaba indo na contramão das legislações dos Estados Unidos, da Europa e da Ásia que, em alguns casos, materializa a responsabilidade do detentor da plataforma e o dever de cuidado. “Ou seja, o Brasil foi saudável e cauteloso em não se admitir de imediato uma responsabilidade primordial aos detentores de plataformas e respeitando aquilo que seria o nosso habitual modelo de responsabilização do País”, acredita.
- Direitos autorais para a IA
O novo texto que propõe que uma regulação para a inteligência artificial também aborde a questão de direitos autorais, ou quais são os direitos dos detentores das bases de dados em relação a esse conteúdo que serve para treinar os robôs de IA. Não é um debate só no Brasil, mas em todo o mundo. E algo que as legislações vigentes não se atreveram a discutir. “O grande dilema que a gente tem hoje é: atualizamos as leis de direitos autorais para prever remuneração – e é isso que o PL abre possibilidade no formato do momento, de obrigar os detentores das plataformas de IA a negociarem com os titulares dos conteúdos que estão nessas bases de dados – ou eles criam seus próprios conteúdos para o treinamento dessas bases”, resume Pellon.
De acordo com as leis autorais atuais, o uso, o estudo e a avaliação de grandes bases de dados não pressupõem pagamentos de direitos para os seus detentores originais que estão nessas bases.
“O Brasil é pioneiro nesta questão já prevendo que, sim, haveria essa necessidade de negociação. Outros territórios, outras legislações não chegaram a materializar isso em projetos de lei. O País toma a dianteira nessa questão, colocando o pêndulo mais para os detentores de direitos autorais do que para os titulares e detentores das plataformas e dos robôs”, resume Pellon
- Acreditação de Certificadoras
Outro ponto positivo é a proposta de acreditação de certificadoras. O texto diz:
“Associações representativas de agentes de sistemas de inteligência artificial, bem como de usuários técnicos e especialistas em governança de sistemas de inteligência artificial, poderão ser acreditadas pela autoridade competente para a certificação e concessão de selos com o objetivo de incentivar e assegurar melhores práticas de governança ao longo de todo o ciclo de vida de sistemas de inteligência artificial.”
Patricia Peck. Foto: divulgação
O texto sugere que essas entidades desempenharão um papel na supervisão e regulamentação da IA. A proposta é que essas entidades acreditadoras avaliem a conformidade de sistemas de IA com normas e diretrizes estabelecidas, garantindo sua qualidade e segurança. Para Peck, a ideia é introduzir requisitos técnicos que sejam padronizados de mercado, considerando dispositivos e aplicações, o que será importante ter uma certificação, um selo para poder fazer adequações.
- Proteção de segredo empresarial e comercial
Peck destaca ainda a intenção de inclusão de princípios para garantir a proteção do segredo empresarial e comercial “algo que é tão importante para o desenvolvimento da inovação”, comenta.
“Houve também uma pequena alteração da parte que fala de agentes de IA com a exclusão do trecho final que tratava de justificativa razoável. Ainda há dúvidas sobre como isso será operacionalizado para criar um agente de IA, mas há uma intenção por trás disso que não se pode ter uma inteligência artificial sem alguém responsável por ela”, comenta.
A advogada especialista ressalta ainda um aspecto que para ela foi essencial: “Uma das coisas mais importantes foi ter incluído nos princípios da legislação que toda IA precisa cumprir as leis vigentes. Parece óbvio, mas não é”, sublinha.
- Classificação de riscos
O mercado tinha uma certa preocupação quanto à classificação de riscos dos tipos de inteligência artificial. No entanto, alguns artigos foram excluídos e atribuiu-se a regulação da classificação de riscos ao Sistema Nacional de Regulação e Governança da Inteligência Artificial. Peck celebra a mudança pois indica que será um modelo dinâmico para que se façam atualizações na legislação quando necessárias.
Outro ponto importante neste caso foi a exclusão de classificação de alto risco e a substituição pela previsão de que o assunto seja regulado pelo SIA. “Como estava redigida, a medida poderia até afetar outras legislações, como a do cadastro positivo”, conta. “Essa foi uma abordagem muito inteligente para tratar os desafios que a matéria traz”, opina.
O que falta
Peck destaca como um ponto que ainda não está claro na nova versão no texto a ausência de uma proposta para IAs desenvolvidas a mais de duas mãos. Peck diz que é preciso definir quem ficaria como agente neste caso porque as IAs são criadas em parcerias em muitos casos.
Relatório preliminar: ponto negativo
Segundo Peck, outro ponto negativo seria não haver uma previsão específica de adequação para o mercado estar em conformidade com a lei. “Esperava pelo menos uns cinco anos para a indústria adotar todos os aspectos”, diz. “É uma legislação de alto impacto e será necessário alcançar soluções que já estão sendo utilizadas pelo público e não somente aquelas que serão lançadas”, explica.
Expectativa
Peck alerta para que a implementação da lei não se dará nos mesmos moldes que a Lei Geral de Proteção Dados (LGPD) e sua Autoridade, que aconteceu depois de a lei ter entrado em vigor. A advogada avalia que é importante que se crie uma autoridade em IA responsável pela orquestração com as demais agências reguladoras, mas que não seja criada do zero, o que seria custoso e demorado. “Se a lei entra em vigor sem a existência da autoridade, seria extremamente maléfico para o mercado, como nós já vimos acontecer com a LGPD”, diz.
