|Mobile Time Latinoamérica| O governo do Peru publicou o regulamento que estabelece o marco para o desenvolvimento, implementação e uso de sistemas baseados em inteligência artificial (IA), um documento que busca equilibrar a inovação tecnológica com a proteção dos direitos fundamentais.
A norma, impulsionada pela Secretaria de Governo e Transformação Digital (SGTD), propõe um ecossistema regulado que inclui desde a criação de ambientes de teste controlados até a classificação de riscos, a transparência algorítmica e princípios éticos no uso da IA.
O regulamento tem como objetivo fomentar o desenvolvimento da IA em todos os setores, promovendo sua aplicação com critérios de transparência. Entre os temas destacados está a obrigação de prevenir vieses algorítmicos, proteger os dados pessoais e garantir a supervisão humana nos sistemas automatizados.
Apoio a empreendedores
Um dos pilares da regulação é o ambiente de experimentação e teste controlado, conhecido como sandbox de IA, onde empresas, startups e entidades públicas poderão desenvolver e validar tecnologias em um espaço seguro e flexível. Esse mecanismo permitirá avaliar os impactos dos sistemas antes de serem implementados em larga escala, com prioridade em áreas estratégicas como saúde, educação, segurança e defesa nacional.
Além disso, a norma promove a participação de PMEs e empreendimentos inovadores, que contarão com apoio em financiamento, visibilidade e mentoria por meio de feiras.
Computação em nuvem no Peru
A SGTD também poderá habilitar o uso de recursos de nuvem pública para que pesquisadores, estudantes e entidades estatais acessem infraestrutura de alto desempenho destinada a projetos de IA com impacto social.
Do ponto de vista técnico, a regulação promove a adoção de padrões nacionais e internacionais, em coordenação com o INACAL, para garantir boas práticas no manuseio de dados, algoritmos e processos associados à IA.
A norma também incentiva o desenvolvimento de comunidades de código aberto em IA, estimulando que desenvolvedores publiquem voluntariamente projetos na Plataforma Nacional de Software Colaborativo. Além disso, estão previstos reconhecimentos para quem liberar modelos, algoritmos ou dados de forma ética e transparente.
Classificação de riscos e usos proibidos
Um dos pontos mais sensíveis do regulamento é a classificação de riscos. A norma distingue três níveis:
Uso indevido (proibido): inclui sistemas que manipulem decisões humanas de forma enganosa, que gerem capacidades letais autônomas, vigilância massiva sem base legal ou identificação biométrica em tempo real em espaços públicos (exceto em casos de crimes graves). Também é proibida a previsão de crimes com base em perfis pessoais.
Risco alto: sistemas que afetem direitos fundamentais em setores como saúde, educação, trabalho, programas sociais, segurança e serviços críticos como energia ou setor bancário. Esses poderão ser utilizados, mas sob condições estritas de supervisão e transparência.
Risco aceitável: todos os demais usos, desde que cumpram a legislação e o regulamento.
Transparência e ética
Para os sistemas de risco alto, são estabelecidos mecanismos de transparência algorítmica que obrigam a informar os usuários sobre o funcionamento e propósito da IA, assim como garantir explicações claras quando as decisões impactarem direitos humanos.
Paralelamente, a regulação reforça o cumprimento da Lei de Proteção de Dados Pessoais e sublinha a necessidade de uma ética aplicada à IA, baseada em equipes diversas, respeito aos direitos humanos, mitigação de vieses e consideração do impacto social e ambiental.
Um aspecto fundamental da norma é a proteção de grupos vulneráveis. Estabelece-se que todos os serviços digitais suportados em IA devem garantir inclusão, acessibilidade e segurança para mulheres, crianças, idosos, pessoas com deficiência e comunidades em situação de vulnerabilidade.
Governança da IA
Também são definidas as entidades responsáveis pela governança da IA. A Presidência do Conselho de Ministros (PCM), por meio da Secretaria de Governo e Transformação Digital (SGTD), será a autoridade técnico-normativa encarregada de dirigir, avaliar e supervisionar seu desenvolvimento e implementação. Reconhece-se ainda o papel de atores privados, da academia e da sociedade civil como aliados nesse processo.
O regulamento incorpora uma lista de instrumentos estratégicos, como a Estratégia Nacional de Inteligência Artificial (ENIA), o Centro Nacional de Inovação Digital e Inteligência Artificial (CNIDIA) e o Centro Nacional de Dados, que funcionarão como pilares para o desenho, desenvolvimento e treinamento de sistemas baseados em IA.
Com essa regulação, o Peru busca se posicionar como referência na América Latina no desenvolvimento responsável da IA, promovendo um equilíbrio entre inovação tecnológica e confiança cidadã. A SGTD será a entidade encarregada de coordenar com ministérios, órgãos reguladores, academia e setor privado a implementação desta norma.
A ilustração no alto foi produzida por Mobile Time com IA
