O plenário do Senado aprovou, na terça-feira (10/12), a proposta de regulamentação da inteligência artificial (IA) no país, contida no Projeto de Lei (PL 2338/2023). O projeto, que define regras para o desenvolvimento e o uso de sistemas de IA, segue para análise da Câmara dos Deputados.
O texto é um substitutivo apresentado pelo senador Eduardo Gomes (PL-TO), relator do projeto, e aprovado na última quinta-feira (5/12) pela comissão mista criada para tratar do tema.
O texto inicial foi apresentado pelo senador Rodrigo Pacheco (PSD-MG), e engloba dispositivos sugeridos em mais sete propostas, inclusive o PL 21/2020, já aprovado pela Câmara dos Deputados, e em dezenas de emendas de diversos senadores.
O senador Rogério Carvalho (PT-SE) elogiou o consenso construído em torno da proposta e afirmou que, pela complexidade do tema, o Senado entrega um projeto de regulamentação com bases consistentes.
O senador Humberto Costa (PT-PE) classificou a aprovação da proposta como um avanço significativo, já que o texto está baseado em questões fundamentais, como o respeito aos direitos individuais, o combate a qualquer tipo de discriminação e a busca por um tratamento igual em relação as pessoas.
O projeto divide os sistemas de IA em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. E a proposta veda o desenvolvimento de aplicações de IA que tenham “risco excessivo”.
Os cidadãos terão assegurados os direitos à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
O projeto proíbe o desenvolvimento e o uso de sistemas com determinadas características ou finalidades, por considerar que representam risco excessivo. Entre eles, estão os chamados sistemas de armas autônomas (SAA), isto é, que podem selecionar e atacar alvos sem intervenção humana.
Também ficarão proibidos o uso de técnicas subliminares e a exploração de vulnerabilidades de pessoas ou grupos para induzir comportamentos danosos à saúde e à segurança.
O uso de câmeras para identificar pessoas em tempo real em espaços públicos só será permitido para busca de vítimas de crimes ou pessoas desaparecidas, para recapturar fugitivos, cumprir mandados de prisão ou de medidas restritivas, investigar e reprimir crimes em flagrante nos casos de delitos cuja pena de prisão seja superior a dois anos e instruir inquérito ou processo criminal com autorização do juiz, quando a prova não puder ser feita por outros meios.
Quando um sistema de IA for classificado como sendo de alto risco, deverá ser realizada a avaliação de impacto algorítmico por profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos.
A avaliação de impacto algorítmico verificará os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema, a probabilidade e a gravidade de eventuais consequências adversas e os esforços necessários para mitigá-las, as medidas de transparência e a lógica do sistema.
