O plenário do Senado aprovou, na terça-feira (10), a proposta de regulamentação da inteligência artificial (IA) no país, contida no Projeto de Lei (PL 2338/2023). O projeto, que contém uma série de regras para o desenvolvimento e o uso de sistemas de IA, segue para análise da Câmara dos Deputados.
O texto é um substitutivo apresentado pelo senador Eduardo Gomes (PL-TO), relator do projeto, e aprovado na última quinta-feira (5/12) pela comissão mista criada para tratar do tema.
O texto inicial foi apresentado pelo senador Rodrigo Pacheco (PSD-MG), e engloba dispositivos sugeridos em mais sete propostas, inclusive o PL 21/2020, já aprovado pela Câmara dos Deputados, e em dezenas de emendas de diversos senadores.
O senador Rogério Carvalho (PT-SE) elogiou o consenso construído em torno da proposta e afirmou que, pela complexidade do tema, o Senado entrega um projeto de regulamentação com bases consistentes.
O senador Humberto Costa (PT-PE) classificou a aprovação da proposta como um avanço significativo, já que o texto está baseado em questões fundamentais, como o respeito aos direitos individuais, o combate a qualquer tipo de discriminação e a busca por um tratamento igual em relação as pessoas.
O senador Teresa Leitão (PT-PE) afirmou que a “regulação dessa tecnologia é fundamental, dada a vasta capacidade de impacto que pode ter sobre os mais diversos setores da sociedade”.
O projeto divide os sistemas de IA em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. E a proposta veda o desenvolvimento de aplicações de IA que tenham “risco excessivo”.
Os cidadãos terão assegurados os direitos à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
Direitos autorais
O texto estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de mineração de textos para o desenvolvimento do sistema de IA por instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais.
Risco excessivo
O projeto proíbe o desenvolvimento e o uso de sistemas com determinadas características ou finalidades, por considerar que representam risco excessivo. Entre eles, estão os chamados sistemas de armas autônomas (SAA), isto é, que podem selecionar e atacar alvos sem intervenção humana.
Avaliação de impacto
Quando um sistema de IA for classificado como sendo de alto risco, deverá ser realizada a avaliação de impacto algorítmico por profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos.
A avaliação de impacto algorítmico verificará os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema, a probabilidade e a gravidade de eventuais consequências adversas e os esforços necessários para mitigá-las, as medidas de transparência e a lógica do sistema.
As conclusões das avaliações deverão ser públicas e disponibilizadas em banco de dados mantido pela autoridade competente. Regulamento determinará a periodicidade da revisão dessa avaliação. Caso, após a introdução do sistema no mercado, os agentes descubram novos riscos aos direitos dos indivíduos, devem comunicá-lo às autoridades competentes e às pessoas afetadas.
