Aqui está o artigo reescrito em HTML, sem perder o contexto e sem links externos, exceto para imagens e vídeos do YouTube:
Crítica ao PL 21/2020
por Fábio de Oliveira Ribeiro
Agora vai. Finalmente o Senado resolveu votar o PL que regulamentará a IA no Brasil.
O art. 2º, do PL, define inteligência artificial como “o sistema baseado em processo computacional que, a partir de um conjunto de objetivos definidos por humanos, pode, por meio do processamento de dados e de informações, aprender a perceber e a interpretar o ambiente externo, bem como a interagir com ele, fazendo predições, recomendações, classificações ou decisões”. Destaquei a expressão “a partir de um conjunto de objetivos definidos por humanos”, porque os especialistas já levanta a hipótese de num futuro não muito distante Super IAs criarem novas IAs definindo quais serão seus objetivos. Se isso ocorrer no Brasil, o produto resultante poderá ser considerado automaticamente uma IA fora da Lei, porque ela não contempla “objetivos definidos por máquinas”.
O parágrafo único do referido artigo prescreve que a Lei da IA “não se aplica aos processos de automação exclusivamente orientados por parâmetros predefinidos de programação que não incluam a capacidade do sistema de aprender a perceber e a interpretar o ambiente externo, bem como a interagir com ele, a partir das ações e das informações recebidas”. A esmagadora maioria das IAs (também chamadas de Narrow Artificial Intelligence) tem essas limitações, mas nada impede que IAs que utilizam machine learning utilizem-nas para cumprir tarefas cujos resultados serão então utilizados no processo de aprendizagem.
No caso da Narrow Artificial Intelligence (NAI) ser um componente essencial da Artificial General Intelligence (AGI) ou da Artificial Superintelligence (ASI) me parece que a Lei deve ser aplicada também a ela. Caso contrário, isso abriria uma brecha para quem cria ou utiliza IA se tornar irresponsável alegando que o problema foi criado pela NAI que produziu o resultado posteriormente utilizado pela AGI ou pela ASI. O objetivo humano numa situação como essa não poderia ser cumprido pela IA sem a utilização da NAI. Como faz parte da ASI ou da ASI a NAI não poderia ser tratada como um produto sobre o qual a Lei não incide.
Definir objetivos para o uso de IA no Brasil (art. 3º, do PL) é importante. Isso possibilitará a responsabilização de empresas multinacionais que desenvolveram e utilizam IAs em nosso país mesmo que o centro computacional delas esteja em outro país. Não estamos aqui diante de um caso de extraterritorialidade da Lei brasileira, mas de sujeição à Lei brasileira do produto de uma empresa estrangeira que poderia causar danos ao país e irrupções de violência política como a que ocorreu recentemente em Brasília.
IAs tem um grande potencial militar. Portanto, faz sentido inserir entre os objetivos do uso dessa tecnologia “a defesa nacional, a segurança do Estado e a soberania nacional” (art. 3º, VIII, do PL). Todavia, a grande questão em relação à segurança nacional não é o uso legítimo de uma IA por uma empresa privada ou mesmo o uso subversivo dela para, por exemplo, fomentar a fragmentação territorial do Brasil. Uma vez detectado isso pode levar à aplicação da Lei.
O princípio geral da Lei é a responsabilização do desenvolvedor e do usuário de IAs pelos danos causados. A responsabilidade pode ser objetiva (§3º, do art. 6º, do PL) ou subjetiva (inciso VI, do art. 6º, do PL).
Entretanto, existe um conflito latente entre as normas que tratam da responsabilização e aquela que prescreve o “estímulo à autorregulação, mediante adoção de códigos de conduta e de guias de boas práticas, observados os princípios previstos no art. 5º desta Lei, e as boas práticas globais” (art. 5º, VII, do PL). A autorregulação volta a ser mencionada no art. 8, III, do PL.
Disputas acirradas acerca do que deve prevalecer (responsabilização ou autorregulação) são previsíveis. Os desenvolvedores e utilizadores de IAs certamente tentarão ser irresponsáveis por danos não intencionais que ocorram em decorrência de alucinações. Suponho que essa questão será mais delicada na área médica, em que diagnósticos alucinados recomendados por IAs licenciadas por hospitais (ou desenvolvidas a pedido deles) podem causar danos à saúde dos pacientes e até mortes.
Os objetivos prescritos para a aplicação de IA prescritos no artigo 3º do PL são belíssimos e inócuos:
I – a promoção do desenvolvimento econômico sustentável e inclusivo e do bem-estar da sociedade;
II – o aumento da competitividade e da produtividade brasileira;
III – a inserção competitiva do Brasil nas cadeias globais de valor;
IV – a melhoria na prestação de serviços públicos e na implementação de políticas públicas;
V – a promoção da pesquisa e desenvolvimento com a finalidade de estimular a inovação nos setores produtivos; e
VI – a proteção e a preservação do meio ambiente.
Dificilmente essas regras serão observadas pelos farialimers, ruralistas, agroboys, bolsonaristas, pastores evangélicos, milicianos e suas empresas devotadas ao desmatamento, ao extermínio de índios, ao maltrato de quilombolas, ao garimpo ilegal, a piora da qualidade do serviço público e à transformação do país num inferno neoliberal autoritário. Eles certamente utilizarão IAs para fazer melhor aquilo que já fazem. E não me parece que a definição de objetivos grandiloquentes será capaz de convencê-los a agir de maneira diferente.
Quem conhece o abismo entre o sistema prisional brasileiro e os objetivos estabelecidos para ele na Lei de Execuções Penais só pode rir de algumas expressões utilizadas nesse PL. Aliás, dificilmente o uso intensivo de IAs na administração dos presídios resultará em algum tipo de melhora para os detentos. O mais provável é que as vidas deles se tornem ainda mais dramáticas, porque ninguém mais poderá imaginar que uma falha humana pode eventualmente resultar numa melhora acidental de sua situação prisional.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: www.catarse.me/jornalggn “
