A ética depois do algoritmo: Poder, soberania e democracia na era da inteligência artificial
por Reynaldo Aragon
Na América Latina, o debate sobre IA já não pode ser separado de democracia, dependência tecnológica e soberania cognitiva. Discutir ética é discutir quem controla as infraestruturas e as condições pelas quais uma sociedade conhece, decide e age.
A ética saiu do laboratório
Durante muito tempo, discutir ética em inteligência artificial significou perguntar se uma máquina poderia discriminar, errar, manipular ou tomar decisões opacas. Essas perguntas continuam indispensáveis, mas já não bastam. A inteligência artificial deixou de ocupar um espaço restrito a laboratórios, empresas de tecnologia e centros de pesquisa. Ela passou a participar da organização concreta da vida social, atravessando o trabalho, a educação, a comunicação, os mercados, a administração pública, a segurança, a guerra, as eleições e a própria formação cotidiana da experiência.
Essa mudança altera a natureza do problema ético. Quando sistemas algorítmicos selecionam informações, hierarquizam conteúdos, antecipam comportamentos, recomendam escolhas e passam a integrar processos de decisão em escala social, a questão deixa de ser apenas o que uma máquina pode fazer. Torna-se necessário perguntar que relações de poder, propriedade e dependência são incorporadas às estruturas que tornam essa máquina possível e quais efeitos essas relações produzem sobre a capacidade de indivíduos e sociedades compreenderem, contestarem e governarem as mediações de que dependem.
É nesse ponto que encontros como o LAAI-Ethics ganham importância. Não porque ofereçam respostas definitivas para um problema que ainda está em formação, mas porque ajudam a deslocar o debate para onde ele precisa estar. Ética em inteligência artificial já não pode ser pensada apenas como um conjunto de princípios aplicados ao comportamento de sistemas técnicos. Ela precisa alcançar trabalho, infraestrutura, território, conhecimento, soberania, democracia e as condições materiais e cognitivas da própria autonomia.
O desafio, portanto, não é apenas construir máquinas mais responsáveis. É compreender que tipo de sociedade está sendo construído ao redor delas e quem dispõe de poder suficiente para decidir seus limites, seus objetivos e o lugar que deverão ocupar na vida coletiva.
Quando o algoritmo organiza o possível
O poder dos sistemas algorítmicos não começa quando uma máquina toma uma decisão em nosso lugar. Começa antes, quando participa da organização do ambiente no qual a decisão será formada. Plataformas selecionam o que aparece, ordenam relevâncias, sugerem caminhos, antecipam preferências e reduzem continuamente a distância entre desejo e resposta. O resultado não é a supressão da vontade humana, mas uma mudança nas condições em que ela opera.
É nesse território que a inteligência artificial contemporânea ultrapassa a mediação tradicional e se aproxima de uma metaintermediação. O sistema já não funciona apenas entre o indivíduo e uma informação, um serviço ou outra pessoa. Ele passa a interpretar o contexto, estimar probabilidades e organizar previamente aquilo que será apresentado como relevante, conveniente ou provável. O poder não está apenas na resposta oferecida, mas na arquitetura anterior que ajuda a definir quais perguntas chegam a ser formuladas, quais alternativas ganham visibilidade e quais permanecem fora do campo imediato da escolha.
A busca pela fricção zero aprofunda esse processo. Eliminar obstáculos pode significar eficiência, acessibilidade e ganho real de tempo. O problema surge quando dúvida, comparação, espera e contraditório passam a ser tratados indistintamente como falhas de experiência a serem removidas. Algumas fricções são inúteis; outras preservam justamente o intervalo no qual se verifica uma informação, se reconsidera um impulso ou se contesta uma recomendação. Uma sociedade sem qualquer fricção pode tornar-se também uma sociedade com menos espaços para a elaboração consciente da decisão.
É nesse sentido que novas formas de alienação precisam ser pensadas. Não apenas a separação entre trabalhador e produto ou entre sujeito e os meios que organiza, mas a exteriorização progressiva de capacidades ligadas à própria formação do julgamento e, posteriormente, à transformação da intenção em ação. A inteligência artificial pode ampliar extraordinariamente a potência humana. Mas essa ampliação deixa de ser emancipadora quando a capacidade delegada se torna indispensável, opaca e difícil de retomar.
Por isso, a questão democrática não é saber se os algoritmos substituíram a liberdade. Não substituíram. A questão mais difícil é saber como preservar autonomia quando estruturas privadas e automatizadas passam a participar da distribuição cotidiana de visibilidade, relevância, facilidade e possibilidade. Antes de disputar uma decisão, talvez seja necessário compreender quem organiza o mundo no qual ela se tornou provável.
A inteligência tem corpo
A inteligência artificial costuma chegar ao público como se fosse imaterial. Uma interface limpa, uma resposta instantânea, uma imagem gerada em segundos. Mas por trás dessa aparência existe uma estrutura pesada: centros de dados, semicondutores, cabos, redes elétricas, água, minerais, sistemas de refrigeração, propriedade intelectual, capital e trabalho humano distribuído em cadeias globais. A nuvem não paira sobre a sociedade. Ela ocupa território, consome recursos e pertence a alguém.
Essa materialidade também desmonta a fantasia de uma inteligência plenamente autônoma. Sistemas avançados dependem de trabalhadores que classificam dados, moderam conteúdos, corrigem resultados, produzem treinamento e executam tarefas indispensáveis àquilo que depois aparece como automação. A heteromação revela exatamente essa contradição: quanto mais a tecnologia se apresenta como independente do trabalho humano, mais importante se torna investigar o trabalho tornado invisível dentro dela.
O mesmo vale para a soberania. O Brasil discute hoje a expansão de data centers, capacidade computacional e infraestrutura para inteligência artificial. É um movimento necessário. Nenhum país pode formular uma estratégia séria de desenvolvimento tecnológico permanecendo completamente dependente de capacidade computacional localizada e controlada no exterior. Mas a presença física de servidores em território nacional, por si só, não resolve o problema. É preciso saber quem controla os chips, a nuvem, os modelos, os softwares, os dados, os padrões técnicos e a operação das estruturas que passam a sustentar funções cada vez mais centrais da economia e do Estado.
Soberania tecnológica, portanto, não significa autarquia. Significa capacidade de administrar dependências sem ficar indefeso diante delas. Uma sociedade pode importar componentes, utilizar tecnologias estrangeiras e integrar cadeias internacionais sem abrir mão da possibilidade de auditar, negociar, substituir, desenvolver alternativas e preservar funções estratégicas quando interesses externos entram em conflito com os seus.
A inteligência tem corpo porque depende de matéria, trabalho e poder. Reconhecer esse corpo é também devolver a discussão ética ao terreno concreto das relações sociais. Se a inteligência artificial é apresentada como inevitável e abstrata, suas estruturas de propriedade desaparecem. Quando sua materialidade se torna visível, reaparece a pergunta decisiva: quem controla os meios que tornam essa inteligência possível?
A América Latina diante da nova geopolítica da inteligência
A inteligência artificial entrou definitivamente no vocabulário do poder nacional. Chips, centros de dados, nuvem, modelos, energia, padrões técnicos e capacidade computacional deixaram de ser apenas ativos econômicos. Tornaram-se componentes de segurança, competitividade, projeção internacional e autonomia estratégica. Os Estados Unidos assumem isso de maneira explícita ao tratar a expansão de seu ecossistema tecnológico de IA como instrumento de liderança global e ao estimular a adoção internacional de suas infraestruturas, tecnologias e modelos de governança.
Para a América Latina, essa transformação acontece num momento particularmente delicado. A reafirmação norte-americana de uma política de primazia no Hemisfério Ocidental convive com uma disputa global por infraestrutura, mercados, minerais, dados e padrões tecnológicos. Não significa que a inteligência artificial seja uma nova versão da Doutrina Monroe. Significa algo mais concreto: a política hemisférica e a política tecnológica passam a operar no mesmo espaço estratégico, fazendo com que decisões aparentemente técnicas sobre nuvem, data centers, semicondutores ou modelos possam produzir consequências econômicas e políticas de longo prazo.
O desafio latino-americano não está em escolher entre isolamento e integração, mas em distinguir projetos, interesses e possibilidades concretas de autonomia. Nesse cenário, a China tem defendido uma arquitetura internacional de inteligência artificial baseada em maior abertura tecnológica, cooperação entre países, fortalecimento de comunidades de código aberto e ampliação das capacidades do Sul Global, apresentando a IA como um bem público internacional e o acesso às suas tecnologias como parte do enfrentamento da desigualdade digital. Essa orientação cria possibilidades distintas para países latino-americanos ampliarem capacidades próprias, desenvolverem modelos, infraestruturas e ecossistemas tecnológicos e reduzirem barreiras de entrada hoje impostas pela extrema concentração do setor. A multipolaridade, nesse sentido, pode produzir margem real de soberania quando permite à região diversificar parceiros, acessar conhecimento e transformar cooperação externa em capacidade tecnológica própria, preservando o direito de definir seus caminhos de desenvolvimento.
Esse é um ponto especialmente importante para uma América Latina que consome intensamente tecnologias de inteligência artificial, mas ainda controla uma parcela muito menor das infraestruturas, do capital e das capacidades que sustentam sua expansão. A distância entre adoção e controle pode se tornar uma nova forma de dependência se a região permanecer apenas como mercado, fornecedora de recursos, dados e energia, sem dominar parcelas estratégicas do conhecimento e da infraestrutura.
Mas a história não está encerrada. O Brasil desenvolve capacidades próprias, a cooperação regional começa a ganhar densidade, surgem modelos treinados a partir de realidades latino-americanas e novas agendas colocam soberania de dados, conhecimento indígena, infraestrutura pública e governança democrática no centro do debate. A América Latina não precisa escolher entre fechar-se ao mundo e integrar-se de forma subordinada. Seu desafio é participar da revolução tecnológica sem abrir mão do direito de definir como ela servirá ao desenvolvimento, à democracia e às necessidades de suas sociedades.
Ética como capacidade de decidir o próprio futuro
Talvez o maior risco da inteligência artificial não seja o surgimento de máquinas capazes de substituir integralmente a decisão humana, mas a naturalização de sistemas cuja presença se torna tão profunda que deixamos de perguntar sob quais interesses, infraestruturas e relações de poder eles operam. Uma tecnologia pode ser eficiente, segura e funcional e, ainda assim, ampliar dependências, concentrar capacidade de decisão ou reduzir a possibilidade coletiva de contestar os meios pelos quais a vida social é organizada.
É por isso que uma ética consequente da inteligência artificial precisa ir além da correção dos modelos. Transparência, segurança, proteção de direitos e combate à discriminação continuam indispensáveis, mas não encerram a questão. É preciso perguntar quem possui as infraestruturas, quem define os objetivos dos sistemas, quem controla os dados, quem trabalha para torná-los possíveis, quem se apropria de seus ganhos e, sobretudo, quem mantém capacidade real de interromper, auditar, substituir ou recusar uma mediação quando ela deixa de servir ao interesse público.
Nesse ponto, ética, democracia e soberania deixam de ser debates separados. Democracia significa conservar a possibilidade social de deliberar sobre aquilo que condiciona a própria deliberação. Soberania significa possuir margem suficiente para que dependências tecnológicas não se convertam em obediência estrutural. E uma perspectiva emancipatória exige que capacidades construídas pelo conhecimento e pelo trabalho acumulado de milhões de pessoas não sejam transformadas exclusivamente em instrumentos privados de concentração de riqueza, informação e poder.
É justamente por reunir questões que normalmente aparecem fragmentadas que o LAAI-Ethics importa. Trabalho, território, infraestrutura, conhecimento, povos indígenas, infância, discriminação, soberania, persuasão e democracia pertencem, na verdade, ao mesmo problema histórico: como incorporar uma tecnologia de enorme potência sem permitir que sua lógica de desenvolvimento reduza a capacidade humana de governar os próprios meios de existência.
Esse debate também precisa atravessar os muros da universidade. O Código Aberto acompanhará o encontro e levará ao público suas discussões, divergências e descobertas, não como simples cobertura de um evento, mas como parte de um esforço maior para ampliar a compreensão social sobre uma transformação que já alcança o cotidiano, as instituições e as relações de poder.
Porque a questão decisiva talvez já não seja até onde a inteligência artificial pode chegar. A questão é se sociedades democráticas conseguirão preservar poder suficiente para decidir, por si mesmas, até onde desejam levá-la.
Artigo publicado originalmente em <código aberto>
Reynaldo Aragon é jornalista especializado em geopolítica da informação e da tecnologia, com foco nas relações entre tecnologia, cognição e comportamento. Editor do codigoaberto.net É pesquisador do Núcleo de Estudos Estratégicos em Comunicação, Cognição e Computação (NEECCC – INCT DSI) e integra o Instituto Nacional de Ciência e Tecnologia em Disputas e Soberania Informacional (INCT DSI), onde investiga os impactos da tecnopolítica sobre os processos cognitivos e as dinâmicas sociais no Sul Global.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “
