A era dos oráculos artificiais que decidem a guerra, mas não a paz
por Fábio de Oliveira Ribeiro
A notícia de que os EUA e Israel atacaram o Irã com base na recomendação fornecida por IA é assustadora por diversos motivos.
O primeiro e mais evidente deles é o total desprezo que os agressores manifestaram pela legislação internacional. Ambos julgaram que suas obrigações para com a ONU são irrelevantes ou, no mínimo, menos importantes do que o resultado fornecido por um oráculo artificial.
Eu usei a expressão oráculo artificial para enfatizar aqui o retorno à tradição que existia na Antiguidade dos poderosos consultarem os oráculos de Delfos, Cumas ou Siwa antes de iniciarem campanhas militares. Proferidos numa linguagem deliberadamente ambígua e muitas vezes impenetrável, os resultados dessas consultas eram charadas que podiam diminuir as incertezas dos consulentes ou aumenta-las. Interpretados incorretamente, podiam acarretar uma derrota indesejada como ocorreu num caso comentado por Heródoto.
Os oráculos de Delfos, Cumas e Siwa funcionavam movidos pelo consumo de substâncias entorpecentes? Os bancos de dados consultados pela IA que decidiu a guerra contém algum tipo de viés pró-ocidental ou foram envenenados por preconceitos anti-islâmicos? Porque um oráculo, seja ele tradicional ou artificial, fornece uma resposta e não outra? Essas são perguntas pertinentes que um romano não faria, porque a religião de Roma não tolerava esse tipo de prática. Os líderes políticos e militares romanos confiavam mais na construção de consensos do que nas palavras enganosas dos oráculos. Profetizas, adivinhos e magos nunca fizeram muito sucesso em Roma e alguns deles foram duramente reprimidos ao longo da história romana.
O oráculo artificial consultado pelos norte-americanos e israelenses calculou corretamente a probabilidade de os países agressores ficarem mais isolados e sofrerem prejuízos econômicos, políticos e diplomáticos permanentes em decorrência da agressão ao Irã? Esse cálculo levou em conta todos os aspectos da questão? Considerou a imprevisibilidade inerente das relações internacionais num mundo em que a única certeza é a total inexistência de regras internacionais?
Em segundo lugar, podemos mencionar aqui a automatização de um processo de decisão que desde o século XIX costumava ser menos aleatório, mais cuidadoso e conduzido por seres humanos capazes de ponderar os riscos. Uma guerra pode parecer lucrativa à curto prazo e se tornar catastrófica à longo prazo. Estados em guerra são sempre mais vulneráveis às instabilidades políticas que um conflito militar acarreta, especialmente quando o país sofre as consequências da guerra em seu território.
Quando o assunto é guerra, a história tem muito a ensinar aos seres humanos. Nós somos frágeis e vulneráveis e devemos sempre levar em conta os efeitos negativos que podem se abater sobre nossas próprias famílias, amigos e entes queridos. Mas a história não significa nada para uma máquina de calcular que avalia a probabilidade ou não de um conflito ser bem sucedido como se ela mesma não tivesse nada a perder.
Outra questão a ser levada em conta aqui é a questão da representatividade política. Quando decidiram fazer uma guerra injusta, Netanyahu e Donald Trump não comprometem apenas suas pessoas, posições, patrimônios e vidas. Eles colocam em risco as vidas e os patrimônios de todos os cidadãos em Israel e nos EUA. Essas pessoas tinham o direito de ser consultadas, mas ambos somente consultaram um oráculo virtual (como se a IA pudesse substituir a soberania popular).
A automatização tecnológica do processo de decisão nesse caso equivale à uma desdemocratização dos dois países. Os EUA e Israel deixaram de ter governos do povo, pelo povo e para o povo, porque no centro do processo de decisão está uma coisa inanimada manufaturada que não compartilha a mesma “condição humana” daqueles que sofreram e sofrerão em virtude do conflito.
Celso Amorim disse há poucos dias que a ordem internacional não existe mais. A ágora multilateral instituída após o fim da II Guerra Mundial foi substituída por uma arena de gladiadores insuflados por vastas coleções de dados vasculhados pela máquina que recomendou a agressão militar ilegal ao Irã.
“Qui morituri sunt, intelligentiam artificialem salutant.”
Aqueles que morreram na guerra certamente não poderão saudar a inteligência artificial ou o dono da Big Tech que a criou. A paz e a guerra nunca mais serão a mesmas. Uma IA que recomenda a guerra com sucesso (sucesso porque ela mesma foi obedecida) conseguiria recomendar a paz? Se levarmos em conta a obra de Jacques Ellul de certa maneira isso já aconteceu no passado.
“The politician will then find himself obliged to choose between the technician s solution, which is the only reasonable one, and other solutions, which he can indeed try out at his own peril but which are not reasonable. At such a moment the politician is gambling with his responsibility since there are such great chances of miscarriage if he adopts technically deviant solutions. In fact, the politician no longer has any real choice; decision follows automatically from the preparatory technical labors. Jungk even claims that in the United States, on very advanced technical levels, unchallengeable decisions have already been made by “electronic brains” in the service of the National Bureau of Standards; for example, by the EAC, sumamed the ‘Washington Oracle’. The EAC is said to have been the machine which made the decision to recall General MacArthur after it had solved equations containing all the strategic and economic variables of his plan. This example, which must be given with all possible reservations, is confirmed by the fact that the American government has submitted to such computing devices a large number of economic problems that border on the political. Even admitting that we are not yet at this stage, we must recognize that every advance made in the techniques of inquiry, administration, and organization in itself reduces the power and the role of politics.” (The Technological Society, Jacques Ellul, Vintage Books, New York -USA, p. 259)
Tradução: “O político se verá então obrigado a escolher entre a solução técnica, que é a única razoável, e outras soluções que ele pode, de fato, experimentar por sua conta e risco, mas que não são razoáveis. Nesse momento, o político está arriscando sua responsabilidade, visto que há grandes chances de fracasso se adotar soluções tecnicamente desviantes. De fato, o político não tem mais nenhuma escolha real; a decisão decorre automaticamente dos trabalhos técnicos preparatórios. Jungk chega a afirmar que, nos Estados Unidos, decisões incontestáveis já foram tomadas por “cérebros eletrônicos” a serviço do National Bureau of Standards; por exemplo, pelo EAC, apelidado de “Oráculo de Washington”. Diz-se que o EAC foi a máquina que tomou a decisão de convocar o General MacArthur após ter resolvido equações contendo todas as variáveis estratégicas e econômicas de seu plano. Este exemplo, que deve ser dado com todas as reservas possíveis, é confirmado pelo fato de o governo americano ter submetido a tais dispositivos computacionais um grande número de problemas econômicos que beiram o político. Mesmo admitindo que ainda não chegamos a esse estágio, devemos reconhecer que todo avanço feito nas técnicas de investigação, administração e organização reduz, por si só, o poder e o papel da política.” (grifos nossos)
A referência ao General MacArthur é importante. Ele foi convocado de volta à Washington porque estava planejando invadir a China. Aposentando-o e substituindo-o no comando das tropas dos EUA na Ásia, o governo Truman evitou que a Guerra da Coréia evoluísse para uma guerra contra a China.
Se for verdadeira a notícia de que EUA e Israel decidiram agredir militarmente o Irã com base na recomendação de uma IA, a ruptura com o passado será total. Nós já atingimos o estágio de que política e a guerra mergulharam na grande aventura da automatização tecnológica. Todavia, é incerto se uma IA que sugere o início de uma guerra ilegal conseguirá recomendar medidas que evitarão conflitos maiores ou mesmo uma paz instável duradoura (caso das duas Coreias). Um país injustamente agredido não pode deixar de revidar, nem tampouco está obrigado a obedecer ao oráculo artificial consultado pelo agressor.
É possível humanizar o mundo ou reconstruir a ordem mundial deixando tudo nas mãos de máquinas virtuais criadas por engenheiros de TI que pretendem incorporar suas tecnologias aos novos armamentos? Essa pergunta é apenas retórica. Ela foi feita por uma única razão: o simples fato desta dúvida ter se tornado pertinente é uma evidência de que o risco da humanidade pular no abismo se tornou grande demais.
Durante milhares de anos a política e a guerra foram assuntos humanos decididos por seres humanos levando em conta interesses humanos. Os engenheiros de TI podem construir máquinas excepcionais, mas eles não são juristas, historiadores, antropólogos, diplomatas, políticos, estrategistas militares ou eruditos capazes de pensar com calma sobre assuntos extremamente delicados. Isso para não mencionar o fato de que a política e a guerra são assuntos que dizem respeito às vidas e aos interesses das pessoas comuns e a soberania delas não poderia ser substituída pela automatização tecnológica do processo decisório como se somente as máquinas fossem soberanas.
Um mundo em que os homens seguem automaticamente decisões proferidas por oráculos artificiais e iniciam guerras que serão lutadas por máquinas legais autônomas está deixando de ser uma hipótese distante. Essa parece ser a única realidade que está sendo construída e perseguida. E ela é, sem dúvida alguma, muito pior do que aquela que os cineastas imaginaram.
O problema do Estado deixou de ser político e passou a ser tecnológico. E quem controla a tecnologia mais importante controla tudo: o governo, o Estado e até o privilégio de declarar guerra. A automação do processo decisório transformou a política em um teatro de sombras e os líderes políticos em marionetes.
Existe algo surreal e perturbador colocar um oráculo no centro do processo decisório politico.
No mundo antigo isso eventualmente fazia sentido, porque o misticismo era um fenômeno mais importante do que o conhecimento científico. Aliás, nem sempre existia diferença entre ambos porque a primeira definição de mito, que foi dada na própria antiguidade, é narrativa tradicional. E não podemos esquecer que uma tradição tinha valor civilizatório intrínseco e está muito além da distinção de verdadeiro e falso.
No mundo moderno, caracterizado pelo predomínio das ciências humanas, matemáticas, físicas e biológicas, não faz sentido recorrer a oráculos. Eles no máximo podem despertar a atenção das pessoas adeptas de coisas místicas e se tornaram em grande medida um espetáculo de circo mesmo quando não se apresentam em circos.
Um oraculo virtual (inteligência artificial, os bancos de dados que ela consulta e o mainframe em que tudo existe) parece ser o pináculo da ciência moderna. E no entanto os resultados que ele fornece podem ser alucinatórios e mesmo que não sejam esses resultados são qualitativamente semelhantes aos dos oráculos da antiguidade, porque no mundo dos fenômenos humanos ações sempre produzem consequências desejadas e indesejadas, reações previsíveis e imprevistas, que ecoam no futuro de uma maneira incontrolável. O “Tecnológico Misticismo Terminator Cenário” é ridículo, real e extremamente perigoso.
O caminho que a humanidade trilha está se tornando mais sombrio e cheio de terrores do que uma noite de inverno em Cumas, Delfos ou Siwa no século IV a.C. Existe alguma saída para este pesadelo? Não no momento, suponho.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: www.catarse.me/jornalggn “
