Da pedra lascada à pedra lascada por causa da IA
por Fábio de Oliveira Ribeiro
Pouco depois dos norte-americanos exterminarem as populações de Hiroshima e Nagasaki com bombas nucleares, Albert Camus disse no editorial do jornal Combat que “A civilização mecânica acaba de chegar ao seu último grau de selvageria. Será preciso escolher, e um futuro mais ou menos próximo, entre o suicídio coletivo ou a utilização inteligente das conquistas científicas.” (De la résistance à la révolucion, Paris 08 août 1945)
Limitar as próprias escolhas foi uma característica da Guerra Fria, época dominada pelo terror da destruição mútua garantida. Naquela época as duas potências nucleares rivais construíram e estocaram dezenas de milhares de bombas nucleares. Ao longo de três décadas os EUA e a URSS explodiram respectivamente 1.030 e 715 dispositivos nucleares. Norte-americanos e russos realizaram esses testes nucleares em seu próprio território (ou em áreas remotas que controlavam) para exibir o próprio poder e testar os nervos do inimigo.
O fim da Guerra Fria levou a uma redução dos arsenais nucleares norte-americano e russo. Mas àquela altura o mundo já havia se tornado mais inseguro quer porque outros países dominaram a tecnologia nuclear para fins militares (Inglaterra, França, Israel, China, Paquistão, Índia e Coreia do Norte) quer porque o uso desses armamentos passou a deixar de ser tabu nos debates acadêmicos e nos meios militares.
A guerra nuclear deixou de ser uma escolha trágica para se tornar uma inevitabilidade? Essa pergunta é pertinente, pois europeus e norte-americanos se recusam a abreviar a guerra da Ucrânia acreditando que aquele conflito só pode terminar com a derrota e fragmentação da Rússia. Mas os russos dificilmente aceitarão perder o controle de seu território e já falam abertamente que usarão armas nucleares caso se sintam realmente ameaçados
Foi nesse contexto que a Inteligência Artificial conquistou o mundo e em pouco tempo se tornou o negócio multibilionário que mais atrai investimentos privados e públicos. Essa tecnologia está colonizando diversos setores produtivos. Ela foi usada em Gaza e já começou a ser incorporada em armamentos de guerra. Segundo os especialistas, os novos armamentos inteligentes poderão ser ofensivos ou defensivos, semiautônomos ou totalmente autônomos.
Sendo assim, decidir quem e quando vai morrer deixará de ser um privilégio humano. Assim que armamentos empoderados por IA passarem a ser utilizados na guerra de maneira predominante ou com muita frequência, não poderemos mais escolher se ocorrerá ou não uma “utilização inteligente das conquistas científicas”. Além disso, o “suicídio coletivo” pode se tornar uma realidade decidida por máquinas de calcular probabilidades com base em imensos bancos de dados.
O poder absoluto corrompe absolutamente, disse Lord Acton (1834–1902) . Doravante, a impotência humana em face de decisões militares tomadas por IAs poderá acarretar um efeito ainda mais deletério. Isso porque uma guerra nuclear (mesmo que acidental e indesejada) tem grande potencial para destruir países inteiros e o poder que deles emanava e era exercido.
Em 1945 último grau da selvageria era a construção e uso de bombas atômicas (Albert Camus). O emprego de IAs para decidir quando e onde bombas nucleares serão usadas é agora o último grau de selvageria automatizada. Substituir o cálculo humano baseado no terror e na certeza de destruição mutua garantida pelo cálculo probabilístico feito por máquinas não vai nos salvar de uma catástrofe. O mais provável é que isso inicie uma guerra nuclear que poderia ser evitada.
O novo último grau de selvageria é, sem dúvida alguma, paradoxal. Delegar o uso de armas nucleares para IAs é algo que realmente pode colocar um ponto final definitivo na guerra, na civilização e na própria tecnologia. Uma rebelião das máquinas do tipo Skynet é desnecessária, porque agora a tragédia pode também ser o resultado de um erro de cálculo estatístico induzido pelo envenenamento dos bancos de dados, um mal funcionamento da GPU causado por flutuações na rede elétrica ou mesmo uma decisão tomada em virtude do desalinhamento acidental da IA. Aqueles que sobreviverem à guerra e ao Inverno Nuclear serão obrigados a perambular famintos e doentes por um mundo destruído e contaminado. Eles provavelmente terão que aprender a lascar pedras para fabricar ferramentas e lamentarão não ter mais acesso a um tutorial das técnicas adequadas no YouTube.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “