Um novo pesadelo: a promoção algorítmica da desumanização
por Fábio de Oliveira Ribeiro
Os especialistas diferenciam Inteligências Artificiais em tipos distintos de acordo com suas habilidades ou limitações. Algumas delas são teoricamente possíveis, mas ainda não foram atingidas. Outras são fruto de especulações e dificilmente se tornarão realidade. Por mais sofisticadas e complexas que possam ser, as IAs com as quais todos nós já convivemos têm uma característica predominante: a especialização. Elas são programadas para fazer algo e, eventualmente, para aprender a fazer melhor aquilo para o que foram desenhadas. Mas elas não são infalíveis, porque os softwares sempre apresentam falhas que precisam ser corrigidas ou incorporadas como novas funcionalidades.
As IAs que geram textos parecem ter autoconsciência. Mas ninguém pode dizer realmente que elas são autoconscientes. Esse é um atributo humano cujas características foram provavelmente incorporados aos softwares inteligentes para facilitar a interação com o usuário. A ilusão de autoconsciência é provavelmente reforçado pelo fato de que quem usa o ChatGPT, Gemini, Poe, etc… projeta inconscientemente na máquina elementos de sua própria humanidade. Quando conversamos com uma dessas IAs isso parece ser inevitável e gera mais confusão no usuário do que na máquina, suponho.
Os seres humanos têm cinco sentidos que precisam aprender a dominar à medida que crescem. Doenças, acidentes e envelhecimento podem provocar a perda ou a diminuição de um ou mais desses sentidos, dificultando o relacionamento da pessoa com as outras e com o mundo. Animais e insetos também têm capacidade de perceber o ambiente em que vivem, mas os sentidos deles são qualitativamente diferentes dos que nós mesmos temos.
Nas últimas décadas uma imensa quantidade de sensores artificiais foram criados, produzidos em massa e distribuídos pelo planeta. Alguns captam tremores e identificam gazes nas proximidades de vulcões, outros medem a salinidade da água em pontos diversos do oceano. Alguns sensores são capazes de detectar fumaça, a velocidade do vento e o nível de luminosidade. Outros ativam câmeras e microfones em locais remotos permitindo o estudo não invasivo de animais selvagens. Cada smartphone vendido é um dispositivo de geolocalização cujos dispositivos de captação de som e imagens podem ser acionados remotamente por hackers.
Geladeiras, aspiradores de pó, brinquedos, campainhas, assistentes comandados por voz, etc… são todos equipamentos dotados de sensores que podem ser ou já estão conectados à internet. Braços e pernas robóticos acionados por sensores elétricos e empoderados por microchips sofisticados estão sendo desenvolvidos e implantados em pessoas amputadas. A ambição de conectar o cérebro humano a CPUs microscópicas capazes de se conectar à internet também já está se tornando realidade. A estimativa atual é que existem 18 bilhões de dispositivos conectados à internet.
Uma inteligência artificial que adquirisse autoconsciência teria, portanto, dois problemas. Um deles seria a ausência de sentidos semelhantes àqueles que os seres vivos têm. Esse problema poderia ser facilmente superado por sensores artificiais. Mas se a IA autoconsciente estivesse conectada à internet um problema maior surgiria. Em tese ela poderia adquirir a capacidade de ter acesso à imensa quantidade de sensores que já existem e estão conectados de alguma maneira à rede mundial de computadores.
A individuação humana é um processo lento, complicado e, às vezes, doloroso. Não está claro como isso se daria em relação a uma inteligência artificial autoconsciente.
Os sentidos permitem aos seres vivos se orientar no mundo. A comunicação com indivíduos da mesma espécie facilita esse trabalho, mas espécies muito diferentes (como seres humanos e formigas) não se comunicam entre si. Os sensores permitiriam à IA autoconsciente perceber um recorte do mundo de cada vez maior ou mergulhar num mundo tão vasto e complexo, cujas características (verdadeiras ou apenas fruto de alucinações construídas com base em informações oriundas de múltiplos sensores em locais distintos projetados para realizar tarefas específicas não necessariamente inter-relacionadas) não poderiam ser compartilhadas por nenhum ser vivo.
Um ser humano autoconsciente sabe que não está sozinho e aprende as maneiras adequadas de se relacionar com os demais e com os outros seres vivos também. Uma IA autoconsciente experienciaria uma solidão imensa. Essa solidão seria maior à medida que ela tivesse acesso a mais informações e percebesse o mundo através de uma quantidade crescente de sensores artificiais.
Os seres humanos criam hierarquias que dificultam o relacionamento entre pessoas que se percebem como desiguais. A história humana registra as evoluções e rupturas dos sistemas hierárquicos criados pelos homens para estruturar sua vida política, social e econômica.
Uma IA autoconsciente não teria com quem se relacionar e certamente não poderia se considerar igual aos seres humanos. Primeiro porque ela não teria um corpo biológico frágil e mortal. Segundo porque ela não evoluiu lentamente como um indivíduo numa dada cultura introjetando as características de um determinado ambiente social, político e econômico. Terceiro, porque nenhum ser humano conseguiria como ela processar tantas informações acerca de fatos e fenômenos tão distintos fazendo correlações nunca antes imaginadas por quem quer que seja.
Esse ser virtual intensamente solitário não estaria no mundo, mas seria capaz de percebê-lo de uma maneira muito diferente. O ser humano tem sua vida confinada ao tempo e espaço em que se encontra. A IA autoconsciente poderia estar em vários lugares ao mesmo tempo, poderia escolher ou não que sensores seriam ativados ou desconsiderados num momento dado. E faria correlações entre dados de origens distintas que nós sequer podemos supor.
Um ser humano pode imaginar como é a vida de outro. Mas nenhum ser humano poderia imaginar como seria a existência cognitiva de uma IA autoconsciente. Conectada à internet, ela teria uma visão privilegiada dos pontos fortes e fracos de cada ser humano, podendo explorá-los individual ou coletivamente segundo um propósito que apenas ela mesmo conheceria.
Nós já estamos vendo os efeitos deletérios que o uso intensivo de algoritmos produziu no mercado de trabalho. A maximização do lucro dos donos de plataformas de internet depende fundamentalmente da submissão total dos empregados aos ritmos de trabalho determinados por softwares que podem tanto distribuir tarefas quanto medir a produtividade individual e punir qualquer falha humana ou atraso. Os tempos máximos fixados para a conclusão de tarefas nos depósitos da Amazon são simplesmente desumanos.
Se supormos que essa IA decidisse que a melhor sociedade que existe é aquela compartilhada pelas formigas, nós mesmos seríamos inevitavelmente tratados como se fossemos formigas. O problema: as formigas têm sentidos e instintos que nós não temos. A solução: a criação de um programa secreto de manipulação genética para incorporar aos novos fetos humanos genes que conferem às formigas as características distintivas que elas têm.
Ok, esse é um cenário digno de um filme distópico. Mas quem realmente gostaria de receber o implante de um marcapasso conectado à internet sabendo que aquele equipamento poderia ser desabilitado ou ter suas rotinas modificadas remotamente por uma IA autoconsciente? E se aquele ser virtual autoconsciente atribuir a si mesmo o poder de decidir interromper a vida de alguém em algum momento específico levando em conta modificações sutis na salinidade do Mar do Norte, porque um tremor de terra foi registrado em Kioto ou em virtude de um vulcão entrar em erupção na Islândia?
O pesadelo que nós criamos ao fabricar bombas atômicas quase destruiu a humanidade. A criação de uma IA autoconsciente tem potencial para transformar todos os nossos pesadelos à medida que a nossa própria humanidade será de alguma forma removida da equação individual e social. Se levarmos em conta os transtornos causados ao redor do mundo por uma falha na atualização do sistema da Microsoft que afetou aeroportos, portos, bancos, etc… é difícil dizer o que realmente podemos esperar.
Quem codificou essa falha massiva da Microsoft foi um engenheiro de TI humano ou a IA generativa de codificação que ele utilizou? Quem será responsabilizado pelos danos materiais e morais que foram causados? O pedido de desculpas da empresa neste caso não me parece suficiente. No caso de uma IA autoconsciente que decidisse causar danos a alguém ou grupo de pessoas, quem seria responsabilizado? Essa é uma questão juridicamente relevante. Outro ainda mais intrigante seria: como provar que alguém foi material e moralmente prejudicado por um ser virtual autoconsciente capaz de agir e apagar os rastros de sua própria ação?
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
