Pontífice afirma que existe uma diferença ontológica entre criação humana e produção algorítmica, alerta para uma cultura dominada pela homogeneização e propõe uma aliança da Igreja com artistas e instituições culturais para proteger a dimensão humana da criação
Da Redação
O papa Leão XIV escolheu os artistas para fazer uma das críticas mais contundentes de seu pontificado à inteligência artificial. Diante de artistas e curadores reunidos no Vaticano, nesta sexta-feira, 2 de outubro, o pontífice não discutiu apenas direitos autorais, empregos ameaçados ou a qualidade das imagens produzidas por máquinas. Foi muito além.
Para Leão XIV, existe uma diferença fundamental entre aquilo que um ser humano cria e aquilo que um sistema de inteligência artificial consegue gerar.
Não é, segundo ele, apenas uma diferença de qualidade.
É uma diferença de natureza.
“Existe uma diferença ontológica, ainda antes de ser estética, entre a arte e aquilo que uma máquina pode gerar através de cálculos estatísticos baseados em milhões de imagens criadas por terceiros”, afirmou.
E resumiu sua posição numa frase que provavelmente permanecerá como uma das marcas de sua reflexão sobre inteligência artificial: “Aos algoritmos falta a centelha do humano.”
A declaração foi feita durante encontro promovido pelo Dicastério para a Cultura e a Educação e coloca a Igreja Católica diretamente dentro de uma das maiores disputas culturais provocadas pela expansão da inteligência artificial generativa.
Mas reduzir o pronunciamento a uma oposição entre pintores e computadores seria perder seu ponto principal.
O papa está discutindo poder.
Quem cria.
Quem copia.
Quem decide aquilo que vemos.
Quem controla os sistemas pelos quais a cultura circula.
E, finalmente, o que acontece com uma sociedade quando parte crescente de sua produção simbólica passa a ser mediada por máquinas controladas por grandes corporações.
A máquina trabalha com aquilo que os humanos já fizeram
A escolha das palavras de Leão XIV não foi acidental.
O pontífice enfatizou que sistemas generativos trabalham estatisticamente sobre milhões de imagens anteriormente produzidas por seres humanos.
É exatamente aí que começa uma das maiores controvérsias econômicas e culturais da inteligência artificial.
Modelos generativos são treinados utilizando enormes quantidades de dados. Textos, fotografias, ilustrações, músicas, vídeos e outras formas de produção humana entram, de maneiras diferentes, na construção dos sistemas capazes posteriormente de gerar novos conteúdos.
O resultado impressiona.
Uma pessoa escreve algumas palavras e recebe uma imagem.
Descreve uma melodia e recebe música.
Solicita um texto e recebe páginas.
Pede um vídeo e recebe movimento, personagens e cenários que nunca foram filmados.
Do ponto de vista tecnológico, é uma transformação extraordinária.
Mas existe uma pergunta anterior à tecnologia.
De onde veio tudo aquilo que tornou essa máquina capaz de produzir?
Veio, em grande medida, da cultura humana.
Fotógrafos fotografaram.
Escritores escreveram.
Desenhistas desenharam.
Músicos tocaram.
Cineastas filmaram.
Programadores desenvolveram.
Milhões de pessoas produziram durante décadas aquilo que posteriormente se tornou matéria-prima para sistemas de inteligência artificial.
É essa relação que o papa coloca no centro da discussão.
O problema não é somente estético
A palavra escolhida por Leão XIV merece atenção: “ontológica”.
Ontologia é o campo filosófico que discute a natureza do ser.
Ao dizer que existe uma diferença ontológica entre arte humana e conteúdo produzido por uma máquina, o papa está afirmando que a distinção não pode ser resolvida perguntando simplesmente qual imagem é mais bonita.
Uma máquina pode produzir uma imagem tecnicamente extraordinária.
Pode imitar estilos.
Pode combinar referências.
Pode produzir algo capaz de emocionar uma pessoa.
Isso não elimina, para Leão XIV, a diferença fundamental.
O artista possui experiência.
Memória.
Corpo.
Sofrimento.
Desejo.
História.
Contradição.
Mortalidade.
Relação com outras pessoas.
A máquina não vive aquilo que representa.
Ela calcula.
É esse abismo que o papa chama de diferença ontológica.
Sua crítica, portanto, não depende de provar que máquinas fazem imagens piores que seres humanos.
Mesmo que um sistema produzisse algo visualmente indistinguível da obra de um grande artista, a questão permaneceria.
Quem criou?
E o que significa criar?
O perigo da homogeneização
Há outro trecho do discurso ainda mais político.
Leão XIV afirmou que a sociedade contemporânea vive cercada por mecanismos de busca capazes de fornecer milhares de respostas instantaneamente. Mas esses sistemas, observou, trabalham fundamentalmente com aquilo que já existe e tendem a oferecer aquilo que as pessoas já procuram.
A partir daí, fez uma advertência incomum.
Na sociedade tecnológica e de consumo, disse o papa, o grande perigo não é apenas a censura.
É a homogeneização.
Não apenas o silêncio imposto.
Mas o excesso de ruído que impede as pessoas de escutar.
Esse argumento ultrapassa completamente o debate sobre arte generativa.
É uma crítica à arquitetura cultural das plataformas digitais.
Durante décadas, censura significava principalmente impedir que determinada informação circulasse.
A era algorítmica criou outra possibilidade.
Não é necessário necessariamente apagar uma informação.
É possível simplesmente enterrá-la.
Milhões de conteúdos disputam atenção simultaneamente. Sistemas de recomendação decidem quais aparecem primeiro. Algoritmos aprendem preferências. Usuários recebem progressivamente conteúdos semelhantes àquilo que já consumiram.
A pessoa aparentemente possui acesso a tudo.
Mas pode terminar vendo sempre variações da mesma coisa.
É nesse sentido que a homogeneização pode funcionar sem um censor sentado numa sala decidindo o que será proibido.
A seleção é automatizada.
Arte como resistência à lógica do algoritmo
Leão XIV apresentou a arte como exatamente o contrário disso.
Para ele, a arte não deveria funcionar como um mecanismo de busca que simplesmente localiza aquilo que já conhecemos.
Ela deve produzir perguntas.
Interromper.
Provocar.
Obrigar alguém a olhar novamente.
O papa descreveu a criação artística como uma forma de atenção que não se satisfaz com a simples soma de fatos e continua procurando aquilo que os conecta.
Quando a arte resiste à homogeneização e obriga uma pessoa a parar diante daquilo que não pode simplesmente consumir e descartar, afirmou, ela se transforma numa forma de regeneração cultural e espiritual.
É uma definição poderosa porque coloca a arte em confronto direto com uma das principais economias do capitalismo digital.
A economia da atenção.
Plataformas precisam que o usuário continue olhando.
Role.
Clique.
Compartilhe.
Assista.
Consuma.
Volte.
A arte descrita por Leão XIV produz o movimento contrário.
Pare.
Olhe.
Pense.
A Igreja propõe uma aliança com os artistas
Foi então que o papa transformou reflexão em proposta.
Leão XIV recuperou uma declaração histórica de Paulo VI aos artistas, feita em 1964: a Igreja precisava deles.
Mais de seis décadas depois, repetiu a mensagem.
“A Igreja precisa de vocês.”
E acrescentou que essa necessidade se tornou particularmente urgente na era da inteligência artificial.
A Igreja Católica, anunciou, deseja renovar uma aliança com artistas e instituições culturais destinada a “salvaguardar o que é humano”.
Não se trata, ao menos no discurso apresentado, de proibir computadores ou abandonar tecnologia.
O Vaticano não está convocando uma guerra contra máquinas.
A questão colocada por Leão XIV é outra.
Tecnologia deve permanecer subordinada à pessoa humana.
A crítica vai muito além da arte
Essa posição não surgiu agora.
A inteligência artificial tornou-se um dos temas centrais do pontificado de Leão XIV.
Sua encíclica Magnifica Humanitas, publicada em maio, é dedicada justamente à proteção da pessoa humana na era da inteligência artificial.
O documento apresenta uma crítica estrutural muito mais ampla do que a discussão sobre imagens geradas artificialmente.
Leão XIV alerta que decisões envolvendo emprego, crédito, serviços públicos e reputação não podem simplesmente ser entregues a sistemas automatizados opacos.
Também chama atenção para manipulação de informação, violações de privacidade e reprodução de preconceitos por sistemas apresentados como neutros.
Mas talvez uma das passagens politicamente mais importantes da encíclica esteja na discussão sobre concentração de poder.
Segundo o papa, a inteligência artificial tende a ampliar o poder daqueles que já possuem recursos econômicos, conhecimento técnico e acesso a grandes quantidades de dados.
Pequenos grupos extremamente poderosos podem, dessa forma, influenciar padrões de informação e consumo, interferir em processos democráticos e orientar dinâmicas econômicas segundo seus próprios interesses.
Aqui a discussão deixa definitivamente o ateliê.
Entra na política.
Quem possui os dados possui poder
A economia da inteligência artificial depende de uma matéria-prima peculiar.
Dados.
Textos.
Imagens.
Comportamentos.
Preferências.
Localizações.
Cliques.
Pesquisas.
Relações.
Produção intelectual.
Boa parte dessa riqueza é produzida coletivamente.
Mas sua infraestrutura encontra-se concentrada em um número relativamente pequeno de empresas.
É essa assimetria que a encíclica questiona.
Leão XIV afirma que dados não deveriam ser tratados simplesmente como mercadoria pertencente exclusivamente a poucos atores privados. Defende formas de regulação e chega a propor que se pense criativamente nos dados como um bem comum ou compartilhado.
É uma proposição de enorme alcance.
Porque toca diretamente no modelo econômico que permitiu a ascensão das maiores empresas tecnológicas do planeta.
O primeiro papa americano diante do Vale do Silício
Existe uma ironia histórica impossível de ignorar.
Leão XIV é americano.
Nasceu em Chicago.
E se tornou o primeiro papa originário dos Estados Unidos justamente no momento em que empresas americanas lideram a corrida mundial pela inteligência artificial.
A maior revolução tecnológica de seu pontificado está sendo impulsionada, em grande medida, pelo próprio país onde nasceu.
E o primeiro papa americano decidiu colocar a crítica ao poder tecnológico no centro de sua agenda.
Não significa rejeitar inovação.
Sua própria encíclica reconhece as possibilidades positivas da tecnologia e chega a afirmar que inovação tecnológica pode representar uma forma de participação humana no ato criador.
Mas estabelece uma fronteira.
A tecnologia deve servir à humanidade.
A humanidade não deve ser reorganizada para servir à tecnologia.
A disputa não é entre homens e máquinas
Talvez seja esse o ponto mais importante.
Falar em uma guerra entre humanos e inteligência artificial pode esconder a verdadeira relação de poder.
Máquinas não possuem empresas.
Não possuem ações.
Não contratam trabalhadores.
Não demitem artistas.
Não definem termos de uso.
Não escolhem sozinhas quais dados serão utilizados.
Não fazem lobby em parlamentos.
Não acumulam bilhões de dólares.
Pessoas e empresas fazem isso.
Por trás de cada grande sistema de inteligência artificial existe uma infraestrutura material.
Data centers.
Chips.
Energia.
Capital.
Trabalhadores.
Propriedade intelectual.
Bancos de dados.
Investidores.
Corporações.
Por isso, discutir inteligência artificial como se a humanidade estivesse enfrentando autonomamente “as máquinas” pode obscurecer a questão essencial.
Quem controla as máquinas?
Quem se beneficia delas?
Quem paga os custos?
Quem perde trabalho?
Quem fornece os dados?
Quem fica com a riqueza?
A centelha humana
É nesse ponto que a imagem utilizada por Leão XIV ganha sua verdadeira força.
“Aos algoritmos falta a centelha do humano.”
O papa não está dizendo que computadores são inúteis.
Nem que inteligência artificial desaparecerá.
Ela não desaparecerá.
A questão é determinar quais espaços uma sociedade está disposta a entregar aos algoritmos.
A arte é apenas um deles.
Educação é outro.
Jornalismo.
Trabalho.
Saúde.
Administração pública.
Guerra.
Democracia.
Relações humanas.
Em cada um desses territórios haverá uma disputa entre eficiência tecnológica e autonomia humana.
A resposta de Leão XIV começa por estabelecer uma linha filosófica.
Uma máquina pode calcular.
Pode reproduzir padrões.
Pode encontrar correlações invisíveis para nós.
Pode produzir imagens impressionantes.
Pode escrever.
Pode imitar.
Pode acelerar extraordinariamente o trabalho humano.
Mas isso não significa que máquina e pessoa sejam equivalentes.
A distinção parece óbvia.
Talvez esteja deixando de ser.
É justamente por isso que o papa considera necessário reafirmá-la.
No Vaticano, diante de artistas, Leão XIV colocou a Igreja Católica dentro de uma disputa que provavelmente atravessará todo este século.
Não pediu que artistas destruíssem máquinas.
Pediu que preservassem aquilo que as máquinas não possuem.
Experiência.
Consciência.
Sentido.
Vida.
Num mundo cada vez mais capaz de fabricar artificialmente imagens, vozes, textos e realidades, a pergunta colocada pelo papa talvez seja anterior a todas as outras: não aquilo que as máquinas serão capazes de fazer, mas aquilo que os seres humanos não podem aceitar deixar de ser.