As “coisas novas” da primeira encíclica de Leão XIV

É sobre “a sede de inovações que se apoderou das sociedades” esta encíclica. A frase escreveu-a Leão XIII em 1895 a abrir a encíclica Rerum Novarum, mas aplica-se por inteiro à Magnifica Humanitas de Leão XIV. Há 150 anos a Revolução Industrial, hoje a Inteligência Artificial (IA). Tempos e questões diferentes, uma mesma preocupação: que “temíveis conflitos” são criados e alimentados por estas inovações, que humanidade edificam? O olhar do actual Papa sobre os desafios do mundo de hoje leva-o a inovar em múltiplos aspectos, de tal forma que esta sua encíclica difere de todas as anteriores dedicadas à “questão social”.

Desde logo é o próprio Leão XIV que sublinha essa necessidade de um pensamento católico em constante evolução, contrariando o preconceito ainda reinante na Igreja Católica de que tudo é imutável nela e na sua missão, porque já foi tudo dito e feito por Jesus Cristo. Pelo contrário, escreve o actual bispo de Roma, o pensamento católico tem de recorrer ao “essencial contributo da filosofia e das ciências humanas e sociais, que ajudam a compreender e a analisar mais profundamente as dinâmicas culturais, económicas e políticas”.

E é por isso que afirma que a “doutrina social da Igreja surge, não como um manual de princípios e normas a aplicar, mas como um caminho de discernimento comunitário (…) deixa-se interrogar pelos sinais dos tempos; nutre-se dos contributos das ciências, das culturas e das experiências humanas”. Consequente com esta afirmação, a Magnifica Humanitas não se apresenta como a última palavra sobre a IA e as suas consequências, mas como o início de “um discernimento partilhado, capaz de penetrar nas raízes espirituais e culturais das transformações em curso”.

Leão XIV coloca-se, assim, muito longe da “Igreja mestra da última palavra” e cita o Papa Francisco para explicar como quer que a sua palavra seja entendida: “A Igreja não pretende oferecer ‘uma palavra definitiva’, mas reconhece a importância de ouvir a investigação científica e favorece um intercâmbio sério e leal entre estudiosos, acolhendo a diversidade de opiniões”. Talvez seja este seu posicionamento que lhe permite usar expressões tão fortes e exprimir conclusões tão veementes nesta sua primeira encíclica.

Outra das grandes inovações deste texto diz respeito ao tempo em que ele é publicado. Este Papa não esperou que amadurecesse o debate sobre o impacte económico, social e cultural da IA e dos seus futuros desenvolvimentos. O Papa Prevost arrisca a sua palavra quando muitos outros responsáveis ainda nada disseram de substancial sobre as “coisas novas” do nosso tempo. E, desse modo, afirma-se como alguém à frente do seu tempo.

O tempo da escolha decisiva

Num tempo acelerado como aquele em que vivemos, Roma não quer ficar à margem, maldizendo a rapidez com que os acontecimentos se sobrepõem e os processos se sucedem. Mantendo uma reflexão crítica sobre a euforia do passageiro, o Vaticano parece ter entendido a colossal diferença entre erguer a sua voz hoje ou amanhã. E o contraste com o passado é, ele mesmo, abissal.

Leão XIII escreveu sobre as consequências da Revolução Industrial um século depois de ela ter começado. Era o tempo do “esperar para ver”, da palavra última e definitiva que exigia uma longa e demorada avaliação dos fenómenos sociais. O Vaticano intervinha empurrado por uma realidade que já transformara boa parte do mundo e sobre a qual quase tudo já havia sido dito.

Por sua vez, o Papa Francisco recuperou décadas de atraso da Igreja Católica em relação à “questão ambiental” que as outras Igrejas já tinham relevado como incontornável. Fê-lo com uma encíclica memorável, a Laudato si’. A Igreja Católica chegava tarde ao debate sobre a crise climática, mas, graças à genialidade espiritual de um Papa e ao inquestionável conhecimento científico dos conselheiros de que se rodeou, marcava de forma irrevogável o futuro da “questão ambiental”.

Francisco veio propor uma nova interpretação das causas profundas da destruição do planeta e oferecer uma visão abrangente e articulada das crises que a humanidade enfrentava e enfrenta. Ao mesmo tempo, na sua Laudato si’ cunhava conceitos e expressões que se tornariam parte incontestada do património de quantos defendem a sustentabilidade do planeta. A Igreja chegava no século XXI a uma “questão social” vinda do século anterior, mas conseguia unificar as suas anteriores intervenções parcelares e acções dispersas num documento poderoso que a academia recebeu com respeito e agrado.

A urgência que agora move o Papa americano, não é a do desejo de protagonismo, ou a do medo que dele se esqueçam. O que o move é a consciência de que, perante os avanços da IA, a Humanidade — que Deus criou tão amorosamente que merece ser apelidada de “magnífica” — enfrenta uma “escolha decisiva”: ou a aproveita para “fazer amadurecer a história como um lugar onde a dignidade de cada pessoa seja salvaguardada, a justiça promovida e a fraternidade possibilitada”; ou permite que com ela se construa “um mundo desumano e mais injusto”.

Esta é também uma dupla inovação trazida ao pensamento social católico pela Magnifica Humanitas: não se trata de ponderar os efeitos positivos e os negativos de uma nova tecnologia — aplicando erroneamente às questões sociais o famoso “sim, mas também” que tão bons serviços prestou à teologia —, ou de apelar a grupos ou classes sociais para que encontrem soluções que permitam superar os conflitos. Nada disso. Do que se trata é de desafiar todos e cada um a contribuir, aos diferentes níveis de responsabilidade, para um desenvolvimento controlado da IA que garanta em cada momento a promoção do desenvolvimento integral de cada ser humano.

Controlados por um poder opaco

Optar entre aqueles dois pólos daquela “escolha decisiva” parece simples, fácil e indiscutível. Entre um mundo que salvaguarde a dignidade de cada pessoa e um mundo desumano e injusto, haverá dúvidas sobre qual escolher?

Há. Mais do que dúvidas. Há práticas, opções, comportamentos e processos quotidianos que criam relações e realidades desumanas e injustas favoráveis à consolidação de uma “lógica da eficiência, do domínio e do lucro que governe por si só as escolhas pessoais, sociais e económicas”.

A mentalidade dominante, não apenas em países do Ocidente, mas um pouco por todo o mundo, é condicionada pelo “paradigma tecnocrático em que estamos imersos, potencializado pela revolução digital e pela IA”, paradigma que faz “parecer justa e normal uma visão anti-humana, segundo a qual a plenitude da vida consistiria em possuir mais”. E possuir mais parece ser a ambição que todos querem ver preenchida.

Sobretudo numa época em que os antagonismos são favorecidos pelas “redes de comunicação, os ambientes informativos fragmentados e os algoritmos que privilegiam o confronto” e, assim, amplificam “a polarização e o ressentimento, aceleram a propaganda e dificultam o discernimento comum”. Por esta via se “consolida uma cultura do poder, na qual a disponibilidade de meios e a capacidade de dominar tendem a ditar a agenda e os critérios de decisão”.

A esta cultura de poder que “penetra na sociedade, altera relações e comportamentos”, o Papa junta os mecanismos de desinformação que criam uma falsa “identidade colectiva construída contra um inimigo”, alimentada por “narrativas nas quais cada um se apresenta como vítima com direito à vingança” criadas a partir das “simplificações — ‘primeiro, eu’, ‘amigo-inimigo’, ‘nós-eles’”.

Mas, para além dos que se deixam persuadir de que todos estão contra eles, os ditos “ambientes informativos fragmentados e os algoritmos” ajudam a criar o “súbdito ideal do totalitarismo”, que, “como escreveu a filósofa Hannah Arendt, não é tanto o ideologicamente convencido, mas ‘aquele para quem já não existe a diferença entre o facto (isto é, a realidade da experiência) e a ficção, nem a diferença entre verdadeiro e falso (que constituem os critérios do pensamento)’”.

Vive-se, deste modo, num patamar onde o risco que a Humanidade enfrenta “não é apenas que algumas tecnologias sejam mal usadas”. O perigo consiste no facto da técnica ter deixado de ser um mero instrumento e se ter tornado o critério, ou seja, é ela que “acaba por determinar o que é importante e o que pode ser descartado, reduzindo a criação a objecto de exploração e as pessoas a engrenagens de um sistema que quer ser sempre mais eficiente”.

Se a decisão sobre o que “é importante e o que pode ser descartado” deixa de pertencer às pessoas e às sociedades, ela também não é prerrogativa dos Estados, pois “no contexto digital, o controle das plataformas, das infra-estruturas, dos dados e da capacidade de computação” pertence a “grandes atores económicos e tecnológicos que, na prática, estabelecem as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação”.

Ora, conclui o Papa, “quando um poder desta magnitude se concentra na mão de poucos, ele tende a tornar-se opaco e a fugir ao controle público, aumentando o risco de um desenvolvimento distorcido que gera novas dependências, exclusões, manipulações e desigualdades”.

Críticas de dentro e de fora

Por todo o mundo a Imprensa saudou calorosamente a entrada de Leão XIV no debate sobre a Inteligência Artificial. De tal modo que ao fazer para o jornal 7MARGENS a recensão dos títulos de primeira página e dos editoriais que os jornais europeus e das Américas dedicaram à encíclica, o jornalista Eduardo Jorge Madureira escreveu: “Ninguém diria que uma encíclica papal se poderia apresentar como um tema jornalisticamente relevante. (…) As conhecidas proclamações sobre a irrelevância da voz da Igreja Católica não foram escutadas”.

Tão rápidas quanto as apreciações laudatórias, surgiram as críticas. Vindas do interior e do exterior da Igreja Católica. De dentro, o desinteresse distanciado das correntes mais espiritualistas para as quais o Papa não tem de perder tempo com estas questões, pois o seu múnus específico consiste no anúncio das verdades evangélicas e tratar da alma e do espírito, dedicando-se às coisas de Deus.

Se estas vozes se exprimem em surdina, já de Silicon Valley vieram críticas bem audíveis atestando que “o Vaticano não pode ter uma posição sobre a IA, porque não a entende”. Pelo mesmo diapasão alinhou Doug Burgum, membro da Administração Trump em entrevista à Fox Business: “Não sabia que opinar sobre tecnologia fazia parte do papel do Papa”.

Outra crítica surgiu de meios eclesiais de diferente cariz, acusando Leão XIV de ter caído no logro que denúncia ao dar eco e direitos de cidadania “ao tema que está em todas as conversas, que os bilionários de Silicon Valley tornaram o assunto do momento”, levando a Igreja a entrar “no debate que o hemisfério Norte, as empresas mais poderosas do mundo, definiram como central” e “ao entrar nele — mesmo que criticamente — legitima-o como o debate que importa”.

Para estes críticos, nada do que o Papa escreve está errado. Mas gostariam que a encíclica desse conta de que “há um mundo enorme que não debate algoritmos e que vive com problemas que a IA não vai resolver” — esse mundo “merecia ser o ponto de partida” para uma avaliação crítica dos desenvolvimentos da Inteligência Artificial à luz da tradição evangélica.

Tal como se apresenta, o texto papal parece dar a primazia à IA e permite a interrogação: “A IA é importante. Mas é assim tão mais importante do que a fome, a água, as guerras que já existem, as migrações forçadas, a solidão que corrói as sociedades por dentro?”. E à interrogação, segue-se a crítica: “O documento toca em tudo isso — mas de passagem, como contexto para a questão tecnológica. A IA é o primeiro plano. O resto é cenário”.

Mais contundente é a apreciação negativa das propostas de Leão XIV para controlar os desenvolvimentos da Inteligência Artificial e garantir que estes são colocados ao serviço de todos e do aprofundamento da dignidade humana de cada um. A ideia de que “os Estados e as instituições supranacionais são chamados a garantir regras justas e tutelas efectivas” sobre os produtos da IA é fustigada por quantos vêem nela um apelo “aos burocratas de Bruxelas” e “às ineficazes intervenções das Nações Unidas” que apenas adiam o desenvolvimento tecnológico, sem democratizar as suas aplicações.

A IA e a guerra permanente

Para um Papa que começou o seu pontificado com a invocação de “uma paz desarmada e uma paz que desarma”, o tema da guerra não podia estar ausente quando discorre sobre a IA, tanto mais que esta se tornou essencial na preparação, no desenho e na concretização das acções de guerra mais violentas.

Leão XIV constata o que todos sabemos: “Assistimos a uma verdadeira mudança de paradigma no discurso público e nas decisões em matéria de rearmamento, com uma preocupante reabilitação da guerra como instrumento de política internacional”. Ao mesmo tempo, degradam-se “os critérios éticos que tinham limitado o seu uso” como meio de resolver os conflitos e, em simultâneo, confere-se, ilicitamente, “decisões letais a sistemas artificiais”.

Resumindo, a visão do Papa americano é a de que a guerra é hoje uma opção normalizada pelo discurso armamentista e ninguém se assume como responsável pela decisão de onde, quem, quando matar e destruir. A Inteligência Artificial é que decide. Contra este estado de coisas, Leão XIV é peremptório: “Não existe algoritmo que possa tornar a guerra moralmente aceitável”.

Enquanto o mundo assiste à explosão à distância que apenas mata e destrói no espaço do inimigo e muitos se congratulam com o facto de os “nossos rapazes” não serem sequer beliscados porque se encontram a milhares de quilómetros do conflito, acompanhando sistemas auto-inteligentes que levam a cabo operações antes protagonizadas por soldados, aviadores e marinheiros, o Papa escreve uma encíclica para exigir que “a responsabilidade e eventuais culpas [no uso das armas] não se dissolvam ‘na máquina’, ou em processos pouco transparentes ou automatizados”.

Quando estão em jogo vidas humanas, a decisão de matar ou de as poupar não pode ser deixada ao arbítrio de um qualquer sistema artificial por mais sofisticado que seja. Coerente com a sua cruzada em favor da paz e do diálogo como meio de resolução dos conflitos, Leão XIV exige que “a cadeia de responsabilidades deve permanecer identificável e verificável: quem projecta, quem treina, quem autoriza e quem utiliza [armas incorporando IA] deve poder prestar contas das suas escolhas”.

A formulação destas exigências representa um sobressalto num tempo em que “a guerra não só não é combatida, como é preparada culturalmente através de narrativas simplistas, lógicas de amigo-inimigo, desinformação e medo” e “a violência é apresentada como necessária, inevitável ou mesmo ‘limpa’ e a humanidade se encontra a resvalar para a cultura violenta do poder, onde a paz já não aparece como uma tarefa a assumir, mas como um intervalo precário entre conflitos”.

Promessas enganadoras

É preciso, diz o Papa, fazer uma pausa na corrida à Inteligência Artificial e ponderar prudentemente que mundo e que humanidade ela está a construir, mesmo que disso não tenhamos consciência. E essa reflexão não pode ser feita apenas pelos poucos que pensam controlá-la, mas que na realidade mais não fazem do que direccioná-la. É preciso responsabilizar o seu uso, torná-lo transparente e garantir que a todos beneficia. Mas é também necessário conhecer os contornos da guerra cultural que ela veio potencializar.

Para evidenciar os pressupostos culturais que acompanham a revolução digital em curso, o Papa identifica “algumas correntes que colonizam o imaginário colectivo de forma simplificada, especialmente nos meios de comunicação e nas redes sociais” nos quais tratam de confundir o progresso com a “superação do humano”, estimulando o “entusiasmo pelas novas tecnologias com uma visão futurista do ‘homem aperfeiçoado’ ou do ‘homem hibridado’ com a máquina”.

Essas correntes, apostadas num projecto de poder capaz de “eliminar o imprevisto, controlar tudo” e “reduzir a fragilidade humana” articulam-se, quer no transumanismo, que, em linhas gerais, “imagina um aperfeiçoamento do ser humano através das tecnologias (biomedicina, engenharia corporal, dispositivos, algoritmos), aspirando a aumentar o seu desempenho e capacidades”, quer no pós-humanismo que aponta para “uma forma de hibridação entre o ser humano, a máquina e o ambiente, chegando a imaginar uma transição em que a humanidade se superará a si própria, entrando num novo estádio de evolução”.

Mas que risco, que perigo real representam tais correntes científico-ideológicas que parecem pertencer mais a um enredo de ficção-científica do que ao mundo concreto em que vivemos?

O alerta do Papa Prevost pode sintetizar-se deste modo: a promessa de um homem sem limites, liberto de todas as fragilidades, do erro e eventualmente da própria morte, é um horizonte de desumanização em que o ser humano será “tratado como matéria a aperfeiçoar ou a ultrapassar” e será “mais fácil aceitar que alguns sejam considerados menos úteis, desejáveis e dignos”.

Já, actualmente, sublinha o documento papal, “tudo o que se apresenta como ‘limite’ — incapacidade, doença, velhice, sofrimento, vulnerabilidade — tende a ser interpretado, antes de mais, como um defeito a corrigir, e não como um espaço onde o humano amadurece e se abre à relação”.

Em contracorrente com esse pensamento dominante, o Papa recorda “que o humano não floresce apesar dos limites, mas, muitas vezes, através dos limites” e, mais: “É precisamente na nossa limitação que encontram espaço a compaixão, a sincera preocupação perante as necessidades dos outros, a generosidade que surpreende mesmo no meio da escuridão e do fracasso, a experiência espiritual e a adoração de Deus”.

É essa a escolha decisiva, resume Leão XIV, que a magnífica humanidade criada por Deus tem perante si: erguer uma nova torre de Babel, personificação de um poder humano sem limites, mas em que ninguém se entende; ou construir a cidade edificada com base na cooperação de todos e o contributo de cada um, em que Deus e a humanidade habitam juntos.

Jornalista. Editor do jornal 7MARGENS

Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: feeds.feedburner.com