A encíclica de Leão XIV: a IA deve servir à humanidade, não ao poder de poucos
No 135º aniversário da “Rerum novarum”,
o Pontífice reflete, em sua primeira encíclica, “Magnifica humanitas”, sobre a
Doutrina Social da Igreja na era da inteligência artificial. O apelo para
preservar “uma magnífica humanidade habitada por Deus”, promovendo a verdade, a
dignidade do trabalho, a justiça social e a paz. Na era digital, é preciso
desarmar a IA e superar a teoria da “guerra justa”, relançando o diálogo e o
multilateralismo.
“A magnífica humanidade criada por Deus
encontra-se hoje diante de uma escolha decisiva: erguer uma nova torre de Babel
ou construir a cidade onde Deus e a humanidade habitam juntos”. O incipit da
primeira encíclica de Leão XIV – Magnifica humanitas, “sobre a
salvaguarda da pessoa humana na era da inteligência artificial” – resume suas
razões fundamentais e seu objetivo. Publicada hoje, segunda-feira, 25 de maio,
foi assinada pelo Pontífice no último dia 15 de maio, no 135º aniversário da
promulgação da Rerum novarum de Leão XIII. E de seu
predecessor, o Papa Prevost recolheu a herança, escrevendo uma encíclica social
que aborda um dos principais desafios da época contemporânea: a inteligência
artificial. Dividida em cinco capítulos, Magnifica humanitas parte
de um pressuposto: a tecnologia não é uma “força antagônica em relação à
pessoa” (4), nem “um mal em si mesma” (9). No entanto, ela “não é neutra, pois
assume o rosto daqueles que a concebem, a financiam, a regulam e a utilizam”.
Daí, o apelo do Pontífice para “construir o bem” e “permanecer humanos”,
seguindo a lógica da corresponsabilidade corajosa e da comunhão.
A Doutrina Social da Igreja
O primeiro capítulo – Um
pensamento dinâmico fiel ao Evangelho – repercorre a Doutrina Social
da Igreja (DSI) no magistério recente e no Concílio Vaticano II, destacando “o
seu caráter dinâmico” (17). Longe de ser “um manual de princípios e normas a
serem aplicados”, a DSI é antes uma “teologia da comunhão na história” (27) que
orienta a leitura dos acontecimentos à luz do Evangelho. No segundo capítulo,
Leão XIV enumera os Fundamentos e princípios da Doutrina Social da
Igreja: entre os primeiros, inclui a dignidade da pessoa, criada à imagem e
semelhança de Deus; a inviolabilidade dos direitos humanos, entre os quais o
direito à vida “desde a concepção até ao seu fim natural”; o reconhecimento dos
direitos das minorias, com especial atenção às mulheres, para que sejam
verdadeiramente ouvidas e valorizadas (57).
LEIA
AQUI O TEXTO INTEGRALE DA ENCÍCLICA DE LEÃO XIV "MAGNIFICA
HUMANITAS"
É inaceitável subjugar uma nação
Quanto aos princípios da DSC, Leão XIV
aponta cinco: o primeiro é o bem comum, “forma social da dignidade reconhecida
a cada um” (59). Em um ponto, o Papa é particularmente firme: “A promoção do
bem comum nunca pode ser separada do respeito ao direito dos povos de existir,
de preservar sua identidade e de contribuir com sua originalidade para a
família das nações”. Consequentemente, “qualquer tentativa ou projeto de
eliminar ou subjugar uma nação é gravemente imoral e, portanto, inaceitável”
(64).
A tecnologia não deve estar nas mãos de
poucos
O segundo princípio diz respeito à
destinação universal dos bens: aí e em outros pontos da encíclica, Leão XIV
insiste na necessidade de que as tecnologias não se concentrem nas mãos de
poucos, alimentando a disparidade entre os incluídos e os excluídos da
revolução digital (67). Daí decorrem o terceiro e o quarto princípios, a saber,
a subsidiariedade (68) – que exige a superação do paternalismo e do
assistencialismo em favor da corresponsabilidade – e a solidariedade (73),
“princípio e virtude” que se opõe à indiferença.
A justiça social
O quinto princípio da DSC é a justiça
social: na era digital, ela deve garantir a todos um acesso equitativo às
oportunidades, proteger os mais vulneráveis, combater o ódio e a desinformação
e submeter o uso das tecnologias ao controle público. Leão XIV aponta os
migrantes como um “teste decisivo” nesse campo: a maneira como a sociedade os
trata demonstra “se a ideia de justiça é guiada pelo medo ou pela
fraternidade”. Daí, o apelo tanto para salvaguardar “o direito à esperança”
daqueles que são forçados a partir, garantindo-lhes vias seguras e legais,
acolhimento digno e integração; quanto para promover “o direito de permanecer”
de cada um em sua terra, em paz e segurança, enfrentando “as causas profundas”
das migrações (81). O Pontífice entende que os cinco princípios acima
mencionados se dirigem também à Igreja, chamada a “um exame de consciência”, a
ouvir as “vítimas de abusos espirituais, econômicos, institucionais, sexuais,
de poder e de consciência”, pois isso “é parte integrante de um caminho de justiça,
que compreende o reconhecimento do dano, a reparação justa e a prevenção” (89).
Um código ético para a IA
O terceiro capítulo – Técnica e
domínio. A grandeza da pessoa humana diante das promessas da IA –
ressalta que é preciso abordar a IA com cautela, mantendo clareza sobre as
responsabilidades em todas as suas etapas (accountability) e apostando
em políticas e marcos jurídicos adequados, vigilância independente e educação
dos usuários. Acima de tudo, é necessário um código ético submetido a critérios
de justiça social compartilhada, pois “não serve uma IA mais moral se essa
moral for decidida por poucos” (107). Sem deixar de lado o impacto ambiental
das novas tecnologias, que exigem grandes quantidades de energia e água,
afetando a Criação (101).
Desarmar a IA
É preciso “desarmar a IA” – prossegue
Leão XIV – para subtraí-la à lógica da competição militar, econômica e
cognitiva; para romper a equivalência entre poder técnico e direito de
governar; para subtraí-la aos monopólios e impedir que domine o humano. Amplo
espaço é dedicado à crítica do transumanismo e do pós-humanismo,
que interpretam o progresso como a superação dos limites do humano. Em vez
disso, o limite não é um defeito a ser eliminado, mas uma dimensão constitutiva
da pessoa, pois é na fragilidade e na finitude que amadurecem a relação e a
abertura a Deus e ao outro. Fazer a tecnologia crescer eliminando os limites do
humano significa, portanto, fazer o coração regredir. Magnífica e, ainda assim,
ferida, a humanidade “não deve ser substituída nem superada”. A tecnologia pode
aliviar seus sofrimentos e abrir-lhe novas possibilidades, mas não deve negá-la
naquilo que lhe é próprio: “a capacidade de relação e de amor” (126). Diante da
IA, a verdadeira alternativa não está entre o entusiasmo e o medo, mas entre
duas formas de construir o progresso: a serviço da pessoa e dos povos ou das
lógicas do poder (129).
Uma ecologia da comunicação
No quarto capítulo – Preservar o
humano na transformação. Verdade, trabalho, liberdade –, a encíclica
defende uma “ecologia da comunicação” baseada na verdade. O Papa pede
transparência nos critérios de seleção de conteúdos, proteção dos dados
pessoais, um jornalismo sério fundamentado na argumentação e na verificação,
uma nova consciência no uso “correto e crítico” da IA e a integração dos
conhecimentos. Uma comunicação transparente e leal é exigida também da Igreja,
sobretudo nos casos de injustiças e abusos. É fundamental também o apelo a uma
aliança educativa renovada, para que nos jovens não se apague “o desejo de
fazer perguntas” por causa de máquinas perfeitas que fazem parecer inútil o
pensamento humano (140). Leão XIV pede ainda que se aposte na escola como lugar
onde se aprende a “buscar e amar a verdade” (147).
A dignidade do trabalho
Na “quarta revolução industrial”
representada pela transição digital, o Pontífice ressalta então a importância
de proteger a dignidade do trabalho, projetando sistemas centrados na pessoa e
não apenas no desempenho. A tecnologia pode certamente aliviar o homem de
tarefas pesadas ou repetitivas, mas não deve levar ao desemprego em nome da
redução de custos e do aumento do lucro. Nesse sentido, espera-se também uma
renovação das organizações sindicais.
Paz e desenvolvimento
O Pontífice destaca, em seguida, a
necessidade de superar o PIB como parâmetro do grau de desenvolvimento de um
país, apostando, em vez disso, na dignidade do trabalho, na prosperidade
compartilhada, na redução das desigualdades e na preservação do meio ambiente.
A finança pela finança é, de fato, diferente da finança para o desenvolvimento
(159-160). E, seguindo os passos de São Paulo VI, destaca-se a interdependência
entre paz e desenvolvimento, almejando uma cooperação internacional capaz de
definir estratégias comuns, sobretudo em favor dos países e dos grupos mais
vulneráveis, pois a prosperidade contribui para a paz “somente se for
difundida, inclusiva e sustentável” (163). É forte, ainda, a referência à
família, fundada na união estável entre um homem e uma mulher: ela é “bem
social primário”, “célula fundamental e insubstituível de toda organização
comunitária” (165), que deve ser apoiada também por meio de políticas do
trabalho em favor da estabilidade e de ritmos humanos, para assim proteger a capacidade
social de “construir o futuro”.
A “arquitetura da visibilidade”
Por fim, a questão da liberdade humana:
numa época em que as plataformas digitais são projetadas para capturar o tempo
dos usuários e explorar suas fragilidades, é preciso fortalecer a liberdade
interior de cada um, enfrentando também o risco do controle social decorrente
da coleta massiva de dados e do uso de sistemas algorítmicos. Perfilar, prever
e orientar comportamentos, de fato, é “um novo poder” (171) que corre o risco
de discriminar os mais fracos. O Papa deplora, em particular, a “arquitetura da
visibilidade” que amplifica apenas o que é visível, moldando as opiniões.
Novas formas de escravidão e novo
colonialismo
A IA também gera novas formas de
escravidão, como a dos “corpos marcados, mutilados, consumidos” (173) daqueles
que trabalham na extração das “terras raras” necessárias à tecnologia.
Portanto, a luta contra as novas formas de escravidão é outro “teste decisivo
para o discernimento ético” da transformação digital. Leão XIV ressalta que “a
Igreja renova sua firme condenação contra toda forma de escravidão, tráfico e
mercantilização de pessoas”. Ao mesmo tempo, o Papa pede “sinceramente perdão”
pelo atraso com que a Igreja, no passado, condenou “o flagelo da escravidão”
(174-176). A encíclica também faz referência às “novas terras raras do poder”,
ou seja, as informações vitais – por exemplo, sobre saúde e demografia –
utilizadas para orientar estratégias econômicas: trata-se de uma face inédita
do colonialismo que transforma vidas pessoais em informações exploráveis,
tornando o ambiente digital um “espaço de predação” (178-179).
Superar a teoria da “guerra justa”
No quinto capítulo — A cultura
do poder e a civilização do amor —, Leão XIV volta seu olhar para a
guerra: “A revolução digital está modificando a gramática dos conflitos” e, sem
uma abordagem ética, as decisões sobre a vida e a morte das pessoas serão cada
vez mais impessoais, com o recurso à força considerado uma “opção imediata e
viável” (182-183). Na base de tudo está uma “cultura do poder” que normaliza a
guerra e a reabilita como “instrumento de política internacional”, favorecendo
o rearmamento. Sobre a opinião pública pesam hoje também as narrativas midiáticas
polarizadoras, bem como “uma preocupante perda de memória histórica” que priva
de uma visão de longo prazo (191). Consequentemente, hoje a paz não é mais
entendida como uma tarefa a ser assumida, mas como um intervalo entre os
conflitos. Por isso, Leão XIV reitera que – sem prejuízo do direito à legítima
defesa no sentido mais estrito – é preciso superar a teoria da “guerra justa”,
promovendo, em vez disso, o diálogo, a diplomacia e o perdão (192).
Nenhum algoritmo torna a guerra
moralmente aceitável
O Papa Prevost não deixa de deplorar o
crescimento da indústria bélica, a corrida aos armamentos nucleares e o
surgimento de novos atores armados – entre os quais os jihadistas – que visam
perpetuar os conflitos como fonte de poder e de renda. É clara, ainda, a
advertência contra o uso de armas ligadas à IA, pois “não existe algoritmo que
possa tornar a guerra moralmente aceitável”. São necessárias restrições éticas
rigorosas, compartilhadas internacionalmente, baseadas na responsabilidade
pessoal e na proteção dos civis, pois “toda tecnologia que facilita atacar sem
ver o rosto do outro abaixa o limiar moral do conflito” (199).
A crise do multilateralismo
A cultura do poder decorre também da
crise do multilateralismo e do surgimento de um “multipolarismo desordenado e
conflituoso” (201). A força do direito é substituída pelo direito do mais
forte; as lógicas do poder prevalecem sobre a construção da paz e as
instituições criadas para zelar pelo destino comum dos povos estão agora
enfraquecidas. A esse respeito, o Papa deseja para a ONU “reformas profundas”
que superem a atual crise de valores em favor do bem comum (226).
A civilização do amor
O cristão é chamado a responder à
cultura do poder construindo “a civilização do amor” e escolhendo entre
alimentar a lógica da força ou zelar pela paz. O Papa aponta cinco “caminhos de
responsabilidade”: desarmar as palavras dizendo a verdade; construir a paz na
justiça; assumir o olhar das vítimas tomando posição, pois há conflitos em que
“não é justo permanecer neutro”; cultivar “um saudável realismo” que busque
caminhos de paz viáveis com os fatos, não apenas com palavras. Por fim,
relançar o diálogo, passando de uma cultura do poder para uma cultura da
negociação. É decisivo também “o diálogo entre as religiões”, portador de uma
mensagem de paz: “Quem usa o nome de Deus para legitimar o terrorismo, a
violência ou a guerra trai o seu rosto” é a advertência de Leão XIV (223).
A magnífica humanidade
Ao concluir a carta, o Pontífice convida
os fiéis a viver as novas tecnologias à luz do Evangelho, seguindo “um
itinerário de vida cristã sóbrio e exigente”. Para que, mesmo na era da IA,
todos possam testemunhar “a beleza de uma magnífica humanidade habitada por
Deus”.