Papa Francisco buscou o coração humano por trás da inteligência artificial

Tecnologia e a grande beleza

Na encíclica Laudato Si' (2015), conhecida por sua conexão com temas sobre meio ambiente e sustentabilidade, Francisco também traz importantes reflexões sobre tecnologia, criticando o "paradigma tecnocrático" que prioriza o lucro e o poder em detrimento da humanidade e do meio ambiente.

O Pontífice não desconsidera os avanços trazidos pela tecnologia — e chega até mesmo a dizer que a busca pelo avanço tecnológico produz beleza ("Poder-se-á negar a beleza de um avião ou de alguns arranha-céus?") — mas é preciso questionar as finalidades do progresso tecnológico.

Ele observa: "O paradigma tecnocrático tende a dominar a economia e a política. A economia assume todo o desenvolvimento tecnológico em função do lucro, sem se preocupar com eventuais consequências negativas para o ser humano". Para o pontífice, a tecnologia, quando mal orientada, "não é capaz de ver o mistério das múltiplas relações que existem entre as coisas e, por isso, às vezes resolve um problema criando outros".

Essa crítica se aprofunda em Fratelli Tutti, encíclica na qual Francisco detalha como o progresso verdadeiro só acontece com a promoção da fraternidade e da inclusão. É nessa encíclica que se encontra uma visão clara do Pontífice sobre o fato de que o acesso a conteúdos na Internet não necessariamente traz sabedoria.

Segundo o papa: "A sabedoria não se fabrica com buscas impacientes na internet, nem é um somatório de informações cuja veracidade não está garantida. Desta forma, não se amadurece no encontro com a verdade. (...) Assim, a liberdade transforma-se numa ilusão que nos vendem, confundindo-se com a liberdade de navegar frente a um visor. O problema é que um caminho de fraternidade, local e universal, só pode ser percorrido por espíritos livres e dispostos a encontros reais."

Inteligência Artificial na visão do papa

Papa Francisco fala ao telefone e interrompe audiência na Praça São Pedro Imagem: GUGLIELMO MANGIAPANE/REUTERS

O tema da IA ganhou destaque na mensagem para o Dia Mundial da Paz de 2024, intitulada "Inteligência Artificial e Paz". Aqui, Francisco reconhece o potencial da IA, mas alerta para seus riscos, especialmente quando usada sem critérios éticos.

O papa afirma que avanços tecnológicos só merecem esse nome se efetivamente incluírem mais pessoas no proveito das oportunidades que eles geram. Saltos tecnológicos que terminam por aumentar o abismo entre as pessoas não deveriam ser vistos como progresso.

Segundo o Pontífice: "A dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana devem estar na base do desenvolvimento de novas tecnologias e servir como critérios indiscutíveis para as avaliar antes da sua utilização, para que o progresso digital possa verificar-se no respeito pela justiça e contribuir para a causa da paz. Os avanços tecnológicos que não conduzem a uma melhoria da qualidade de vida da humanidade inteira, antes pelo contrário agravam as desigualdades e os conflitos, nunca poderão ser considerados um verdadeiro progresso."

Essa comunicação do papa possui algumas mensagens bem direcionadas, como quando fala sobre algoritmos para a formação de perfis pessoais e o uso desses dados para criar um sistema de ranqueamento de indivíduos, conferindo certa pontuação a partir de suas interações com empresas privadas e o poder público.

Na China, implementações dessa ferramenta, conhecida como "sistema de crédito social", parecem ter despertado a atenção do Pontífice quando ele diz que "o ato de se confiar a processos automáticos que dispõem os indivíduos por categorias, por exemplo, através dum uso invasivo da vigilância ou da adoção de sistemas de crédito social, poderia ter repercussões profundas também no tecido civil, estabelecendo classificações inadequadas entre os cidadãos."

O papa chega a fazer um apelo para que a comunidade internacional trabalhe em conjunto para produzir um tratado sobre o desenvolvimento e o uso de IA. Segundo Francisco: "A este respeito, exorto a Comunidade das Nações a trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas. Naturalmente o objetivo da regulamentação não deveria ser apenas a prevenção de más aplicações, mas também o incentivo às boas aplicações, estimulando abordagens novas e criativas e facilitando iniciativas pessoais e coletivas."

O papa como alvo de deepfake

Na mensagem para o 58º Dia Mundial das Comunicações Sociais (2024), Francisco reflete sobre o impacto da IA na comunicação, evidenciando seus aspectos positivos e negativos.

"Os sistemas de inteligência artificial podem contribuir para o processo de libertação da ignorância e facilitar a troca de informações entre diferentes povos e gerações. Por exemplo, podem tornar acessível e compreensível um patrimônio enorme de conhecimentos, escrito em épocas passadas, ou permitir às pessoas comunicarem em línguas que lhes são desconhecidas. Mas simultaneamente podem ser instrumentos de «poluição cognitiva», alteração da realidade através de narrações parcial ou totalmente falsas, mas acreditadas - e partilhadas - como se fossem verdadeiras."

Papa Francisco no final da audiência geral semanal em 18 de setembro de 2024 na praça de São Pedro, no Vaticano Imagem: FILIPPO MONTEFORTE/AFP

Ao tratar do uso da IA para criar conteúdos falsos, o próprio papa reconhece que ele já foi vítima dessas manipulações, como na foto viral em que Francisco aparece usando um casaco branco estilo puffer.

"Basta pensar no problema da desinformação que enfrentamos, há anos, no caso das fake news e que hoje se serve da deep fake, isto é, da criação e divulgação de imagens que parecem perfeitamente plausíveis, mas são falsas (já me aconteceu também ser objeto delas), ou mensagens-áudio que usam a voz duma pessoa, dizendo coisas que ela própria nunca disse. A simulação, que está na base destes programas, pode ser útil nalguns campos específicos, mas torna-se perversa quando distorce as relações com os outros e com a realidade."

Francisco também levou sua mensagem a fóruns internacionais. Em 2020, ele endossou o Rome Call for AI Ethics, uma iniciativa do Vaticano, em conjunto com parceiros empresariais, como IBM e Microsoft, e do terceiro setor, para promover princípios éticos na IA, como transparência e inclusão. Ele reforçou a necessidade de colaboração global: "A tecnologia é um dom de Deus, mas exige uma ética que a oriente."

A Singularidade do Coração Humano

Na encíclica Dilexit Nos (2024), Francisco oferece uma reflexão poética sobre a limitação da IA frente à experiência humana. Ele escreve: "O algoritmo que atua no mundo digital mostra que os nossos pensamentos e as decisões da nossa vontade são muito mais standard do que pensávamos. São facilmente previsíveis e manipuláveis. Não é o caso do coração."

O papa então descreve como nosso comportamento pode ser rastreável e computável, mas que existe uma parte essencial da experiência humana que escapa às máquinas - e que é imperativo que todos nós busquemos preservar essa chama acesa em nossos corações.

O trecho é longo, mas vale muito a pena: "Na era da inteligência artificial, não podemos esquecer que a poesia e o amor são necessários para salvar o humano. O que nenhum algoritmo conseguirá abarcar é, por exemplo, aquele momento de infância que se recorda com ternura e que continua a acontecer em todos os cantos do planeta, mesmo com o passar dos anos. Penso na utilização do garfo para selar as bordas daquelas empadas caseiras que preparávamos com as nossas mães ou avós. É aquele momento de aprendizagem culinária, a meio caminho entre a brincadeira e a idade adulta, em que assumimos a responsabilidade do trabalho para ajudar o outro. Tal como o exemplo do garfo, poderia citar milhares de pequenos pormenores que sustentam a biografia de cada um: sorrir com uma piada, fazer um desenho em contraluz numa janela, jogar o primeiro jogo de futebol com uma "bola de trapos", cuidar de lagartas numa caixa de sapatos, secar uma flor entre as páginas de um livro, cuidar de um pássaro que caiu do ninho, formular um desejo ao despetalar uma margarida. Todos esses pequenos pormenores, o ordinário-extraordinário, nunca poderão estar entre os algoritmos. Porque o garfo, as piadas, a janela, a bola, a caixa de sapatos, o livro, o pássaro, a flor… são sustentados pela ternura preservada nas memórias do coração."

A visão do papa Francisco sobre tecnologia e IA é um chamado à responsabilidade ética e à centralidade do ser humano. Ele reconhece a tecnologia como um "dom de Deus", mas insiste que ela deve ser orientada por valores que promovam a dignidade, a fraternidade e a paz.

Se é certo que o papa será muito lembrado pelo seu ímpeto reformista, que procurou guiar a Igreja Católica em tempos de enormes transformações, esse olhar sobre tecnologia, que é menos conhecido, mas não menos importante, revela um Pontífice conectado com as promessas e atento aos riscos trazidos pelas redes sociais e pela IA.

Em um mundo cada vez mais tecnológico, Francisco nos convida a se maravilhar com os avanços tecnológicos e a estar alerta sobre os seus impactos em nossa compartilhada jornada humana