Em sua primeira mensagem para o 60º Dia Mundial das Comunicações Sociais, o papa Leão XIV diz que a inteligência artificial (IA) e as tecnologias digitais podem prejudicar as relações humanas e distorcer a realidade, a menos que sejam guiadas pela responsabilidade e fundamentadas na educação.

A mensagem do papa, intitulada Preservar vozes e rostos humanos, fala sobre a singularidade de cada pessoa e a necessidade de proteger o que ele chama de sinais "sagrados" da identidade humana numa era cada vez mais moldada por conteúdo gerado por inteligência artificial.

“O rosto e a voz são traços únicos e distintivos de cada pessoa”, escreve o papa Leão XIV. “Rosto e voz são sagrados”. Ele diz que protegê-los significa, em última análise, “preservarmo-nos a nós próprios”, já que o desafio representado da IA “não é tecnológico, mas antropológico”.

O papa adverte contra a entrega do julgamento humano a algoritmos e sistemas automatizados, particularmente aqueles criados para maximizar o engajamento nas redes sociais. "Embora a IA possa dar apoio e assistência na gestão de tarefas comunicativas, ao abstermo-nos do esforço do próprio pensamento, contentando-nos com uma compilação estatística artificial, corremos o risco de deteriorar, a longo prazo, as nossas capacidades cognitivas, emocionais e comunicativas", escreve ele.

O papa fala sobre novos riscos na interação online, falando sobre como pode ser difícil distinguir se há interação com uma pessoa real. "À medida que navegamos pelos nossos fluxos de informação (feeds), torna-se cada vez mais difícil compreender se estamos a interagir com outros seres humanos ou com bots ou influenciadores virtuais", escreve ele, dizendo que os chatbots podem ser usados ​​para "persuasão oculta" e podem "tornar-se arquitetos ocultos dos nossos estados emocionais".

Apontando para a crescente capacidade da IA ​​de fabricar conteúdo — inclusive “realidades paralelas” — o papa fala sobre os perigos da desinformação e exorta a um renovado compromisso com a verificação e o jornalismo de campo. Ele diz que “a falta de verificação das fontes” pode “alimentar a desinformação”, o que pode “favorecer um solo ainda mais fértil para a desinformação”.

Receba as principais de ACI Digital por WhatsApp e Telegram

Está cada vez mais difícil ver notícias católicas nas redes sociais. Inscreva-se hoje mesmo em nossos canais gratuitos:

Em vez de pedir a interrupção da inovação, o papa exorta ao discernimento e à governança, propondo o que diz ser “uma possível aliança” com a tecnologia digital — mas só com fundamentos claros. “Essa aliança é possível, mas tem de se basear em três pilares: responsabilidade, cooperação e educação”, escreve ele.

Sobre responsabilidade, o papa dirige-se às plataformas tecnológicas, aos desenvolvedores, aos legisladores e à mídia, instando-os a priorizar o bem comum em detrimento do lucro e a garantir transparência e proteção à dignidade humana. Ele também apela à rotulagem clara do conteúdo gerado por IA: "Os conteúdos gerados ou manipulados pela IA devem ser sinalizados e claramente distinguidos dos conteúdos criados por pessoas", escreve ele.

O papa fala sobre a necessidade de proteger o trabalho de jornalistas e criadores de conteúdo: “A autoria e a propriedade soberana do trabalho dos jornalistas e outros criadores de conteúdo devem ser protegidas”, escreve ele. “A informação é um bem público”.

A educação, diz ele, é essencial para desenvolver o pensamento crítico e a cidadania digital, e deve alcançar todas as gerações. “Como católicos, podemos e devemos dar o nosso contributo, para que as pessoas – especialmente os jovens – adquiram a capacidade de pensamento crítico e cresçam na liberdade do espírito”, escreve o papa Leão XIV, dizendo que essa alfabetização também deve alcançar “os idosos e os membros marginalizados da sociedade”.

A mensagem é datada de 24 de janeiro, memória de são Francisco de Sales, padroeiro dos escritores e jornalistas.