Santa Sé combate imagens deepfake de Leão XIV

Sep 25, 2025 / 14:30 pm

Você ouviu o que o papa Leão XIV disse sobre Charlie Kirk ou o presidente dos EUA, Donald Trump? O que ele pensa sobre o arrebatamento ou se é aceitável ser cremado?

Esses são alguns dos tópicos sobre os quais o papa aparece falando longamente em vídeos nas redes sociais. O problema é que os vídeos não são reais, e a Santa Sé está lutando para combater sua disseminação.

A equipe de comunicação da Santa Sé disse ter denunciado centenas de contas, a maioria no YouTube, que publicam vídeos falsos criados por inteligência artificial (IA) — chamados de deepfakes — do papa Leão XIV desde o início de seu pontificado.

“Estamos testemunhando a proliferação exponencial de vários canais no YouTube com vídeos falsos, todos semelhantes entre si, alguns falando na voz de Leão XIV, outros na de seus tradutores, outros ainda na terceira pessoa. Todos usam inteligência artificial para fazer o papa dizer coisas que ele nunca disse”, declarou o Dicastério para a Comunicação à CNA, agência em inglês da EWTN.

Qualquer busca no YouTube mostra dezenas de vídeos falsos do papa supostamente fazendo declarações que variam do plausível, como reflexões sobre a Eucaristia, ao improvável, como o anúncio de sua renúncia.

A maioria dos vídeos não recebeu mais do que algumas centenas de visualizações, mas alguns deepfakes começaram a viralizar. Um vídeo de 25 minutos dizendo que o papa quebrou o silêncio sobre o assassinato do militante cristão conservador americano Charlie Kirk teve cerca de 445 mil visualizações nos primeiros sete dias depois de sua publicação.

Um dos primeiros vídeos falsos a viralizar depois da eleição de Leão XIV mostra o papa lendo uma declaração que denuncia o colonialismo e elogia o presidente interino de Burkina Faso, capitão Ibrahim Traoré, que chegou ao poder através de um golpe militar em 2022. A CNA e o Vatican News, serviço oficial de informações da Santa Sé, publicaram artigos de checagem de fatos para alertar leitores sobre informações falsas. O vídeo de 36 minutos, publicado logo depois da eleição do papa em maio, teve pelo menos um milhão de visualizações antes que o YouTube encerrasse a conta que o publicou.

Deepfake

O termo deepfake, cunhado há cerca de uma década, refere-se a vídeos, fotos ou gravações de áudio alterados para mostrar pessoas fazendo ou dizendo coisas que nunca disseram ou fizeram.

Antes de Leão XIV, o papa Francisco também apareceu em vídeos e fotos falsas.

O próprio papa Leão XIV falou recentemente sobre um exemplo dessa confusão. Em entrevista à jornalista Elise Ann Allen, o papa falou sobre sua surpresa quando um conhecido lhe perguntou, preocupado, se ele estava bem. Fotografias geradas por IA do papa mostram o papa caindo de uma escadaria em frente à basílica de São Pedro, no Vaticano. As imagens, que circularam na internet em junho, chamaram a atenção do site de checagem de fatos Snopes. Eram "tão boas que eles pensaram que era eu", disse Leão XIV.

A equipe de comunicação da Santa Sé falou sobre a proliferação de deepfakes em seu boletim informativo mensal por e-mail no mês passado e pediu aos leitores que denunciem publicações e vídeos suspeitos.

“Infelizmente, nosso dicastério recebe dezenas de relatos todos os dias sobre contas falsas que usam a imagem e a voz do papa de uma forma muito realista, usando cada vez mais inteligência artificial para fazer o papa dizer palavras que ele nunca disse, para retratá-lo em situações nas quais ele nunca se viu”, disse o boletim.

“Grande parte do nosso tempo é gasto denunciando, silenciando e solicitando a remoção dessas contas”, disse também a mensagem. “Dado o enorme volume de material falso, é impossível refutar publicamente cada um deles”.

A declaração do dicastério à CNA diz que a Santa Sé não está só denunciando contas falsas em suas plataformas, mas também está "trabalhando para conscientizar nosso público sobre esse novo fenômeno".

“Acreditamos ser essencial investir na alfabetização midiática", disse o dicastério.