Papa Francisco advertiu sobre os possíveis perigos da inteligência artificial em um discurso na Cidade do Vaticano nesta quarta-feira (24), chamando o potencial dessa tecnologia de “ao mesmo tempo empolgante e desorientador”. A advertência ocorre após o próprio ser alvo de uma montagem que o mostrava usando um grande casaco branco. A imagem se tornou viral, mas foi criada usando IA.

Siga a Forbes no WhatsApp e receba as principais notícias sobre negócios, carreira, tecnologia e estilo de vida

“Neste momento da história, que corre o risco de se tornar rica em tecnologia e pobre em humanidade, nossas reflexões devem começar com o coração humano”, disse o Papa Francisco, de acordo com uma transcrição publicada pelo Vaticano.

Leia também:

A IA não vai roubar seu emprego tão cedo, dizem pesquisadores do MIT
IA e emoção: como seria viver em um mundo onde máquinas sentem?
Lu gamer? Influenciadora virtual entra para o time de embaixadores da Intel

A imagem do Papa Francisco usando um grande casaco branco inundou a internet em março de 2023, justamente porque muitas pessoas não sabiam que ela foi criada com inteligência artificial. Na época, ferramentas alimentadas por IA, como o MidJourney, que permite ao usuário criar imagens realistas usando apenas comandos de texto, eram novidade.

O Papa Francisco referiu-se diretamente à foto falsa na quarta-feira (24), alertando sobre o surgimento de “imagens que parecem perfeitamente plausíveis, mas são falsas (eu também fui alvo disso)”, e observando também que mensagens de áudio também podem “usar a voz de uma pessoa para dizer coisas que essa pessoa nunca disse”.

O Papa prosseguiu com uma mensagem para o mundo “trabalhar em conjunto para adotar um tratado internacional vinculativo que regulamente o desenvolvimento e uso da inteligência artificial em suas diversas formas”.

O surgimento de geradores de imagem baseados em IA tem causado considerável preocupação entre pessoas que veem imagens falsas sendo usadas na tentativa de influenciar a opinião popular. Mas não se trata apenas de alguém criando uma imagem falsa para fazer as pessoas acreditarem que algo é real. Há também o perigo das pessoas não acreditarem que algo é real. Alguns políticos, incluindo Donald Trump, já estão afirmando falsamente que lapsos capturados em vídeo são, na verdade, criações geradas por IA, assim como o ex-presidente fez em dezembro de 2023.

Papa Francisco observou que toda tecnologia é meramente uma extensão da humanidade, logo, pode ser usada para propósitos bons ou ruins, dependendo de nossas decisões.

“Dependendo da inclinação do coração, tudo ao nosso alcance se torna uma oportunidade ou uma ameaça. Nossos próprios corpos, criados para comunicação e comunhão, podem se tornar um meio de agressão. Da mesma forma, toda extensão técnica de nossa humanidade pode ser um meio de serviço amoroso ou de dominação hostil”, disse o religioso.

O Papa encerrou seu discurso com uma série de perguntas sobre o futuro, incluindo quem se beneficiará dessas novas tecnologias e como a tecnologia pode ser tornada mais acessível aos pobres.

“A resposta a essas perguntas não está predefinida; depende de nós. Nossa sabedoria amadurece usando o tempo sabiamente e abraçando nossas vulnerabilidades. Ela cresce no pacto entre gerações, entre aqueles que recordam o passado e os que olham para o futuro.”

O post Papa Francisco alerta sobre perigos da IA após foto viral apareceu primeiro em Forbes Brasil.