O Papa Francisco vestido com uma jaqueta puffer branca – nada mais sugestivo para portais de notícias, influenciadores e qualquer pessoa que goste, ou não, de moda – foi um dos temas do fim de semana. As análises, notícias e até mesmo críticas e opiniões divididas sobre o look do pontífice não duraram muito tempo até a revelação de que a imagem, na verdade, foi mais uma criação feita por inteligência artificial na plataforma Midjourney. O responsável foi o artista Pablo Xavier, de 30 anos. Residente em Chicago, Pablo divide o ofício com a carreira na Construção Civil e saiu do quase anonimato para uma visibilidade mundial.

A velocidade da repercussão, bem como a maneira como muitos veículos respeitados entenderam a imagem como uma “versão real” trouxe à tona novas discussões sobre como lidar com a inteligência artificial (IA) e seu poder de gerar textos, fotos, vídeos e uma série de outros conteúdos. A foto do Papa foi criada no Midjourney, ferramenta de IA que pode gerar imagens falsas e realistas. A imagem foi compartilhada no Reddit antes de chegar ao Twitter no fim de semana, onde a maioria das pessoas parecia pensar que era real.

Recentemente, o Midjourney também foi usado para criar imagens fotorrealistas do ex-presidente Donald Trump sendo preso. E Trump até compartilhou uma imagem falsa gerada por IA de si mesmo ajoelhado para rezar. À primeira vista, todas as imagens parecem ser fotos reais. Mas são todas falsificações da realidade criadas por computador. Além do Midjourney, outras ferramentas também têm o mesmo potencial, dentre elas o DALL-E e o Stable Diffusion, da OpenAI. Elas permitem que qualquer pessoa simplesmente descreva a imagem que deseja ver usando texto.

Leia mais: “O mérito do ChatGPT foi transcender a ficção”, diz presidente da OpenAI no SXSW

As imagens podem ser criadas porque as ferramentas foram treinadas em literalmente milhões de imagens da web, incluindo muitas imagens protegidas por direitos autorais. A foto do Papa traz uma série de reflexões sobre o impacto que a IA pode ter sob vários aspectos. Há algumas semanas, durante o SXSW, em Austin, no Texas, Greg Brockman, presidente da OpenAI, ao ser questionado sobre o quanto ferramentas como ChatGPT seriam eficientes na violação de direitos autorais e propriedade intelectual, afirmou que existe uma mudança em curso e que é necessário também uma discussão neste sentido.

“Neste momento, muito além do desafio da tecnologia, em si, temos uma equipe inteira dedicada a tornar o ChatGPT mais confiável. Assumimos, inclusive, que há muito a ser melhorado, como retirar os vieses do chatbot e a possibilidade de descentralizar cada vez mais nossa IA para que ela seja amparada em todo um ecossistema ancorado principalmente na comunidade”, disse se referindo ao ChatGPT, mas reforçando que isso vale para qualquer ferramenta de IA, inclusive o Midjourney.

Ele destacou que “existe muito a ser compreendido neste momento e reforço, não só pelos aspectos técnicos, mas, principalmente por questões comportamentais, de negócios e novas dinâmicas”, afirmou. Para Greg, em relação ao trabalho e as principais críticas de substituição de humanos por IA, é importante também considerar uma mudança em que a questão é delegar à tecnologia tarefas que podem ser automatizadas, dentre elas as que podem ser feitas por robôs.

Leia mais: Sam Altman, da OpenAI, fala sobre como a IA pode abalar o capitalismo

“A imagem do Papa não ensina a gente sobre o futuro da IA, mas sobre o futuro das redes sociais. Assim como no passados tivemos uma curva de aprendizado para lidar com redes sociais (para dar um exemplo, quem não lembra de algum famoso deixando o número do celular pessoal aberto na rede), agora passaremos por uma nova curva de aprendizado. Não aprendemos ainda a lidar com textos falsos, agora teremos que aprender a lidar com imagens, vídeos e áudios falsos. A imagem do Papa é relevante nessa discussão por ser algo simplório. Apesar da relevância, não é um disco voador ou um pé grande. Em um mundo que beira o surreal, o pontífice usando uma roupa da moda ou o Trump sendo preso são possíveis, ainda q improváveis. Teremos que aprender a lidar com isso, e rápido”, diz Ricardo Cavallini, professor da Singularity University.

De acordo com Julia Pazos, sócia e head da área de Propriedade Intelectual, Inovação, Tecnologia e Privacidade de Dados de DSMA Azulay, um dos maiores desafios deste episódio, em relação à direito autoral, diz respeito a eventual violação de direitos de terceiros. “Como o Midjourney utiliza como referência várias imagens, de outros autores, e não há a garantia que tais imagens estão em domínio público ou foram licenciadas, existe uma possibilidade de infração de direitos autorais nas imagens geradas pelo app. Por mais que possa existir um processo criativo que diferencie o resultado da imagem gerada por IA das imagens originais, não temos como descartar que os autores de eventuais imagens usadas como “base” se sintam ofendidos por terem tido suas obras alteradas. Importante lembrar que a Lei de Direitos Autorais Brasileira garante que o autor tem o direito moral de manter sua obra íntegra”, explica Julia.

O post O que a imagem “fake” do Papa diz sobre o futuro da IA? apareceu primeiro em Forbes Brasil.