Forbes, a mais conceituada revista de negócios e economia do mundo.

Aplicativos que utilizam IA para gerar vídeos falsos de beijos entre pessoas foram anunciados milhares de vezes no Instagram e no TikTok. Com os programas, os usuários podem enviar fotos de quaisquer duas pessoas para que a IA  crie um vídeo delas se beijando — sem o consentimento das partes envolvidas.

Assim como os aplicativos que produzem pornografia não consensual, as ferramentas para beijos criam vídeos convincentes de pessoas fazendo algo que elas não fizeram. Essa facilidade representa uma banalização preocupante da criação de deepfakes maliciosas.

Embora os anúncios não sejam sexualmente explícitos, como o dilúvio de conteúdo pornográfico gerado por IA que tem tomado plataformas como Instagram, Reddit e YouTube, eles podem ser igualmente perigosos, afirmou Haley McNamara, executiva do Centro Nacional de Exploração Sexual, à Forbes.

“Não precisa ser explícito para ser violador”, disse McNamara. “Se fazer algo sem consentimento com alguém no mundo real é uma violação,no mundo online também é.”

Mais de Mil Anúncios Divulgados

A Meta exibiu mais de 2.500 anúncios para aplicativos de “beijo com IA” no Instagram e no Facebook, conforme apuração da Forbes. Cerca de 1.000 ainda estão ativos. O TikTok exibiu cerca de 1.000 campanhas a milhões de usuários em países europeus, segundo sua biblioteca. A maioria das propagandas mostram celebridades como Scarlett Johansson, Emma Watson e Gal Gadot se beijando.

Alguns vídeos exibem pessoas aleatórias trocando beijos, promovendo que a IA é capaz de fazer com que você “beije o seu ex” ou “beije a sua paixão”. Não está claro se as pessoas nesses conteúdos são reais ou geradas por inteligência artificial.

Johansson, Watson e Gadot não responderam às solicitações de comentário. O site Futurism foi o primeiro a relatar a disseminação desses anúncios nas redes sociais.

“Abraços com IA”

A Meta também promove aplicativos de “abraços com IA”, com anúncios que mostram crianças abraçando personagens como Dora Aventureira, Mickey Mouse e Tom e Jerry. Alguns, como uma menina abraçando um homem mais velho, prometem aos pais que a IA pode permitir que “seus filhos abracem os avós que nunca conheceram”.

A gigante das redes sociais exibiu cerca de 1.200 anúncios para aplicativos de “abraço com IA”, segundo a busca da Forbes. Mais de 300 ainda estão ativos.

Vídeos gerados por IA de pessoas se beijando e abraçando já estão circulando pelas redes sociais. Um vídeo de Taylor Swift abraçando Kim Jong Un acumula cerca de 30 milhões de visualizações no Instagram. No final de dezembro, um vídeo de Elon Musk e da primeira-ministra italiana Giorgia Meloni se beijando viralizou no X.

Posicionamento da Meta e do TikTok

O porta-voz da Meta, Daniel Roberts, disse à Forbes que esses anúncios de “beijo com IA” não violam as políticas da empresa. Embora nudez, conteúdo sexualmente explícito e sugestivo sejam proibidos pelos padrões de publicidade. Embora a empresa não permita anúncios que “exibam, defendam ou coordenem atos sexuais com partes não consensuais”, vídeos de beijos e abraços são permitidos.

Após ser contatado pela Forbes, o TikTok removeu os anúncios por violarem suas políticas. A plataforma exige que anunciantes obtenham consentimento de figuras públicas ou privadas representadas em seus anúncios, mesmo que os anúncios sejam gerados por IA, disse Ariane de Selliers, porta-voz do TikTok, à Forbes.

Quem são os anunciantes?

As empresas por trás desses geradores de vídeo estão sediadas fora dos Estados Unidos, em países como Emirados Árabes Unidos, Itália e China, de acordo com os sites. Os aplicativos estão disponíveis gratuitamente na App Store da Apple e na Play Store do Google e já acumulam milhões de downloads.

Aparentemente, o “beijo com IA” é parte de um conjunto mais amplo de recursos de edição de fotos baseados em IA, como melhorar fotos antigas, transformar imagens estáticas em vídeos e prever como seriam os futuros filhos de duas pessoas. Apple e Google não responderam às solicitações de comentário.

Caixa de Pandora

A disseminação desses conteúdos ilustra uma preocupante normalização de deepfakes. O uso desses aplicativos aparentemente inofensivos pode abrir as portas para ferramentas mais abusivas, afirmou McNamara. “É simplesmente uma caixa de Pandora”, disse.

“Essa tendência está transformando a participação não consensual em imagens íntimas ou sexualizadas em uma piada. É algo fácil de banalizar quando se pensa em outras pessoas, mas pode acontecer com você.”

Isso é especialmente preocupante, dado o aumento sem precedentes de material de abuso sexual infantil gerado por IA. Nos últimos dois anos, o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) recebeu mais de 7.000 denúncias relacionadas à IA generativa.

Em um caso, um pedófilo supostamente filmou crianças na Disneyland e usou a ferramenta de IA Stable Diffusion para produzir milhares de imagens ilegais. E, com acesso irrestrito a geradores de imagens de IA, estudantes do ensino médio, em vários casos, criaram imagens de colegas menores de idade1.

A Meta também tem enfrentado dificuldades para monitorar anúncios de sites que criam pessoas nuas com IA.

Em dezembro, Alice Siregar começou a notar um aumento nos anúncios de aplicativos de beijo com IA no TikTok. Analista de IA em uma empresa de consultoria tecnológica, ela ficou consternada ao ver a tecnologia sendo usada de uma forma “profundamente antiética”. “Foi incrivelmente assustador.”

O post Aplicativos Que Utilizam IA para Criar Vídeos Falsos de Pessoas se Beijando Estão Inundando as Redes Sociais apareceu primeiro em Forbes Brasil.