A ascensão da inteligência artificial abriu uma nova fronteira na cultura dos fãs: a criação e disseminação de deepfakes com celebridades e influenciadores. Embora muitas estrelas tenham rejeitado publicamente esta exploração das suas imagens, a prática continua a prosperar dentro dos fandoms online, impulsionada pela economia de atenção e pela vontade de ultrapassar limites.
Os incentivos por trás do conteúdo de IA
A questão central é simples: o conteúdo gerado por IA, incluindo imagens e vídeos, é fácil de produzir e altamente envolvente. Em plataformas como X (antigo Twitter), onde usuários verificados podem ganhar dinheiro por meio de engajamento, os deepfakes se tornaram uma maneira rápida de obter visualizações e receitas. O proprietário de uma conta de fã, falando anonimamente ao The Verge, admitiu que o conteúdo de IA é uma “maneira muito rápida de ganhar dinheiro”, apesar da condenação generalizada.
A situação não se limita a edições inofensivas. Celebridades como Ariana Grande e Grimes criticaram publicamente o uso da IA para criar capas falsas, deepfakes e até conteúdo sexualmente explícito. Grimes, que inicialmente encorajou os fãs a experimentarem música gerada por IA com base em sua voz, agora pede “tratados internacionais” para regular os deepfakes devido à realidade perturbadora de ter sua imagem cooptada.
A ascensão dos camafeus e a indignação viral
O lançamento do gerador de vídeo Sora da OpenAI, com seu recurso “Cameos”, agravou dramaticamente o problema. Cameos permitem que qualquer pessoa ofereça sua imagem para uso em conteúdo gerado por IA, levando a resultados previsivelmente ofensivos que são quase impossíveis de remover uma vez online.
O influenciador e boxeador Jake Paul, um investidor da OpenAI, abraçou a tendência, com vídeos de IA dele se tornando virais – incluindo retratos baseados em estereótipos homofóbicos. Enquanto alguns criadores como Paul tentam capitalizar a indignação, outros lutam para se distanciar da reação negativa.
O principal problema é que mesmo quando plataformas como o X eliminam deepfakes individuais, eles reaparecem em outros lugares quase imediatamente. A velocidade da proliferação torna impossível uma moderação eficaz.
Reações de celebridades e violações de limites
As celebridades são apanhadas num duplo dilema: condenam os deepfakes e, ao mesmo tempo, aparecem com destaque neles. A estrela de Criminal Minds, Paget Brewster, foi recentemente levada a se desculpar com uma conta de fã por presumir que uma imagem foi gerada por IA, apenas para descobrir que era real. Este incidente destaca a crescente ansiedade entre as celebridades que temem que a sua imagem seja explorada sem consentimento.
O problema vai além de simples edições. A IA é cada vez mais usada para gerar deepfakes sexualmente explícitos, com alguns criadores até monetizando esse conteúdo não consensual. A situação levou X a desativar temporariamente as buscas por “Taylor Swift” depois que uma onda de deepfakes perturbadores se tornou viral, mas as imagens continuaram a se espalhar em outras plataformas.
A dinâmica do poder em jogo
A normalização dos deepfakes passou de fóruns marginais para plataformas convencionais, e o incentivo subjacente permanece o mesmo: envolvimento. Como observou um fã: “Eles quase querem fazer mais, porque isso está deixando as pessoas chateadas”. Isto sugere uma tendência perturbadora em que a indignação é deliberadamente fabricada com fins lucrativos.
A questão é agravada pela falta de recursos legais eficazes. As vítimas muitas vezes enfrentam uma difícil batalha para derrubar deepfakes, e alguns críticos argumentam que legislações como a Take It Down Act podem facilitar a censura sem proteger genuinamente os indivíduos.
Em última análise, a exploração de imagens de celebridades em deepfakes de IA reflecte uma dinâmica de poder mais ampla, onde o consentimento é muitas vezes desconsiderado na procura de envolvimento. Apesar da resistência das celebridades e da crescente consciência dos danos causados, a tendência não mostra sinais de abrandamento.
