El auge de la inteligencia artificial ha abierto una nueva frontera en la cultura de los fans: la creación y difusión de deepfakes protagonizados por celebridades e influencers. Si bien muchas estrellas han rechazado públicamente esta explotación de sus imágenes, la práctica continúa prosperando dentro de los fandoms en línea, impulsada por economías de atención y la voluntad de traspasar límites.
Los incentivos detrás del contenido de IA
La cuestión central es simple: el contenido generado por IA, incluidas imágenes y vídeos, es fácil de producir y muy atractivo. En plataformas como X (anteriormente Twitter), donde los usuarios verificados pueden ganar dinero a través de la participación, los deepfakes se han convertido en una forma rápida de generar vistas e ingresos. El propietario de una cuenta de un fan, hablando de forma anónima con The Verge, admitió que el contenido de IA es una “forma muy rápida de obtener dinero”, a pesar de la condena generalizada.
La situación no se limita a ediciones inofensivas. Celebridades como Ariana Grande y Grimes han criticado públicamente el uso de la IA para crear portadas falsas, deepfakes e incluso contenido sexual explícito. Grimes, que inicialmente alentó a sus fans a experimentar con música generada por IA basada en su voz, ahora pide “tratados internacionales” para regular los deepfakes debido a la inquietante realidad de que su imagen sea cooptada.
El auge de los cameos y la indignación viral
El lanzamiento del generador de vídeo Sora de OpenAI, con su función “Cameos”, ha agravado drásticamente el problema. Los cameos permiten que cualquier persona ofrezca su imagen para usarla en contenido generado por IA, lo que genera resultados predeciblemente ofensivos que son casi imposibles de eliminar una vez en línea.
El influencer y boxeador Jake Paul, un inversor de OpenAI, adoptó la tendencia y sus videos de inteligencia artificial se volvieron virales, incluidas representaciones basadas en estereotipos homofóbicos. Mientras algunos creadores como Paul intentan sacar provecho de la indignación, otros luchan por distanciarse de la reacción.
El problema central es que incluso cuando plataformas como X eliminan los deepfakes individuales, estos reaparecen en otros lugares casi de inmediato. La velocidad de la proliferación hace imposible una moderación efectiva.
Reacciones de celebridades y violaciones de límites
Las celebridades están atrapadas en un doble vínculo: condenan los deepfakes y, al mismo tiempo, aparecen de manera destacada en ellos. La estrella de Criminal Minds, Paget Brewster, fue engañada recientemente para que se disculpara con una cuenta de fan por asumir que una imagen fue generada por IA, solo para descubrir que era real. Este incidente pone de relieve la creciente ansiedad entre las celebridades que temen que se explote su imagen sin consentimiento.
El problema va más allá de las simples ediciones. La IA se utiliza cada vez más para generar deepfakes sexualmente explícitos, y algunos creadores incluso monetizan este contenido no consensuado. La situación llevó a X a desactivar temporalmente las búsquedas de “Taylor Swift” después de que una ola de inquietantes deepfakes se volviera viral, pero las imágenes continuaron difundiéndose en otras plataformas.
La dinámica de poder en juego
La normalización de los deepfakes ha pasado de foros marginales a plataformas convencionales, y el incentivo subyacente sigue siendo el mismo: el compromiso. Como señaló un fan: “Casi quieren hacerlo más, porque eso enoja a la gente”. Esto sugiere una tendencia inquietante en la que la indignación se fabrica deliberadamente con fines de lucro.
El problema se ve exacerbado por la falta de recursos legales efectivos. Las víctimas a menudo enfrentan una ardua batalla para derribar los deepfakes, y algunos críticos argumentan que leyes como la Take It Down Act pueden facilitar la censura sin proteger genuinamente a las personas.
En última instancia, la explotación de imágenes de celebridades en los deepfakes de IA refleja una dinámica de poder más amplia en la que el consentimiento a menudo se ignora en la búsqueda del compromiso. A pesar de la reacción de las celebridades y la creciente conciencia del daño causado, la tendencia no muestra signos de desaceleración.
