De opkomst van kunstmatige intelligentie heeft een nieuwe grens in de fancultuur blootgelegd: de creatie en verspreiding van deepfakes met beroemdheden en influencers. Hoewel veel sterren deze uitbuiting van hun gelijkenissen publiekelijk hebben afgewezen, blijft de praktijk floreren binnen online fandoms, gedreven door aandachtseconomieën en de bereidheid om grenzen te verleggen.
De prikkels achter AI-inhoud
Het kernprobleem is simpel: door AI gegenereerde inhoud, inclusief afbeeldingen en video’s, is eenvoudig te produceren en zeer boeiend. Op platforms als X (voorheen Twitter), waar geverifieerde gebruikers geld kunnen verdienen door middel van betrokkenheid, zijn deepfakes een snelle manier geworden om meningen en inkomsten te genereren. Eén eigenaar van een fanaccount gaf, anoniem tegen The Verge, toe dat AI-inhoud een “zeer snelle manier is om geld te verdienen”, ondanks wijdverbreide veroordeling.
De situatie beperkt zich niet tot onschuldige bewerkingen. Beroemdheden als Ariana Grande en Grimes hebben publiekelijk kritiek geuit op het gebruik van AI om nepcovers, deepfakes en zelfs seksueel expliciete inhoud te creëren. Grimes, die fans aanvankelijk aanmoedigde om te experimenteren met door AI gegenereerde muziek op basis van haar stem, roept nu op tot ‘internationale verdragen’ om deepfakes te reguleren vanwege de verontrustende realiteit dat haar gelijkenis wordt gecoöpteerd.
De opkomst van cameeën en virale verontwaardiging
De lancering van OpenAI’s Sora-videogenerator, met zijn ‘Cameo’-functie, heeft het probleem dramatisch geëscaleerd. Met cameo’s kan iedereen zijn beeltenis aanbieden voor gebruik in door AI gegenereerde inhoud, wat leidt tot voorspelbaar aanstootgevende resultaten die bijna onmogelijk te verwijderen zijn zodra ze online zijn.
Beïnvloeder en bokser Jake Paul, een OpenAI-investeerder, omarmde de trend, waarbij AI-video’s van hem viraal gingen – inclusief portretten die gebaseerd waren op homofobe stereotypen. Terwijl sommige makers, zoals Paul, proberen te profiteren van de verontwaardiging, proberen anderen afstand te nemen van de weerslag.
Het kernprobleem is dat zelfs wanneer platforms als X individuele deepfakes verwijderen, deze vrijwel onmiddellijk elders weer verschijnen. De snelheid van de proliferatie maakt effectieve moderatie onmogelijk.
Reacties van beroemdheden en grensovertredingen
Beroemdheden zitten in een dubbele situatie: ze veroordelen deepfakes terwijl ze er tegelijkertijd prominent in voorkomen. Criminal Minds-ster Paget Brewster werd onlangs misleid om zich bij een fanaccount te verontschuldigen omdat ze aannam dat een afbeelding door AI was gegenereerd, maar ontdekte dat deze echt was. Dit incident benadrukt de groeiende angst onder beroemdheden die bang zijn dat hun gelijkenis zonder toestemming wordt uitgebuit.
Het probleem gaat verder dan eenvoudige bewerkingen. AI wordt steeds vaker gebruikt om seksueel expliciete deepfakes te genereren, waarbij sommige makers zelfs inkomsten genereren met deze niet-consensuele inhoud. De situatie was voor X aanleiding om zoekopdrachten naar “Taylor Swift” tijdelijk uit te schakelen nadat een golf van verontrustende deepfakes viraal ging, maar de beelden bleven zich verspreiden op andere platforms.
De krachtdynamiek in het spel
De normalisatie van deepfakes is verschoven van marginale forums naar reguliere platforms, en de onderliggende prikkel blijft hetzelfde: betrokkenheid. Zoals een fan opmerkte: “Ze willen het bijna vaker doen, omdat mensen erdoor van streek raken.” Dit duidt op een verontrustende trend waarbij verontwaardiging opzettelijk wordt gefabriceerd met winstoogmerk.
Het probleem wordt verergerd door het gebrek aan effectief rechtsmiddel. Slachtoffers worden vaak geconfronteerd met een zware strijd bij het verwijderen van deepfakes, en sommige critici beweren dat wetgeving zoals de Take It Down Act censuur kan vergemakkelijken zonder individuen daadwerkelijk te beschermen.
Uiteindelijk weerspiegelt de uitbuiting van gelijkenissen van beroemdheden in AI-deepfakes een bredere machtsdynamiek waarbij toestemming vaak wordt genegeerd bij het nastreven van betrokkenheid. Ondanks de weerstand van beroemdheden en het groeiende bewustzijn van de veroorzaakte schade, vertoont de trend geen tekenen van vertraging.
