Rozvoj umělé inteligence otevřel novou dimenzi fanouškovské kultury: vytváření a distribuci deepfakes zahrnujících celebrity a influencery. Ačkoli mnoho hvězd veřejně odsoudilo toto zneužívání svého vzhledu, tato praxe nadále prosperuje v online fandomu, poháněném ekonomikou pozornosti a ochotou posouvat hranice.
Pobídky pro obsah AI
Problém je jednoduchý: obsah generovaný umělou inteligencí, včetně obrázků a videí, se snadno vytváří a vyvolává velký zájem. Na platformách jako X (dříve Twitter), kde mohou ověření uživatelé vydělávat peníze zapojením publika, se deepfakes staly rychlým způsobem generování zhlédnutí a příjmů. Jeden majitel fanouškovského účtu, který anonymně mluvil pro The Verge, připustil, že obsah AI je „velmi rychlý způsob, jak vydělat peníze“, a to navzdory širokému odsouzení.
Situace se neomezuje pouze na neškodné úpravy. Celebrity jako Ariana Grande a Grimes veřejně kritizovaly používání umělé inteligence k vytváření falešných obalů, deepfakes a dokonce i sexuálně explicitního obsahu. Grimes, která zpočátku povzbuzovala fanoušky, aby experimentovali s hudbou vygenerovanou umělou inteligencí na základě jejího hlasu, nyní volá po „mezinárodních dohodách“ regulujících deepfakes kvůli znepokojivé realitě, že její podobizna je používána bez jejího souhlasu.
The Rise of Cameo a virový skandál
Spuštění videogenerátoru OpenAI Sora s funkcí Cameo tento problém dramaticky zhoršilo. Cameos umožňují komukoli odeslat svou podobiznu pro použití v obsahu generovaném umělou inteligencí, což nevyhnutelně vede k urážlivým výsledkům, které je téměř nemožné odstranit z webu.
Influencer a boxer Jake Paul, investor OpenAI, tento trend přijal a jeho videa AI se stala virální, včetně obrázků založených na homofobních stereotypech. Zatímco někteří tvůrci jako Paul se snaží skandál vytěžit, jiní se rychle distancují od odporu.
Hlavním problémem je, že i když platformy jako X jednotlivé deepfaky odstraní, téměř okamžitě se objeví jinde. Rychlost šíření znemožňuje efektivní moderování.
Reakce celebrit a porušování hranic
Celebrity se ocitají ve dvojí pozici: odsuzují deepfakes, zatímco jsou v nich široce zastoupeny. Hvězda Criminal Minds Paget Brewster se nedávno omluvila účtu fanoušků poté, co navrhla, že obrázek vytvořila AI, jen aby zjistil, že je skutečný. Incident zdůrazňuje rostoucí obavy mezi celebritami, které se obávají, že jejich vzhled bude zneužit bez jejich souhlasu.
Problém přesahuje jednoduché úpravy. Umělá inteligence se stále více používá k vytváření sexuálně explicitních deepfakes, přičemž někteří tvůrci tento nekonsensuální obsah dokonce zpeněžují. To přimělo X dočasně zakázat vyhledávání „Taylor Swift“ poté, co se vlna znepokojivých deepfakes stala virální, ale obrázky nadále kolovaly na jiných platformách.
Dynamika výkonu v akci
Normalizace deepfakes se přesunula z okrajových fór na mainstreamové platformy a základní pobídka zůstává stejná: zapojení publika. Jak poznamenal jeden fanoušek: “Skoro to chtějí dělat víc, protože to lidi rozčiluje.” To hovoří o znepokojivém trendu, kdy je hněv záměrně vytvářen za účelem zisku.
Situaci zhoršuje nedostatek účinných právních prostředků. Oběti se často potýkají s potížemi při odstraňování deepfakes a někteří kritici tvrdí, že legislativa, jako je zákon Take It Down Act, by mohla usnadnit cenzuru, aniž by jednotlivcům poskytovala skutečnou ochranu.
Využití vystoupení celebrit v AI deepfakes nakonec odráží širší dynamiku moci, kde je souhlas často ignorován ve snaze o zapojení publika. Navzdory protestům celebrit a rostoucímu povědomí o škodách tento trend nevykazuje žádné známky zpomalení.
