Der Aufstieg der künstlichen Intelligenz hat eine neue Grenze in der Fankultur eröffnet: die Erstellung und Verbreitung von Deepfakes mit Prominenten und Influencern. Während viele Stars diese Ausbeutung ihrer Konterfeis öffentlich abgelehnt haben, floriert diese Praxis in Online-Fandoms weiterhin, angetrieben durch Aufmerksamkeitsökonomie und die Bereitschaft, Grenzen zu überschreiten.
Die Anreize hinter KI-Inhalten
Das Kernproblem ist einfach: KI-generierte Inhalte, einschließlich Bilder und Videos, sind einfach zu produzieren und äußerst ansprechend. Auf Plattformen wie X (ehemals Twitter), auf denen verifizierte Benutzer durch Engagement Geld verdienen können, sind Deepfakes zu einer schnellen Möglichkeit geworden, Aufrufe und Einnahmen zu generieren. Ein Fan-Account-Inhaber gab in einem anonymen Gespräch mit The Verge zu, dass KI-Inhalte trotz weit verbreiteter Verurteilung eine „sehr schnelle Möglichkeit sind, an Geld zu kommen“.
Die Situation beschränkt sich nicht nur auf harmlose Änderungen. Prominente wie Ariana Grande und Grimes haben öffentlich den Einsatz von KI zur Erstellung gefälschter Cover, Deepfakes und sogar sexuell eindeutiger Inhalte kritisiert. Grimes, die die Fans zunächst dazu ermutigte, mit KI-generierter Musik auf der Grundlage ihrer Stimme zu experimentieren, fordert nun „internationale Verträge“ zur Regulierung von Deepfakes, da die Tatsache, dass ihr Abbild kooptiert wurde, beunruhigend ist.
Der Aufstieg von Kameen und viraler Empörung
Die Einführung des Sora-Videogenerators von OpenAI mit seiner „Cameos“-Funktion hat das Problem dramatisch eskaliert. Cameos ermöglichen es jedem, sein Abbild zur Verwendung in KI-generierten Inhalten anzubieten, was zu vorhersehbaren anstößigen Ergebnissen führt, die kaum mehr entfernt werden können, sobald sie online sind.
Der Influencer und Boxer Jake Paul, ein OpenAI-Investor, hat den Trend angenommen und KI-Videos von ihm verbreiteten sich viral – darunter auch Darstellungen, die auf homophoben Stereotypen basieren. Während einige YouTuber wie Paul versuchen, aus der Empörung Kapital zu schlagen, versuchen andere, sich von der Gegenreaktion zu distanzieren.
Das Kernproblem besteht darin, dass einzelne Deepfakes, selbst wenn Plattformen wie X sie entfernen, fast sofort an anderer Stelle wieder auftauchen. Die Geschwindigkeit der Verbreitung macht eine wirksame Moderation unmöglich.
Reaktionen von Prominenten und Grenzverstöße
Prominente geraten in eine doppelte Zwickmühle: Sie verurteilen Deepfakes und werden gleichzeitig prominent darin dargestellt. Criminal Minds-Star Paget Brewster wurde kürzlich dazu verleitet, sich bei einem Fan-Account dafür zu entschuldigen, dass er angenommen hatte, ein Bild sei KI-generiert, und stellte dann fest, dass es echt war. Dieser Vorfall verdeutlicht die wachsende Angst von Prominenten, die befürchten, dass ihr Abbild ohne Zustimmung ausgenutzt wird.
Das Problem geht über einfache Änderungen hinaus. KI wird zunehmend zur Generierung sexuell eindeutiger Deepfakes eingesetzt, wobei einige YouTuber diese nicht einvernehmlichen Inhalte sogar monetarisieren. Die Situation veranlasste X dazu, die Suche nach „Taylor Swift“ vorübergehend zu deaktivieren, nachdem eine Welle beunruhigender Deepfakes viral ging, die Bilder sich jedoch weiterhin auf anderen Plattformen verbreiteten.
Die Machtdynamik im Spiel
Die Normalisierung von Deepfakes hat sich von Randforen zu Mainstream-Plattformen verlagert, und der zugrunde liegende Anreiz bleibt derselbe: Engagement. Ein Fan bemerkte: „Sie wollen es fast noch mehr machen, weil es die Leute verärgert.“ Dies deutet auf einen besorgniserregenden Trend hin, bei dem Empörung absichtlich aus Profitgründen erzeugt wird.
Das Problem wird durch das Fehlen wirksamer Rechtsbehelfe noch verschärft. Opfer stehen oft vor einem harten Kampf, wenn es darum geht, Deepfakes zu entfernen, und einige Kritiker argumentieren, dass Gesetze wie der Take It Down Act die Zensur erleichtern könnten, ohne Einzelpersonen wirklich zu schützen.
Letztendlich spiegelt die Ausnutzung von Promi-Konterfeis in KI-Deepfakes eine breitere Machtdynamik wider, bei der die Einwilligung bei der Suche nach Engagement oft missachtet wird. Trotz des Widerstands von Prominenten und des wachsenden Bewusstseins für den verursachten Schaden zeigt der Trend keine Anzeichen einer Verlangsamung.
