Rozwój sztucznej inteligencji otworzył nowy wymiar w kulturze fanów: tworzenie i dystrybucję deepfake’ów z udziałem celebrytów i influencerów. Chociaż wiele gwiazd publicznie potępiło wykorzystywanie ich wyglądu, praktyka ta nadal kwitnie w internetowych fandomach, napędzana oszczędnością uwagi i chęcią przekraczania granic.
Zachęty za treści AI
Problem jest prosty: treści generowane przez sztuczną inteligencję, w tym obrazy i filmy, są łatwe do tworzenia i budzą duże zainteresowanie. Na platformach takich jak X (dawniej Twitter), gdzie zweryfikowani użytkownicy mogą zarabiać pieniądze poprzez zaangażowanie odbiorców, deepfakes stały się szybkim sposobem na generowanie wyświetleń i przychodów. Jeden z właścicieli kont fanów w anonimowej rozmowie z The Verge przyznał, że treści oparte na sztucznej inteligencji to „bardzo szybki sposób na zarabianie pieniędzy” pomimo powszechnego potępienia.
Sytuacja nie ogranicza się do nieszkodliwych zmian. Gwiazdy takie jak Ariana Grande i Grimes publicznie skrytykowały wykorzystanie sztucznej inteligencji do tworzenia fałszywych okładek, deepfakes, a nawet treści o charakterze jednoznacznie seksualnym. Grimes, która początkowo zachęcała fanów do eksperymentowania z muzyką generowaną przez sztuczną inteligencję w oparciu o jej głos, teraz wzywa do zawarcia „międzynarodowych umów” regulujących deepfake ze względu na niepokojącą rzeczywistość wykorzystywania jej podobizny bez jej zgody.
Powstanie kamei i wirusowego skandalu
Uruchomienie generatora wideo OpenAI Sora z funkcją Cameo dramatycznie pogorszyło problem. Kamea umożliwiają każdemu przesłanie swojej podobizny do wykorzystania w treściach generowanych przez sztuczną inteligencję, co nieuchronnie prowadzi do obraźliwych wyników, których prawie nie da się usunąć z sieci.
Wpływowy i bokser Jake Paul, inwestor OpenAI, podchwycił ten trend, a jego filmy o sztucznej inteligencji stały się wirusowe, w tym obrazy oparte na homofobicznych stereotypach. Podczas gdy niektórzy twórcy, tacy jak Paul, próbują wykorzystać skandal, inni szybko dystansują się od ostrej reakcji.
Główny problem polega na tym, że nawet gdy platformy takie jak X usuwają pojedyncze deepfake, niemal natychmiast pojawiają się one gdzie indziej. Szybkość rozprzestrzeniania się uniemożliwia skuteczną moderację.
Reakcje gwiazd i naruszenia granic
Gwiazdy znajdują się w podwójnej sytuacji: potępiają deepfake, choć są w nich szeroko reprezentowane. Gwiazda „Zabójczych umysłów” Paget Brewster niedawno przeprosiła konto fana po tym, jak zasugerowała, że zdjęcie zostało stworzone przez sztuczną inteligencję, ale wkrótce odkryła, że jest prawdziwe. Incydent uwydatnia rosnące obawy gwiazd, które obawiają się, że ich wygląd zostanie wykorzystany bez ich zgody.
Problem wykracza poza proste zmiany. Sztuczna inteligencja jest coraz częściej wykorzystywana do tworzenia deepfake’ów o charakterze jednoznacznie seksualnym, a niektórzy twórcy nawet zarabiają na tych treściach, które powstają bez ich zgody. To skłoniło X do tymczasowego wyłączenia wyszukiwania hasła „Taylor Swift” po tym, jak fala niepokojących deepfakes rozprzestrzeniła się w Internecie, ale obrazy nadal krążyły na innych platformach.
Dynamika mocy w działaniu
Normalizacja deepfakes przeniosła się z forów pobocznych na platformy głównego nurtu, a podstawowa zachęta pozostaje ta sama: zaangażowanie odbiorców. Jak zauważył jeden z fanów: „Prawie chcą to robić częściej, bo to denerwuje ludzi”. Wskazuje to na niepokojący trend, w którym gniew jest celowo wywoływany w celu osiągnięcia zysku.
Sytuację pogarsza brak skutecznych środków prawnych. Ofiary często mają trudności z usuwaniem deepfake’ów, a niektórzy krytycy twierdzą, że ustawodawstwo takie jak Take It Down Act mogłoby ułatwić cenzurę, nie zapewniając realnej ochrony jednostkom.
Ostatecznie wykorzystywanie występów gwiazd w deepfakesach opartych na sztucznej inteligencji odzwierciedla szerszą dynamikę władzy, w przypadku której zgoda jest często ignorowana w dążeniu do zaangażowania publiczności. Pomimo protestów gwiazd i rosnącej świadomości szkód, trend ten nie wykazuje oznak spowolnienia.
