Munculnya kecerdasan buatan telah membuka batas baru dalam budaya penggemar: penciptaan dan penyebaran deepfake yang menampilkan selebriti dan influencer. Meskipun banyak bintang yang secara terbuka menolak eksploitasi terhadap kemiripan mereka, praktik ini terus berkembang dalam fandom online, didorong oleh perhatian ekonomi dan kemauan untuk mendobrak batasan.
Insentif di Balik Konten AI
Permasalahan intinya sederhana: konten yang dihasilkan AI, termasuk gambar dan video, mudah diproduksi dan sangat menarik. Pada platform seperti X (sebelumnya Twitter), di mana pengguna terverifikasi dapat memperoleh uang melalui keterlibatan, deepfake telah menjadi cara cepat untuk mendapatkan penayangan dan pendapatan. Salah satu pemilik akun penggemar, berbicara secara anonim kepada The Verge, mengakui bahwa konten AI adalah “cara yang sangat cepat untuk mendapatkan uang,” meskipun ada kecaman yang meluas.
Situasinya tidak terbatas pada pengeditan yang tidak berbahaya. Selebriti seperti Ariana Grande dan Grimes secara terbuka mengkritik penggunaan AI untuk membuat sampul palsu, deepfake, dan bahkan konten seksual eksplisit. Grimes, yang awalnya mendorong penggemar untuk bereksperimen dengan musik yang dihasilkan AI berdasarkan suaranya, kini menyerukan “perjanjian internasional” untuk mengatur deepfake karena kenyataan yang meresahkan karena kemiripannya dikooptasi.
Munculnya Cameo dan Kemarahan Viral
Peluncuran generator video Sora OpenAI, dengan fitur “Cameos”, telah meningkatkan masalah secara signifikan. Cameo memungkinkan siapa saja untuk menawarkan kemiripannya untuk digunakan dalam konten yang dihasilkan AI, sehingga menghasilkan hasil yang sangat menyinggung dan hampir mustahil untuk dihapus saat online.
Influencer dan petinju Jake Paul, seorang investor OpenAI, menerima tren ini, dengan video AI tentang dirinya yang menjadi viral—termasuk penggambaran yang mengandalkan stereotip homofobik. Meskipun beberapa kreator seperti Paul berupaya memanfaatkan kemarahan tersebut, ada pula kreator yang berusaha menjauhkan diri dari reaksi negatif tersebut.
Masalah utamanya adalah meskipun platform seperti X menghapus deepfake satu per satu, deepfake tersebut akan segera muncul kembali di tempat lain. Kecepatan proliferasi membuat moderasi yang efektif menjadi tidak mungkin dilakukan.
Reaksi Selebriti dan Pelanggaran Batas
Selebriti terjebak dalam ikatan ganda: mereka mengutuk deepfake sekaligus tampil menonjol di dalamnya. Bintang Pikiran Kriminal Paget Brewster baru-baru ini ditipu untuk meminta maaf kepada akun penggemar karena berasumsi bahwa gambar tersebut dibuat oleh AI, namun ternyata gambar tersebut asli. Insiden ini menyoroti meningkatnya kecemasan di kalangan selebritas yang takut kemiripan mereka dieksploitasi tanpa persetujuan.
Masalah ini lebih dari sekadar pengeditan sederhana. AI semakin banyak digunakan untuk menghasilkan deepfake yang eksplisit secara seksual, dan beberapa pembuat konten bahkan memonetisasi konten nonkonsensual ini. Situasi tersebut mendorong X untuk sementara waktu menonaktifkan pencarian “Taylor Swift” setelah gelombang deepfake yang meresahkan menjadi viral, namun gambar tersebut terus menyebar di platform lain.
Kekuatan Dinamis dalam Permainan
Normalisasi deepfake telah bergeser dari forum pinggiran ke platform arus utama, dan insentif yang mendasarinya tetap sama: keterlibatan. Seperti yang diungkapkan oleh salah satu penggemar, “Mereka hampir ingin melakukannya lagi, karena hal itu membuat orang kesal.” Hal ini menunjukkan tren yang meresahkan di mana kemarahan sengaja dibuat demi keuntungan.
Masalah ini diperparah dengan tidak adanya upaya hukum yang efektif. Para korban sering kali menghadapi perjuangan berat dalam memberantas deepfake, dan beberapa kritikus berpendapat bahwa undang-undang seperti Take It Down Act dapat memfasilitasi penyensoran tanpa benar-benar melindungi individu.
Pada akhirnya, eksploitasi kemiripan selebriti dalam deepfake AI mencerminkan dinamika kekuasaan yang lebih luas di mana persetujuan sering kali diabaikan dalam upaya mencapai keterlibatan. Meskipun ada penolakan dari para selebriti dan meningkatnya kesadaran akan dampak buruk yang ditimbulkan, tren ini tidak menunjukkan tanda-tanda melambat.
