Развитие искусственного интеллекта открыло новую грань в фанатской культуре: создание и распространение дипфейков с участием знаменитостей и инфлюенсеров. Несмотря на то, что многие звезды публично осуждают эту эксплуатацию их внешности, практика продолжает процветать в онлайн-фандомах, движимая экономикой внимания и готовностью раздвигать границы.
Стимулы для AI-Контента
Суть проблемы проста: AI-генерируемый контент, включая изображения и видео, легко создавать, и он вызывает большой интерес. На платформах, таких как X (ранее Twitter), где верифицированные пользователи могут зарабатывать деньги за счёт вовлечения аудитории, дипфейки стали быстрым способом накрутить просмотры и доходы. Один из владельцев фанатского аккаунта, говоривший анонимно изданию The Verge, признался, что AI-контент — это «очень быстрый способ заработать деньги», несмотря на повсеместное осуждение.
Ситуация не ограничивается безобидными правками. Знаменитости, такие как Ариана Гранде и Grimes, публично критиковали использование AI для создания фейковых обложек, дипфейков и даже сексуально откровенного контента. Grimes, которая изначально поощряла фанатов экспериментировать с AI-генерируемой музыкой на основе её голоса, теперь призывает к «международным соглашениям» для регулирования дипфейков из-за тревожной реальности того, что её внешность используется без её согласия.
Расцвет Камео и Вирусного Скандала
Запуск видеогенератора OpenAI Sora с функцией «Камео» резко усугубил проблему. «Камео» позволяют любому предложить свою внешность для использования в AI-генерируемом контенте, что неизбежно приводит к оскорбительным результатам, которые практически невозможно удалить из сети.
Инфлюенсер и боксёр Джейк Пол, инвестор OpenAI, поддержал эту тенденцию, и AI-видео с его участием стали вирусными, включая изображения, основанные на гомофобных стереотипах. В то время как некоторые создатели, такие как Пол, пытаются извлечь выгоду из скандала, другие спешно дистанцируются от негативной реакции.
Основная проблема в том, что даже когда платформы, такие как X, удаляют отдельные дипфейки, они почти сразу же появляются в других местах. Скорость распространения делает эффективную модерацию невозможной.
Реакция Знаменитостей и Нарушение Границ
Знаменитости оказываются в двойном положении: они осуждают дипфейки, одновременно будучи широко представленными в них. Звезда сериала «Преступные умы» Пагет Брюстер недавно принесла извинения фанатскому аккаунту, предположив, что изображение было создано с помощью AI, только чтобы обнаружить, что оно настоящее. Этот инцидент подчеркивает растущую тревогу среди знаменитостей, которые боятся, что их внешность будет эксплуатироваться без их согласия.
Проблема выходит за рамки простых правок. AI всё чаще используется для создания сексуально откровенных дипфейков, при этом некоторые создатели даже монетизируют этот неконсенсуальный контент. Это побудило X временно отключить поиск по запросу «Taylor Swift» после волны тревожных дипфейков, ставших вирусными, но изображения продолжали распространяться на других платформах.
Динамика Власти в Действии
Нормализация дипфейков переместилась с маргинальных форумов на основные платформы, и лежащий в основе стимул остаётся прежним: вовлечение аудитории. Как отметил один из фанатов, «Они почти хотят это делать больше, потому что это вызывает возмущение у людей». Это говорит о тревожной тенденции, когда гнев намеренно создаётся ради прибыли.
Ситуацию усугубляет отсутствие эффективных правовых средств. Жертвы часто сталкиваются с трудностями при удалении дипфейков, и некоторые критики утверждают, что законодательство, такое как Take It Down Act, может облегчить цензуру, не обеспечивая при этом реальной защиты отдельных лиц.
В конечном счёте, эксплуатация внешности знаменитостей в AI-дипфейках отражает более широкую динамику власти, где согласие часто игнорируется в погоне за вовлечением аудитории. Несмотря на протесты знаменитостей и растущую осведомлённость о вреде, эта тенденция не замедляется.
