TikTok значительно сократил масштаб использования функции «AI Overviews» (ИИ-сводки). Это решение было вызвано рядом странных и неточных описаний, которые подрывали доверие пользователей. Платформа, которая ранее тестировала автоматизированную систему генерации текстовых сводок под видеопубликациями, решила сменить курс. Вместо предоставления нарративного контекста обновленная функция теперь будет сосредоточена исключительно на идентификации продуктов, показанных в видео.
Этот отступление подчеркивает постоянные проблемы, с которыми сталкиваются технологические гиганты при внедрении генеративного ИИ в средах с контентом в реальном времени. Хотя технология обещает повысить обнаружаемость и доступность контента, текущая версия оказалась слишком подвержена «галлюцинациям» — случаям, когда ИИ уверенно выдумывает детали, которые фактически неверны или совершенно не связаны с визуальным контентом.
«Черничная» ошибка и другие провалы
Решение приглушить функциональность было принято после того, как пользователи и журналисты задокументировали множество грубых ошибок. Попытки ИИ интерпретировать содержание видео часто приводили к сюрреалистическим неверным трактовкам, которые скорее запутывали, чем проясняли опыт просмотра.
Ключевые примеры этих сбоев включают:
- Неправильное распознавание знаменитостей: Видео с участием одного из самых популярных авторов TikTok, Чарли Д’Амилио, которая говорит в камеру, было описано ИИ как «коллекция различных черники с разными топпингами».
- Абстрактные интерпретации: Клип с певицей Шакирой был помечен как «повторяющаяся последовательность нескольких различных синих фигур, появляющихся и перемещающихся по экрану».
- Абсурдное распознавание действий: В примере, опубликованном на Reddit, видео с двумя танцорами в бальном танце было ошибочно идентифицировано как «человек, который repeatedly бьет себя по голове резиновым цыпленком».
Эти ошибки не были изолированными инцидентами, а являлись частью более широкой картины неточностей, что разочаровывало пользователей, ожидавших от функции полезного контекста, подобного сводкам в поиске Google.
Почему контекст важен в коротких видео
Первоначальная амбиция TikTok с функцией AI Overviews заключалась в том, чтобы повторить полезность ИИ-сгенерированных результатов поиска Google. Целью было объяснить, что происходит в видео, предлагая дополнительный контекст для пользователей, которые могут листать ленту без звука или искать быструю информацию.
Однако короткие видео по своей природе сложны. Они опираются на быструю смену кадров, визуальный юмор, культурные отсылки и нюансы языка тела — элементы, которые текущие модели ИИ с трудом анализируют точно. Когда ИИ не распознает человеческое лицо или обычную деятельность, он часто обращается к общему распознаванию объектов, что приводит к резкому разрыву между содержанием видео и текстовым описанием.
Ключевая проблема: Точность имеет первостепенное значение для ИИ-сводок. Когда инструмент, предназначенный для прояснения контента, вместо этого создает путаницу, это подрывает доверие пользователей и добавляет шум на платформу.
Шаг назад во внедрении ИИ
Поворот TikTok в сторону идентификации продуктов является прагматичной корректировкой. Ограничивая сферу применения ИИ до узнаваемых коммерческих товаров, платформа может использовать свои сильные стороны в компьютерном зрении, избегая при этом подводных камней генерации естественного языка для открытого творческого контента.
Этот инцидент отражает более широкие тенденции в отрасли. Всего несколько лет назад Google столкнулась с аналогичной критикой, когда ее ранние эксперименты с поиском на основе ИИ предлагали бессмысленные советы, такие как есть камни или использовать клей на пицце. Эти ранние ошибки подчеркивают важный урок для технологической индустрии: возможности ИИ должны развиваться параллельно с мерами безопасности и точности.
Заключение
Отступление TikTok от нарративных ИИ-сводок служит предостережением для других платформ, экспериментирующих с генеративным ИИ. Хотя технология обещает улучшить пользовательский опыт, она еще не готова надежно интерпретировать нюансированный, стремительный характер видео в социальных сетях. На данный момент идентификация продуктов является более безопасным и функциональным применением, чем попытка обобщить человеческое творчество.
