TikTok значно скоротив масштаб використання функції “AI Overviews” (ІІ-зведення). Це рішення було викликано рядом дивних та неточних описів, які підривали довіру користувачів. Платформа, яка раніше тестувала автоматизовану систему генерації текстових зведень під відеопублікаціями, вирішила змінити курс. Замість надання нарративного контексту оновлена функція тепер буде зосереджена виключно на ідентифікації продуктів, показаних у відео.
Цей відступ наголошує на постійних проблемах, з якими стикаються технологічні гіганти при впровадженні генеративного ІІ в середовищах з контентом у реальному часі. Хоча технологія обіцяє підвищити виявленість і доступність контенту, поточна версія виявилася занадто схильною до «галюцинацій» — випадків, коли ІІ впевнено вигадує деталі, які фактично невірні або зовсім не пов’язані з візуальним контентом.
«Чорнична» помилка та інші провали
Рішення приглушити функціональність було ухвалено після того, як користувачі та журналісти задокументували безліч грубих помилок. Спроби ІІ інтерпретувати зміст відео часто призводили до сюрреалістичних неправильних трактувань, які швидше заплутували, ніж прояснювали досвід перегляду.
Ключові приклади цих збоїв включають:
- Неправильне розпізнавання знаменитостей: Відео за участю одного з найпопулярніших авторів TikTok, Чарлі Д’Аміліо, яка говорить у камеру, було описано ІІ як «колекція різних чорниць з різними топінгами».
- Абстрактні інтерпретації: Кліп зі співачкою Шакірою був позначений як «повторювана послідовність декількох різних синіх фігур, що з’являються і переміщуються по екрану».
- Абсурдне розпізнавання дій: У прикладі, опублікованому на Reddit, відео з двома танцюристами в бальному танці було помилково ідентифіковано як «людина, яка repeatedly б’є себе по голові гумовим курчам».
Ці помилки не були ізольованими інцидентами, а були частиною ширшої картини неточностей, що розчаровувало користувачів, які очікували від функції корисного контексту, подібного до пошуку Google.
Чому контекст важливий у коротких відео
Початкова амбіція TikTok з функцією AI Overviews полягала в тому, щоб повторити корисність ІІ-генерованих результатів пошуку Google. Метою було пояснити, що відбувається у відео, пропонуючи додатковий контекст для користувачів, які можуть гортати стрічку без звуку або шукати швидку інформацію.
Однак короткі відео за своєю природою складні. Вони спираються на швидку зміну кадрів, візуальний гумор, культурні посилання та нюанси мови тіла — елементи, які поточні моделі ІІ важко аналізують точно. Коли ІІ не розпізнає людську особу чи звичайну діяльність, він часто звертається до загального розпізнавання об’єктів, що призводить до різкого розриву між змістом відео та текстовим описом.
** Ключова проблема: ** Точність має першорядне значення для ІІ-зведень. Коли інструмент, призначений для прояснення контенту, натомість створює плутанину, це підриває довіру користувачів і додає шуму на платформу.
Крок назад у впровадженні ІІ
Поворот TikTok у бік ідентифікації продуктів є прагматичним коригуванням. Обмежуючи сферу застосування ІІ до відомих комерційних продуктів, платформа може використовувати свої сильні сторони в комп’ютерному зорі, уникаючи у своїй підводних каменів генерації природного мови відкритого творчого контенту.
Цей інцидент відбиває ширші тенденції у галузі. Усього кілька років тому Google зіткнулася з аналогічною критикою, коли її ранні експерименти з пошуком на основі ІІ пропонували безглузді поради, такі як каміння або використовувати клей на піці. Ці ранні помилки підкреслюють важливий урок для технологічної індустрії: можливості ІІ повинні розвиватися паралельно із заходами безпеки та точності.
Висновок
Відступ TikTok від наративних ІІ-зведень служить застереженням для інших платформ, що експериментують із генеративним ІІ. Хоча технологія обіцяє поліпшити досвід користувача, вона ще не готова надійно інтерпретувати нюансований, стрімкий характер відео в соціальних мережах. На даний момент ідентифікація продуктів є більш безпечним та функціональним застосуванням, ніж спроба узагальнити людську творчість.
