TikTok znacznie ograniczył wykorzystanie funkcji przeglądu sztucznej inteligencji. Decyzja ta została podyktowana szeregiem dziwnych i niedokładnych opisów, które podważały zaufanie użytkowników. Platforma, która wcześniej testowała zautomatyzowany system generowania streszczeń tekstowych pod publikacjami wideo, zdecydowała się na zmianę kursu. Zamiast zapewniać kontekst narracyjny, zaktualizowana funkcja będzie teraz skupiać się wyłącznie na identyfikowaniu produktów pokazanych w filmie.
Podczas tych rekolekcji zwrócono uwagę na ciągłe wyzwania, przed którymi stoją giganci technologiczni podczas wdrażania generatywnej sztucznej inteligencji w środowiskach treści w czasie rzeczywistym. Chociaż technologia obiecuje poprawić wykrywalność i dostępność treści, obecna wersja okazała się zbyt podatna na „halucynacje” – przypadki, w których sztuczna inteligencja z pewnością wymyśla szczegóły, które są niezgodne ze stanem faktycznym lub całkowicie niezwiązane z treścią wizualną.
Błąd jagodowy i inne awarie
Decyzja o łagodzeniu funkcjonalności zapadła po tym, jak użytkownicy i dziennikarze udokumentowali liczne błędy. Próby interpretacji treści wideo przez sztuczną inteligencję często kończyły się surrealistycznymi błędnymi interpretacjami, które raczej dezorientowały niż wyjaśniały wrażenia wizualne.
Kluczowe przykłady tych niepowodzeń obejmują:
- Błędna identyfikacja celebrytów: Film przedstawiający jedną z najpopularniejszych twórczyń TikToka, Charli D’Amilio, przemawiającą do kamery, został opisany przez sztuczną inteligencję jako „zbiór różnych jagód z różnymi dodatkami”.
- Abstrakcyjne interpretacje: Klip piosenkarki Shakiry został oznaczony jako „powtarzająca się sekwencja kilku różnych niebieskich kształtów pojawiających się i poruszających się po ekranie”.*
- Rozpoznawanie absurdalnych działań: W przykładzie opublikowanym w serwisie Reddit film przedstawiający dwie tancerki towarzyskie został błędnie zidentyfikowany jako „mężczyzna wielokrotnie uderzający się w głowę gumowym kurczakiem”.*
Błędy te nie były odosobnionymi incydentami, ale częścią większego zestawu nieścisłości, które frustrowały użytkowników, którzy oczekiwali, że funkcja zapewni przydatny kontekst, podobny do podsumowań wyszukiwarki Google.
Dlaczego kontekst jest ważny w krótkich filmach
Pierwotną ambicją TikToka w zakresie przeglądów AI było odtworzenie użyteczności wyników wyszukiwania Google generowanych przez sztuczną inteligencję. Celem było wyjaśnienie, co dzieje się w filmie, oferując dodatkowy kontekst użytkownikom, którzy mogli przewijać bez dźwięku lub szukać szybkich informacji.
Jednak krótkie filmy są z natury złożone. Opierają się na szybkich ujęciach, wizualnym humorze, odniesieniach kulturowych i zróżnicowanej mowie ciała – elementach, które obecne modele sztucznej inteligencji trudno dokładnie przeanalizować. Kiedy sztuczna inteligencja nie rozpoznaje ludzkiej twarzy ani normalnej aktywności, często ucieka się do ogólnego rozpoznawania obiektów, co skutkuje wyraźnym rozdźwiękiem między treścią filmu a opisem tekstowym.
Kluczowa kwestia: Dokładność jest najważniejsza w przypadku podsumowań AI. Kiedy narzędzie mające na celu wyjaśnienie treści powoduje zamieszanie, podważa zaufanie użytkowników i powoduje zamieszanie na platformie.
Krok wstecz w wdrażaniu sztucznej inteligencji
Zwrot TikToka w kierunku identyfikacji produktu jest pragmatycznym dostosowaniem. Ograniczając zakres sztucznej inteligencji do rozpoznawalnych produktów komercyjnych, platforma może wykorzystać swoje mocne strony w zakresie widzenia komputerowego, unikając jednocześnie pułapek związanych z generowaniem języka naturalnego w przypadku otwartych treści kreatywnych.
Incydent odzwierciedla szersze trendy w branży. Zaledwie kilka lat temu Google spotkał się z podobną krytyką, gdy jego wczesne eksperymenty z wyszukiwarką AI oferowały bezsensowne porady, takie jak jedzenie kamieni lub używanie kleju do pizzy. Te początkowe błędy podkreślają ważną lekcję dla branży technologicznej: Możliwości sztucznej inteligencji muszą ewoluować równolegle ze środkami bezpieczeństwa i dokładności.
Wniosek
Odejście TikToka od narracyjnych informacji o sztucznej inteligencji stanowi przestrogę dla innych platform eksperymentujących z generatywną sztuczną inteligencją. Chociaż technologia ta obiecuje poprawę komfortu użytkowania, nie jest jeszcze gotowa do wiarygodnej interpretacji zróżnicowanego, szybkiego charakteru filmów w mediach społecznościowych. Na razie identyfikacja produktu jest bezpieczniejszym i bardziej funkcjonalnym zastosowaniem niż próba uogólnienia ludzkiej kreatywności.
