TikTok telah mengurangi fitur “Ikhtisar AI” secara signifikan, sebuah langkah yang didorong oleh serangkaian deskripsi aneh dan tidak akurat yang merusak kepercayaan pengguna. Platform tersebut, yang telah menguji sistem otomatis untuk menghasilkan ringkasan teks di bawah postingan video, telah memutuskan untuk melakukan pivot. Alih-alih memberikan konteks naratif, fitur yang diperbarui kini hanya berfokus pada mengidentifikasi produk yang ditampilkan dalam video.
Retret ini menyoroti tantangan yang terus-menerus dihadapi oleh raksasa teknologi ketika menerapkan AI generatif dalam lingkungan konten real-time. Meskipun teknologi ini menjanjikan peningkatan kemampuan untuk ditemukan dan aksesibilitas, versi saat ini terbukti terlalu rentan terhadap “halusinasi”—contoh di mana AI dengan percaya diri menemukan detail yang salah secara faktual atau sama sekali tidak terkait dengan konten visual.
Kesalahan “Blueberry” dan Kegagalan Lainnya
Keputusan untuk menghentikan kembali fitur tersebut muncul setelah pengguna dan jurnalis mendokumentasikan banyak kesalahan besar. Upaya AI untuk menafsirkan konten video sering kali menghasilkan salah tafsir yang membingungkan dan bukannya memperjelas pengalaman menonton.
Contoh utama dari kegagalan ini meliputi:
- Kesalahan Identifikasi Selebriti: Sebuah video yang menampilkan pencipta TikTok terkenal Charli D’Amelio berbicara di depan kamera digambarkan oleh AI sebagai “kumpulan berbagai blueberry dengan topping berbeda.”
- Interpretasi Abstrak: Klip penyanyi Shakira diberi label sebagai “urutan berulang dari beberapa bentuk biru berbeda yang muncul dan bergerak melintasi layar.”
- Pengenalan Tindakan Absurd: Dalam contoh yang dibagikan di Reddit, video dua penari ballroom salah diidentifikasi sebagai “seseorang berulang kali memukul kepalanya dengan ayam karet.”
Kesalahan ini bukan merupakan insiden yang terisolasi, namun merupakan bagian dari pola ketidakakuratan yang lebih luas yang membuat pengguna frustrasi karena mengharapkan fitur tersebut memberikan konteks yang berguna, serupa dengan ringkasan yang terlihat di Google Penelusuran.
Mengapa Konteks Penting dalam Video Berdurasi Pendek
Ambisi awal TikTok dengan Ikhtisar AI adalah untuk mencerminkan kegunaan hasil pencarian yang dihasilkan AI oleh Google. Tujuannya adalah untuk menjelaskan apa yang terjadi dalam video, menawarkan konteks tambahan bagi pengguna yang mungkin men-scroll tanpa suara atau mencari informasi cepat.
Namun, video berdurasi pendek pada dasarnya rumit. Hal ini bergantung pada potongan cepat, humor visual, referensi budaya, dan bahasa tubuh yang berbeda—elemen yang sulit diuraikan secara akurat oleh model AI saat ini. Ketika AI gagal mengenali wajah manusia atau aktivitas umum, AI sering kali menggunakan pengenalan objek umum secara default, sehingga menyebabkan terputusnya hubungan antara konten video dan deskripsi teks.
Masalah Inti: Akurasi adalah hal terpenting dalam ringkasan AI. Ketika alat yang dimaksudkan untuk memperjelas konten malah menimbulkan kebingungan, hal itu mengikis kepercayaan pengguna dan menambah gangguan pada platform.
Sebuah Langkah Mundur dalam Adopsi AI
Fokus TikTok pada identifikasi produk adalah penyesuaian pragmatis. Dengan membatasi cakupan AI pada item komersial yang dapat dikenali, platform ini dapat memanfaatkan kekuatan visi komputernya sekaligus menghindari kendala dalam pembuatan bahasa alami untuk konten kreatif terbuka.
Insiden ini mencerminkan tren industri yang lebih luas. Beberapa tahun yang lalu, Google menghadapi pengawasan serupa ketika eksperimen pencarian AI awalnya menyarankan saran yang tidak masuk akal, seperti memakan batu atau menggunakan lem pada pizza. Kesalahan langkah awal ini menggarisbawahi pelajaran penting bagi industri teknologi: Kemampuan AI harus berkembang seiring dengan perlindungan keselamatan dan akurasi.
Kesimpulan
Mundurnya TikTok dari rangkuman AI naratif menjadi peringatan bagi platform lain yang bereksperimen dengan AI generatif. Meskipun teknologi ini menjanjikan untuk meningkatkan pengalaman pengguna, teknologi ini belum siap untuk secara andal menafsirkan sifat video media sosial yang bernuansa cepat dan serba cepat. Untuk saat ini, mengidentifikasi produk adalah aplikasi yang lebih aman dan fungsional daripada mencoba merangkum kreativitas manusia.
