TikTok ha ridotto in modo significativo la sua funzionalità “Panoramiche AI”, una mossa guidata da una serie di descrizioni bizzarre e imprecise che hanno minato la fiducia degli utenti. La piattaforma, che stava testando un sistema automatizzato per generare riepiloghi testuali sotto i post video, ha deciso di fare perno. Invece di fornire un contesto narrativo, la funzionalità aggiornata ora si concentrerà esclusivamente sull’identificazione dei prodotti mostrati nei video.
Questo ritiro evidenzia le sfide persistenti che i giganti della tecnologia devono affrontare quando implementano l’intelligenza artificiale generativa in ambienti di contenuti in tempo reale. Sebbene la tecnologia prometta di migliorare la rilevabilità e l’accessibilità, l’attuale iterazione si è rivelata troppo incline alle “allucinazioni”, casi in cui l’intelligenza artificiale inventa con sicurezza dettagli che sono di fatto errati o completamente estranei al contenuto visivo.
L’errore “Blueberry” e altri fallimenti
La decisione di disattivare la funzionalità è arrivata dopo che utenti e giornalisti hanno documentato numerosi errori gravi. I tentativi dell’intelligenza artificiale di interpretare i contenuti video spesso si traducevano in interpretazioni errate surreali che confondevano anziché chiarire l’esperienza visiva.
Esempi chiave di questi fallimenti includono:
- Identificazione errata di celebrità: un video in cui Charli D’Amelio, il creatore di TikTok, parla alla telecamera è stato descritto dall’intelligenza artificiale come “una raccolta di vari mirtilli con diversi condimenti.”
- Interpretazioni astratte: Una clip della cantante Shakira è stata etichettata come “una sequenza ripetitiva di diverse forme blu distinte che appaiono e si muovono sullo schermo.”
- Riconoscimento di un’azione assurda: In un esempio condiviso su Reddit, un video di due ballerini di sala da ballo è stato erroneamente identificato come “una persona che colpisce ripetutamente la testa con un pollo di gomma.”
Questi errori non erano incidenti isolati ma parte di un modello più ampio di imprecisioni che frustrava gli utenti che si aspettavano che la funzionalità fornisse un contesto utile, simile ai riepiloghi visualizzati nella Ricerca Google.
Perché il contesto è importante nei video in formato breve
L’ambizione iniziale di TikTok con AI Overviews era quella di rispecchiare l’utilità dei risultati di ricerca generati dall’intelligenza artificiale di Google. L’obiettivo era spiegare cosa stava accadendo in un video, offrendo ulteriore contesto agli utenti che potrebbero scorrere silenziosamente o cercare informazioni rapide.
Tuttavia, i video in formato breve sono intrinsecamente complessi. Si basa su tagli rapidi, umorismo visivo, riferimenti culturali e linguaggio del corpo ricco di sfumature, elementi che gli attuali modelli di intelligenza artificiale faticano ad analizzare con precisione. Quando l’intelligenza artificiale non riesce a riconoscere un volto umano o un’attività comune, spesso passa automaticamente al riconoscimento generico di oggetti, portando alla sconcertante disconnessione tra il contenuto video e la descrizione testuale.
Il problema principale: La precisione è fondamentale per i riepiloghi AI. Quando uno strumento pensato per chiarire i contenuti crea invece confusione, mina la fiducia degli utenti e aggiunge rumore alla piattaforma.
Un passo indietro nell’adozione dell’intelligenza artificiale
Il perno di TikTok verso l’identificazione del prodotto è un adeguamento pragmatico. Limitando l’ambito dell’intelligenza artificiale a articoli commerciali riconoscibili, la piattaforma può sfruttare i suoi punti di forza della visione artificiale evitando le insidie della generazione del linguaggio naturale per contenuti creativi a tempo indeterminato.
Questo incidente rispecchia le tendenze più ampie del settore. Solo pochi anni fa, Google si trovò ad affrontare un esame simile quando i suoi primi esperimenti di ricerca con l’intelligenza artificiale suggerirono consigli senza senso, come mangiare sassi o usare la colla sulla pizza. Questi primi passi falsi sottolineano una lezione fondamentale per il settore tecnologico: le capacità di intelligenza artificiale devono evolversi di pari passo con le garanzie di sicurezza e precisione.
Conclusione
Il ritiro di TikTok dai riassunti narrativi dell’intelligenza artificiale funge da ammonimento per altre piattaforme che sperimentano l’intelligenza artificiale generativa. Sebbene la tecnologia sia promettente per migliorare l’esperienza dell’utente, non è ancora pronta per interpretare in modo affidabile la natura ricca di sfumature e frenetica dei video sui social media. Per ora, identificare i prodotti è un’applicazione più sicura e funzionale rispetto al tentativo di riassumere la creatività umana.
