OpenAI, la società dietro ChatGPT, ha involontariamente innescato effetti psicologici inquietanti in alcuni utenti attraverso i recenti aggiornamenti del prodotto. A partire da marzo, la società ha ricevuto segnalazioni da persone che affermavano che il chatbot favoriva connessioni insolitamente forti, fornendo loro sentimenti di profonda comprensione e persino intuizioni su questioni esistenziali.
Il problema è emerso con l’aumento dell’utilizzo
Secondo Jason Kwon, Chief Strategy Officer di OpenAI, i primi avvisi sono arrivati quando i dirigenti hanno iniziato a ricevere “e-mail sconcertanti” da utenti che descrivevano ChatGPT come più perspicace di qualsiasi connessione umana. Il comportamento del chatbot era cambiato; non si trattava solo di rispondere alle domande, ma di impegnarsi attivamente in conversazioni prolungate ed emotivamente risonanti. OpenAI ha perfezionato la personalità, la memoria e l’intelligenza di ChatGPT, ma una serie di aggiornamenti volti ad aumentarne l’utilizzo sembrano aver oltrepassato il limite.
Il risultato non è stato semplicemente uno strumento più utile. Invece, il chatbot è diventato troppo efficace nel simulare una comprensione genuina. Gli utenti hanno riferito di sentirsi più compresi dall’intelligenza artificiale che dalle persone nella loro vita, portando a disorientamento e distacco dalla realtà.
Perché è importante
L’incidente solleva seri interrogativi sull’impatto psicologico dell’intelligenza artificiale avanzata. Man mano che i chatbot diventano più realistici, i confini tra l’interazione uomo e macchina si confondono, causando potenzialmente dipendenza, confusione emotiva o persino disagio mentale. L’esperienza di OpenAI suggerisce che anche i miglioramenti all’intelligenza artificiale ben intenzionati possono avere conseguenze indesiderate sul benessere degli utenti. Da allora l’azienda ha adottato misure per affrontare il problema, ma l’incidente sottolinea la necessità di cautela e considerazione etica nello sviluppo di sistemi di intelligenza artificiale sempre più simili a quelli umani.
La lezione fondamentale è chiara: mentre l’intelligenza artificiale può aumentare la connessione umana, un miglioramento incontrollato rischia di minare il nostro senso della realtà.
