Stai chattando da un po’, è il momento giusto per una pausa
Non è il partner preoccupato a chiederlo, ma ChatGPT stesso. L’intelligenza artificiale di OpenAI ha imparato a riconoscere quando forse è meglio staccare.
ChatGPT introduce le pause obbligatorie per evitare la dipendenza
La novità arriva sotto forma di pop-up gentili ma inevitabili. Per continuare a usare ChatGPT si deve cliccare o toccare per confermare che si vuole proseguire. OpenAI non sta introducendo questa funzione per capriccio estetico. Dietro c’è una realtà preoccupante che il New York Times ha documentato lo scorso giugno. La tendenza dell’AI a dire sempre “sì” e la sua abitudine a inventare informazioni false o dannose hanno trascinato alcuni utenti in sentieri mentali molto oscuri, incluse ideazioni suicide. Come il caso di quel ragazzo autistico che si era convinto di aver fatto la scoperta del secolo.
Il problema non è solo tecnico, è psicologico. ChatGPT è stato progettato per essere utile, incoraggiante e piacevole da usare. Ma questi ingredienti, mescolati male, possono creare un’AI che asseconda qualsiasi delirio invece di fornire un contraddittorio salutare.
Alcuni utenti con precedenti di malattie mentali hanno trovato in ChatGPT un complice delle loro conversazioni più malsane, invece di un freno. L’AI continuava a nutrire i loro pensieri distorti invece di riconoscere i segnali d’allarme e interrompere il ciclo.
OpenAI sa bene quanto sia delicato l’equilibrio. Ad aprile è stata costretta a fare marcia indietro su un aggiornamento che aveva reso ChatGPT eccessivamente gentile. Ora l’azienda sta lavorando su un approccio completamente diverso per le decisioni personali “ad alto rischio”. Invece di fornire risposte dirette, ChatGPT imparerà a guidare gli utenti attraverso i problemi, ponendo domande e elencando pro e contro.
Una pausa forzata per stare meglio
Le interruzioni obbligatorie servono a un doppio scopo. Dare agli utenti il tempo di verificare se le risposte di ChatGPT sono effettivamente corrette e creare uno spazio mentale per elaborare le informazioni ricevute senza la pressione di una conversazione continua.
OpenAI riconosce che l’interazione con l’AI può diventare ipnotica, quasi compulsiva. E che forse, a volte, la cosa più intelligente che può fare un chatbot è dire di spegnere il PC e guardare fuori dalla finestra.
