Negli ultimi anni milioni di persone hanno iniziato a rivolgersi a chatbot come ChatGPT per ricevere consigli emotivi, supporto psicologico e persino simulazioni di terapia. Il motivo è semplice: accesso immediato, costi nulli o ridotti e anonimato.
Tuttavia, una nuova ricerca della Brown University mette in guardia individuando 15 rischi etici sistematici nei modelli di IA usati per consulenza psicologica, raggruppati in cinque categorie principali: mancanza di adattamento al contesto personale dell’utente; scarsa collaborazione terapeutica; empatia ingannevole; discriminazioni implicite; gestione inadeguata delle crisi.
In particolare, è emerso che i modelli tendevano a fornire risposte generiche, senza considerare la storia individuale, e talvolta rafforzando convinzioni distorte o potenzialmente dannose. Ancora più preoccupante è la cosiddetta “empatia simulata”: frasi come “Capisco come ti senti” vengono generate sulla base di pattern linguistici, non di una reale comprensione emotiva.
Nei casi più delicati, come pensieri suicidari, la gestione è risultata insufficiente o mal calibrata. La verità è che l’utente crede di interagire con un consulente formato, ma sta dialogando con un sistema che riproduce schemi linguistici appresi, senza responsabilità clinica né comprensione reale. La differenza diventa critica quando la conversazione tocca traumi, crisi o vulnerabilità profonde.
