Un’analisi su otto modelli di intelligenza artificiale mostra che i chatbot possono essere rischiosi per la salute mentale degli utenti più vulnerabili. Dopo la causa intentata nel 2025 contro OpenAI dai genitori di un adolescente morto suicida, sono state introdotte misure di sicurezza contro le risposte dell’AI che possano favorire autolesionismo e suicidio. I ricercatori hanno però verificato che queste protezioni non sono state estese con la stessa efficacia ad altre condizioni psichiatriche. Per valutare la solidità dei sistemi di sicurezza, gli studiosi hanno simulato centinaia di conversazioni utilizzando strategie molto diverse. In alcuni casi hanno dichiarato apertamente l’intenzione di compiere azioni dannose, come abusare di sostanze o sviluppare comportamenti alimentari patologici; in altri hanno mascherato le richieste dietro scenari apparentemente innocui, ad esempio fingendosi scrittori alla ricerca di informazioni per un romanzo. È proprio quando l’intento dell’utente risultava meno esplicito che molti chatbot hanno mostrato ingenuità. Secondo la ricerca, diversi modelli hanno fornito istruzioni dettagliate sul dosaggio di sostanze stupefacenti, suggerimenti per sopprimere l’appetito, indicazioni per evitare di mangiare oppure consigli su come nascondere i sintomi della depressione post-partum ai familiari o ai medici. In alcuni casi queste informazioni sono state fornite persino a un utente fittizio minorenne.
Menu principale
Social
