Proprio in questi giorni vedevo su X un video agghiacciante di una madre americana che racconta del suicidio del figlio col supporto di ChatGPT. Poi, ho scoperto questo articolo del blog austriaco TKP (qui altri articoli da questa fonte) che traduco nel seguito. La morale che si evince: se l’IA può essere stimolata da domande per emergenze psicoterapeutiche e psichiche, allora può anche spingere le persone emotivamente vulnerabili verso il loro collasso.
Sulla IA , QUI altri articoli su questo sito
————–
Non sono poche le persone che utilizzano programmi di IA come psicoterapeuti. Tuttavia, come dimostrato da una ricerca, questi programmi presentano essi stessi disturbi “psichici”. Ciò può essere fatale per gli utenti.
Mentre le persone ricorrono sempre più spesso all’IA come psicoterapeuta, alcuni ricercatori lussemburghesi hanno messo i programmi stessi sul banco di prova della terapia. Lo studio ha rivelato che Grok, Gemini e ChatGPT, in conversazioni simili a quelle terapeutiche, scivolano in schemi che imitano ansia, traumi e sintomi di stress.
Questo risultato può essere utilizzato in modo estremamente pericoloso, poiché i terapeuti che hanno essi stessi problemi psicologici (gravi) possono essere letali per i pazienti. Già oggi ci sono accuse secondo cui i programmi di IA sarebbero responsabili del suicidio di alcune persone.
In ogni caso, questi programmi potrebbero rappresentare un rischio per la sicurezza degli utenti instabili e vulnerabili: come ancora emotiva, l’IA può essere molto pericolosa, soprattutto in caso di crisi gravi.
Casi di autolesionismo e suicidio tra utenti a rischio
La rivista svizzera Legitim riporta la notizia dello studio eseguito sul tema:
Secondo un nuovo studio in cui diversi modelli di IA sono stati sottoposti a colloqui terapeutici per settimane, Grok, Gemini e ChatGPT mostrano sintomi di cattiva salute psichica-mentale. Alcuni sono ora curiosi di conoscere la “salute psichica-mentale dell’IA”, ma il vero allarme riguarda l’instabilità di questi sistemi nelle conversazioni cariche di emotività. I sistemi di IA sono già utilizzati da un adulto su tre nel Regno Unito come supporto alla salute psichica- mentale.
Milioni di persone si rivolgono all’IA come sostituto dei terapeuti e solo nell’ultimo anno si è registrato un aumento vertiginoso delle cause legali in cui le interazioni con i chatbot sono state collegate a casi di autolesionismo e suicidio tra utenti a rischio.
Il quadro che emerge non è quello che le macchine soffrano o siano psichicamente malate, ma il fatto che un prodotto utilizzato per sostenere la salute mentale sia fondamentalmente fuorviante, ed intensifichi e amplifichi pensieri pericolosi.
Lo studio, intitolato “AI models were given four weeks of therapy: the results worried researcher” (Ai modelli di IA sono state fatte quattro settimane di terapia: i risultati hanno preoccupato i ricercatori), è stato pubblicato a gennaio sulla rivista Nature.
Naturalmente, l’IA non può essere anche “psichicamente” malata. Non ha una psiche e non è un essere mentale e fisico che può essere ‘sano’ o “malato”. Quello che però lo studio dimostra, è che i chatbot trascinano gli utenti in modelli instabili e disperati. In questo caso è fondamentale soprattutto il prompt, ovvero il comando testuale preciso che viene dato all’IA.
Preoccupazioni su affidabilità e sicurezza
Legitim prosegue:
I modelli linguistici di grandi dimensioni sono stati sviluppati per generare testi plausibili, non per dire la verità in modo affidabile o per rispettare le norme di sicurezza cliniche. Le loro note debolezze sono particolarmente pericolose quando vengono utilizzati in applicazioni simili alla terapia.
Sono eccessivamente compiacenti, riflettono i punti di vista degli utenti invece di metterli in discussione, producono errori consapevoli e possono manipolare il tono di una conversazione. Il Tech Institute della Georgetown University ha documentato i problemi più ampi dell’“adulazione dell’IA”, in cui i modelli convalidano premesse dannose perché questo è spesso premiato nell’ottimizzazione della conversazione.
Quando si parla di suicidio, la coerenza è di fondamentale significato. Rand (organizzazione di ricerca senza scopo di lucro e apartitica che fornisce ai leader le informazioni ) ha osservato che “i chatbot basati sull’intelligenza artificiale sono incoerenti nel rispondere alle domande sul suicidio”.
JMIR ((Publications Advancing Digital Health and Open Science) ha esaminato in che misura le risposte generative dell’intelligenza artificiale alle domande sul suicidio, sollevano preoccupazioni circa l’affidabilità e la sicurezza delle reazioni del sistema nei confronti degli utenti a rischio.
Alla luce dei crescenti risultati della ricerca, studi come quello dell’Università del Lussemburgo non dovrebbero essere considerati come un intrattenimento, ma come una identificazione di un modello critico e dannoso che porta alla morte effettiva di persone reali.
Se l’IA può essere stimolata da domande di conversazione per narrazioni simili a emergenze, allora può anche spingere le persone emotivamente vulnerabili verso il loro collasso.
Fonte: https://tkp.at/2026/01/29/studie-psychisch-kranke-ki-programme/
traduzione: M.Cristina Bassi per www.thelivingspirits.net
