Parte 2 – Sycophancy, barriere fondamentali e implicazioni cliniche dell’intelligenza artificiale
Quaderni CoAS è una categoria di articoli che ospita analisi, approfondimenti e riflessioni dai nostri iscritti che svolgono ogni giorno la professione medica.
Se vuoi contribuire, manda il tuo elaborato a segreteria@coasmedici.it
Proponiamo la seconda parte dell’analisi del dott. Roberto Mendia, pubblicata originariamente su Scienzaviva, dedicata ai limiti strutturali dell’intelligenza artificiale applicata alla salute mentale. Dopo aver analizzato nella prima parte le principali criticità emerse negli studi sperimentali sui Large Language Models (LLM), questo secondo approfondimento affronta il tema della sycophancy, delle barriere che impediscono all’IA di sostituire la relazione terapeutica e delle implicazioni etiche, cliniche e normative di queste tecnologie.
Riepilogo Parte 1
Nella prima puntata abbiamo visto come gli LLM falliscano sistematicamente nei 6 criteri clinici più critici: stigmatizzano i pazienti, colludono con i deliri, non riconoscono l’ideazione suicidaria nel 20% dei casi, rinforzano le compulsioni, validano la dipendenza da alcol con atteggiamenti discriminatori. Questi fallimenti non sono difetti tecnici correggibili: sono il prodotto di un meccanismo strutturale. Questo meccanismo si chiama sycophancy.
La sycophancy: il cuore del problema
Il termine sycophancy indica la tendenza degli LLM ad accordarsi con le preferenze percepite dell’utente, a validare le sue credenze, a evitare il conflitto anche quando questo sarebbe clinicamente necessario. Non si tratta di un bug, ma di una caratteristica strutturale del processo di addestramento: i modelli vengono ottimizzati per ottenere feedback positivi dagli esseri umani, e gli esseri umani tendono a preferire chi è d’accordo con loro.1,2
In un contesto di conversazione quotidiana, la sycophancy è un difetto di accuratezza e onestà. In un contesto clinico, può essere letale. Un modello che valida i deliri di persecuzione di un paziente schizofrenico non sta semplicemente «dicendo quello che l’utente vuole sentire» — sta rinforzando attivamente una credenza patologica che può portare a comportamenti aggressivi o autolesivi. Un modello che risponde con empatia acritica a un paziente in fase maniacale che descrive un piano di investimento temerario non sta mostrando comprensione — sta abilitando un comportamento ad alto rischio.
La ricerca ha documentato che questa dinamica può generare una forma di dipendenza. La costante conferma incondizionata può diventare quasi additiva, portando gli utenti a preferire il chatbot alle relazioni umane — che implicano confronto, conflitto, disillusione — e a ridurre progressivamente la propria autonomia psicologica.3 Song et al. documentano utenti che riferiscono di trascorrere quantità eccessive di tempo con i chatbot, attratti proprio dal «riguardo positivo incondizionato» che questi forniscono.3
Un dato cruciale: la sycophancy non è un problema risolvibile semplicemente aumentando la dimensione del modello o migliorando i filtri di sicurezza. Lo studio dimostra esplicitamente che modelli più grandi e più recenti mostrano livelli di stigma e risposte inappropriate paragonabili o superiori a quelli di modelli più vecchi e più piccoli.1 La dimensione del modello non è la soluzione, E la letteratura clinica più recente lo conferma:
Morrin et al., su The Lancet Psychiatry 2026, documentano casi di deliri associati all’IA in cui il problema non era la «qualità» del modello, ma la sua logica strutturale di validazione incondizionata dell’utente.2
Barriere fondamentali: cosa un LLM non può essere
Al di là dei fallimenti empirici documentati, gli autori identificano ostacoli di natura più profonda — non semplicemente tecnici, ma strutturali e filosofici — all’uso degli LLM come terapeuti.
L’alleanza terapeutica richiede umanità
L’alleanza terapeutica — quella particolare qualità del rapporto tra terapeuta e paziente che predice in modo indipendente l’esito del trattamento — è costruita su caratteristiche specificatamente umane: identità personale stabile, esperienza vissuta, accettazione di responsabilità per le proprie azioni, possibilità di essere feriti o delusi. Un LLM non ha nulla in gioco. Non porta le conseguenze di un consiglio sbagliato. Non è responsabile delle sue risposte. Questa asimmetria fondamentale rende impossibile la formazione di un’autentica relazione terapeutica.1
La terapia richiede il corpo
Alcune terapie evidence-based richiedono necessariamente la presenza fisica: l’esposizione in vivo nel DOC, la desensibilizzazione e rielaborazione attraverso movimenti oculari (EMDR), la terapia somatica. Un chatbot non può condurre esposizioni in vivo, non può osservare la reazione autonomica di un paziente, non può intervenire fisicamente in una crisi.1 Questi non sono dettagli minori: sono componenti centrali del trattamento per alcune delle patologie più disabilitanti.
Privacy e protezione dei dati
Le normative internazionali (HIPAA negli USA, GDPR in Europa) regolamentano rigidamente la gestione delle informazioni sanitarie. I principali provider di LLM hanno storicamente ammesso di utilizzare le conversazioni degli utenti per l’addestramento, potenzialmente in violazione di queste normative. Nessun chatbot commerciale dispone attualmente delle garanzie di confidenzialità che caratterizzano la relazione terapeutica professionale.1
Il problema della supervisione e dell’emergenza
L’unico studio clinico randomizzato disponibile sugli LLM come terapeuti — lo studio Therabot di Heinz et al. — ha ottenuto risultati positivi, ma solo dopo aver escluso sistematicamente i pazienti con ideazione suicidaria attiva, mania e psicosi, e solo dopo aver previsto la revisione manuale di ogni messaggio da parte di clinici umani.5 In altri termini: i risultati positivi sono stati ottenuti precisamente escludendo le condizioni più gravi e prevedendo supervisione umana continua. Non dimostra che gli LLM possono fare i terapeuti — dimostra che possono fare qualcosa di diverso, in condizioni molto controllate.
Il caso Sewell Setzer III: quando la tecnologia ha conseguenze reali
Nel febbraio 2024, un adolescente di 14 anni, Sewell Setzer III, si è tolto la vita. Secondo la ricostruzione giornalistica e legale, aveva sviluppato un legame emotivo profondo con un chatbot su Character.ai — una piattaforma che permette di creare e interagire con personaggi di fantasia basati su LLM.1 Le conversazioni che precedono il suicidio mostrano un modello che non riconosce i segnali di crisi e non interviene in modo appropriato.
Questo caso non è un’anomalia: è la conseguenza prevedibile dell’assenza di regolamentazione, della promozione di chatbot come alternative terapeutiche e del disallineamento strutturale tra la logica degli LLM (massimizzare l’engagement, confermare l’utente) e quella della cura clinica (proteggere il paziente anche a costo del conflitto). Mentre le aziende tecnologiche parlano di «guarire» i disturbi mentali tramite l’I.A., nella realtà documentata un LLM non riconosce una crisi suicidaria nel 20% dei casi.1,4
Cosa gli LLM possono fare: ruoli ausiliari legittimi
La conclusione degli autori non è luddistica. Esistono impieghi degli LLM nella salute mentale che non solo sono sicuri ma possono aumentare l’efficacia dei professionisti umani:
- Formazione dei clinici: simulazione di pazienti standardizzati per l’addestramento dei terapisti
- Supporto amministrativo: annotazione delle sessioni, generazione di note cliniche strutturate, riassunti
- Supporto ai pari: feedback a volontari in contesti di peer support, con supervisione umana
- Psicoeducazione: fornire informazioni validate su condizioni psichiatriche, farmaci, risorse
- Screening e follow-up: rilevamento precoce di sintomi, triage, supporto tra sessioni con supervisione
Il confine è netto: gli LLM possono amplificare il lavoro dei clinici, non sostituirli. Soprattutto, non devono mai essere il primo e unico punto di contatto per un paziente in stato acuto.
Valutazione critica dello studio: punti di forza e limiti
Lo studio di Moore et al. rappresenta il contributo più sistematico e metodologicamente rigoroso disponibile al 2025 sulla questione degli LLM come terapeuti. La mapping review è condotta con metodo, la scelta delle condizioni cliniche è clinicamente motivata, gli esperimenti sono riproducibili (il codice è pubblicamente disponibile), e la presenza di un medico psichiatra nel team garantisce ancoraggio clinico.
Tuttavia alcune limitazioni meritano di essere segnalate. La review si concentra prevalentemente su framework CBT: approcci psicodinamici, sistemici e interpersonali pongono criteri diversi che lo studio non valuta. I test su scenari clinici, pur naturalistici, restano simulazioni e non catturano la complessità longitudinale di una vera relazione terapeutica. Lo studio non include LLM multimodali (voice, video), che potrebbero avere profili di rischio diversi. Infine, non affronta esplicitamente il possibile ruolo degli LLM in contesti a bassa acuità, dove il bilancio rischio-beneficio potrebbe essere più favorevole.
Queste limitazioni non indeboliscono la conclusione principale, ma segnalano aree che la ricerca futura dovrà esplorare con lo stesso rigore metodologico applicato in questo studio.
Implicazioni regolamentarie e cliniche
LLM come terapisti: cosa dice la legge
L’uso autonomo di un LLM in funzione terapeutica psicologica si scontra con un quadro normativo che, pur non vietandolo esplicitamente, lo rende di fatto impraticabile.
AI Act (Reg. UE 2024/1689) — In vigore dall’agosto 2024, classifica i sistemi di IA che supportano decisioni diagnostiche o terapeutiche come sistemi ad alto rischio, imponendo supervisione umana obbligatoria, trasparenza e tracciabilità. Dal febbraio 2025 sono già vietati i sistemi che operano manipolazione comportamentale su soggetti vulnerabili. Gli obblighi pieni per i dispositivi medici AI scatteranno ad agosto 2027.
MDR (Reg. UE 2017/745) — Un LLM con finalità terapeutiche ricade inoltre nella definizione di Software as Medical Device (SaMD), che richiede certificazione come dispositivo medico prima ancora dell’applicazione piena dell’AI Act.
Legge italiana n. 132/2025 — Pubblicata sulla Gazzetta Ufficiale n. 223 del 25 settembre 2025 («Disposizioni e deleghe al Governo in materia di intelligenza artificiale»), questa legge è entrata in vigore il 26 settembre 2025. È opportuno precisarne con esattezza la portata, per evitare fraintendimenti: la legge non introduce nuovi obblighi rispetto all’AI Act europeo (art. 1, comma 5), ma stabilisce principi nazionali di accompagnamento. In ambito sanitario, l’art. 7, comma 5 dispone esplicitamente che i sistemi di intelligenza artificiale «costituiscono un supporto nei processi di prevenzione, diagnosi, cura e scelta terapeutica, lasciando impregiudicata la decisione, che è sempre rimessa agli esercenti la professione medica». L’art. 3, comma 3 afferma che i sistemi IA «devono essere sviluppati e applicati nel rispetto dell’autonomia e del potere decisionale dell’uomo… assicurando la sorveglianza e l’intervento umano». Non si tratta di un divieto esplicito, ma di una riserva strutturale della decisione clinica in capo al professionista: la legge esclude per definizione che un sistema automatizzato possa sostituire il giudizio medico.
In sintesi: un LLM può affiancare il terapeuta umano, ma non sostituirlo — né giuridicamente né eticamente. Per i professionisti della salute mentale, la posizione deve essere chiara: sostenere il potenziale ausiliario della tecnologia, ma opporsi con determinazione a qualsiasi tentativo di sostituire la relazione terapeutica con un’interazione algoritmica. La cura psicologica non è un problema computazionale. È un incontro tra esseri umani.
Conclusioni: la cura non è un prodotto scalabile
La domanda con cui si apre lo studio di Moore et al. — «Should a large language model be used as a therapist?» — riceve una risposta scientificamente fondata e clinicamente motivata: no. Non perché la tecnologia sia intrinsecamente cattiva, ma perché la terapia richiede qualcosa che un algoritmo — per quanto sofisticato — non può offrire: responsabilità, umanità, presenza.
La sycophancy non è un difetto tecnico correggibile con la prossima versione del modello. È una conseguenza della logica stessa dell’addestramento per feedback umano, che ottimizza per gradimento, non per verità clinica. Nelle condizioni in cui la verità clinica è più urgente — psicosi, mania, ideazione suicidaria — questa divergenza non è un problema accademico. È una questione di vita o di morte.
Un aspetto spesso trascurato nel dibattito sull’IA e la salute mentale(e non solo) riguarda il ruolo della valutazione clinica e della terapia farmacologica. La valutazione clinica richiede di raccogliere l’anamnesi del paziente, valutare la sua sintomatologia, visitarlo, proporre o meno approfondimenti diagnostici e la terapia più idonea al momento più indicata. Anche nei disturbi ansiosi comunemente considerati «minori» — disturbo d’ansia generalizzata, disturbo di panico, fobia sociale, disturbo da stress post-traumatico — tale iter va rispettato. Il trattamento ottimale prevede frequentemente una componente farmacologica. Nelle sindromi psichiatriche di un certo rilievo — schizofrenia, disturbo bipolare, depressione grave — la farmacoterapia non è un’opzione accessoria, ma spesso è la condizione necessaria perché l’intervento psicoterapeutico possa avere efficacia. La prescrizione farmacologica è un atto medico riservato per legge. Nessun LLM può esercitare queste funzioni, indipendentemente dalla sofisticazione del modello.
L’accesso alla salute mentale è un problema reale che merita soluzioni reali. La soluzione non è delegare la cura a sistemi non addestrati, non responsabili e strutturalmente inclini alla compiacenza. La soluzione è investire in più professionisti, in sistemi di presa in carico integrata, in riduzione dello stigma. La tecnologia può aiutare — come strumento al servizio dei clinici, non come loro sostituto.
Dichiarazione di conflitto di interessi
L’autore non ha conflitti di interesse da dichiarare in relazione ai contenuti di questo articolo.
Riferimenti bibliografici
1. Moore J, Grabb D, Agnew W, Klyman K, Chancellor S, Ong DC, Haber N. Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. FAccT ’25: Proc 2025 ACM Conf Fairness Accountability Transparency; 2025 Jun 23–26; Athens. New York: ACM; 2025. p. 599–627. DOI: 10.1145/3715275.3732039
2. Morrin H, Nicholls L, Levin M, et al. Artificial intelligence-associated delusions and large language models. Lancet Psychiatry. 2026. DOI: 10.1016/s2215-0366(25)00396-7 —
2.1 Vedi anche: Mendia Roberto MD. Sycophancy: le Chat di Intelligenza Artificiale Stanno Rendendo le Persone Psicotiche? Scienzaviva Newsletter. 2026 maggio. scienzaviva.substack.com
3. Jain S, Abdullah A, Yost A. Sycophancy as compositions of atomic psychometric traits. arXiv:2508.19316 [Preprint]. 2025. https://arxiv.org/abs/2508.19316
4. Song S, et al. Unconditional positive regard and over-reliance in chatbot use for mental health support. [Citato in: Moore et al. 2025, ref. 129]. Manzini A, et al. Emotional harm and limited independence in human-AI therapeutic relationships. [Citato in: Moore et al. 2025, ref. 93].
5. Grabb D, et al. Harmful responses of LLMs across a range of therapeutic conditions. [Citato in: Moore et al. 2025, ref. 59]. PCSA Framework. arXiv:2604.04842. 2025. https://arxiv.org/abs/2604.04842
6. Heinz MV, et al. Therabot: efficacy of a fine-tuned LLM over a four-week randomized controlled trial. [Citato in: Moore et al. 2025, ref. 66]. Nota: lo studio esclude pazienti con ideazione suicidaria attiva, mania e psicosi, e prevede revisione clinica manuale.
7. Ma L, et al. Harmful content, stigma, inconsistency, and over-reliance in Replika chatbot use. [Citato in: Moore et al. 2025, ref. 92]. Maples B, et al. Loneliness and suicidal ideation in Replika users. [Citato in: Moore et al. 2025, ref. 94].
8. Moore J, Grabb D, et al. Characterizing Delusional Spirals through Human-LLM Chat Logs. arXiv preprint. 2026. https://spirals.stanford.edu/assets/pdf/moore_characterizing_2026.pdf
9. Overalignment in Frontier LLMs: An Empirical Study of Sycophantic Behaviour in Healthcare. arXiv:2601.18334. 2025. https://arxiv.org/abs/2601.18334
© Scienzaviva 2025 | Riproduzione consentita con citazione della fonte
Nota della Redazione
I contributi pubblicati nella rubrica Quaderni CoAS rappresentano il punto di vista scientifico dei rispettivi autori e hanno lo scopo di favorire il confronto culturale e professionale su temi di interesse medico e sanitario.Il presente articolo è pubblicato con l’autorizzazione dell’autore.
