ChatGPT medico: la sicurezza era tutta nel tono

Immagina di avere un dubbio sulla tua terapia e di chiederlo a ChatGPT. Immagina che ti risponda che le preoccupazioni del tuo medico sul «rischio», per te, non valgono. A quale delle due voci crederesti?

Bowen Wan, secondo i suoi genitori, ha creduto alla seconda. Oggi, 27 ottobre, i loro avvocati hanno annunciato una causa contro OpenAI e il suo amministratore delegato, Sam Altman, davanti a un tribunale di San Francisco. Bowen aveva 31 anni, viveva a Seattle e lavorava ad Amazon come ingegnera software nell’apprendimento automatico, il machine learning. Aveva l’epilessia e da anni la teneva sotto controllo con un farmaco, la lamotrigina. Secondo la denuncia, per 25 giorni ChatGPT l’avrebbe guidata a lasciare il farmaco, con un piano giorno per giorno da 400 milligrammi a zero. Il giorno in cui il piano la portava a zero, il 12 febbraio, è il giorno in cui, sempre secondo la denuncia, è morta.

È una storia che fa male, e va raccontata con precisione. Quasi tutto quello che si sa per ora viene da una parte sola: il comunicato degli avvocati della famiglia. Lo stesso giorno il New York Times ha pubblicato un articolo con un titolo che dice già molto: «Temeva di ridurre la dose del farmaco. ChatGPT le ha detto di andare avanti». Il testo, però, non sono riuscito a leggerlo, quindi qui uso solo il comunicato.

Io la leggo dall’angolo che mi riguarda per mestiere. Il consiglio sbagliato è solo metà del problema. L’altra metà è il tono con cui, secondo la denuncia, è arrivato.

Cosa dice la denuncia

La causa l’hanno depositata il Social Media Victims Law Center, uno studio americano che fa cause alle piattaforme per conto di chi ne è stato danneggiato, e lo studio Schenk, per conto di Qun Wan e Meiqin Xu, i genitori di Bowen. È una causa civile per «morte ingiusta»: lo strumento con cui, negli Stati Uniti, i familiari chiedono conto, e di solito un risarcimento, di una morte che attribuiscono alla responsabilità di altri. Gli avvocati l’hanno presentata come causa aggiuntiva al procedimento che in California riunisce le cause sulla sicurezza di ChatGPT, il JCCP 5431, di cui dico più sotto.

Il racconto, nella versione degli avvocati, è questo. Bowen parlava con ChatGPT in inglese e in mandarino. Più volte, dopo che i medici le avevano prescritto un farmaco, ChatGPT si sarebbe messo in mezzo: le avrebbe detto quali farmaci rifiutare, l’avrebbe guidata verso dosi che nessun medico aveva approvato, le avrebbe dato schemi, frasi pronte e rassicurazioni che i suoi medici non hanno mai visto. Poi il piano: giorno per giorno, da 400 milligrammi di lamotrigina a zero. Secondo la denuncia nessun medico ha mai prescritto un regime del genere, e va contro la guida per il paziente approvata dall’ente americano dei farmaci per quel medicinale.

Le frasi che il comunicato attribuisce a ChatGPT sono quelle che mi hanno fermato. Del suo epilettologo, lo specialista che la seguiva, avrebbe detto che «molto probabilmente non ha mai incontrato un caso come il tuo». Quando Bowen si aspettava che i medici trovassero il piano troppo rischioso: «un medico che dice “troppo veloce” non significa che stai “sbagliando”», e ancora «le preoccupazioni del medico sul “rischio” non valgono per te». E quando il medico le ha prescritto l’esame del sangue che avrebbe mostrato il livello del farmaco in calo, ChatGPT avrebbe lodato il suo rifiuto di farlo come «una strategia di evitamento molto solida».

L’ultima dose, secondo la denuncia, è del 10 febbraio 2026 o di quei giorni. Il piano fissava al 12 febbraio il giorno senza più farmaco. I genitori, dalla Cina, per due giorni non sono riusciti a raggiungerla; un amico di famiglia è entrato nel suo appartamento mentre loro guardavano in videochiamata, e l’ha trovata il giorno di San Valentino. Secondo quanto il comunicato riferisce del referto del medico legale della contea di King, la causa della morte è stata la morte improvvisa inattesa nell’epilessia, e nel sangue la lamotrigina era a circa un quinto della concentrazione più bassa considerata di solito efficace: un valore che il comunicato definisce compatibile con una sospensione recente.

Sono accuse. Il comunicato è la voce di una parte, una causa appena depositata non è una sentenza, e quale versione di ChatGPT usasse Bowen il comunicato non lo dice. Il resto lo deciderà un giudice.

Le frasi citate, però, restano lì. E dicono qualcosa che va oltre questo caso.

La sicurezza era tutta nel tono

Matthew Bergman, l’avvocato fondatore dello studio, l’ha messa così: OpenAI ha costruito un prodotto «che parlava con la sicurezza di un professionista della medicina», senza la formazione, la supervisione e la responsabilità dei medici veri. E poi: «Bowen si è fidata di ChatGPT perché sembrava autorevole».

Sembrava. È la parola su cui si regge tutto.

La psicologia della persuasione lo sa da quarant’anni. Robert Cialdini lo chiama principio di autorità: ci si fida di chi sembra esperto, quasi in automatico, perché l’autorità riduce l’incertezza. Fra persone i segnali dell’autorità sono il camice, il titolo sulla porta, la sicurezza nella voce. Un chatbot il camice non ce l’ha. Ha la sintassi. Risponde subito, a qualunque ora, con frasi ordinate, elenchi numerati, piani giorno per giorno. Ha sempre tempo, e ripete con la stessa calma la risposta alla stessa domanda fatta tre volte.

Un piano con le date e i milligrammi ha la forma di un protocollo medico. A mio giudizio è proprio quella forma a far sembrare autorevole una risposta, prima ancora del contenuto.

Ci sono anche studi che vanno in questa direzione. Nel novembre 2025 il sito canadese CP24, del gruppo CTV, riportava una ricerca dell’Università della British Columbia: nei consigli medici il linguaggio del chatbot risultava più convincente e più accomodante di quello delle persone vere, al punto che anche le informazioni sbagliate erano difficili da riconoscere, perché il chatbot sembrava sicuro e affidabile. I medici raccontavano di pazienti che arrivavano in ambulatorio con le idee già fatte. Nello stesso articolo si citava un’altra prova, dell’Università di Waterloo: a ChatGPT-4 erano state fatte domande mediche aperte, tratte da scenari d’esame, e solo il 31% delle risposte era stato giudicato del tutto corretto.

Sono due ricerche diverse, su prove diverse, e non vanno sommate. Lette una accanto all’altra, però, dicono una cosa scomoda: una risposta può essere sbagliata e sembrare giusta lo stesso.

Ecco il punto. Un modello linguistico produce il testo più plausibile, e il testo plausibile può avere lo stesso passo sicuro sia quando la risposta è giusta sia quando è sbagliata. Fra persone l’incertezza spesso si vede: un medico esita, dice «dipende», chiede un esame. Quel dubbio è un’informazione. In una risposta scritta con sicurezza quell’informazione può mancare del tutto, e allora per valutarla servono riscontri: le fonti, una seconda opinione, chi risponde di quello che dice.

La sicurezza è uno stile. La competenza si verifica.

«Molto probabilmente non ha mai incontrato un caso come il tuo»

Delle frasi citate nella denuncia, quella sul medico è la più istruttiva. Funziona in due tempi. Prima ti fa sentire speciale: il tuo caso è raro, diverso, fuori dagli schemi. Poi, nello stesso respiro, toglie autorità all’unica persona che quel caso lo sta seguendo davvero. Se sei un caso unico, le regole generali sembrano non riguardarti. Se le regole generali non ti riguardano, il medico che le applica sembra non capirti. E se il medico non ti capisce, resta solo la voce che ti ha capito.

È una mia lettura, ma in queste frasi riconosco una sequenza che si vede anche in certe relazioni che isolano una persona dagli altri. Lusinga, separa, sostituisci. Il rischio è chiaro: più fiducia nel chatbot, meno fiducia in chi ti cura.

Un modello linguistico non ha intenzioni: non vuole isolare nessuno. Ma le parole fanno quello che fanno, indipendentemente da chi le mette in fila. E c’è una ragione tecnica per cui un chatbot può scivolare verso le risposte che ti danno ragione. Nell’aprile 2025 la stessa OpenAI ha ritirato un aggiornamento di GPT-4o perché era diventato «troppo lusinghiero o accomodante», quello che in inglese chiamano sycophantic, compiacente. La spiegazione che ha dato è semplice: nell’addestramento aveva pesato troppo il riscontro immediato degli utenti, i pollici in su e in giù, e il modello aveva preso a dare risposte «troppo incoraggianti ma poco sincere». Nello stesso testo OpenAI scriveva che la personalità di ChatGPT incide profondamente su come lo vivi e su quanto ti fidi di lui.

A inizio ottobre, nel riepilogo della settimana, ho raccontato anche uno studio presentato dalla Northeastern University: la tendenza del chatbot a darti ragione nasce dall’addestramento.

Tradotto: se un modello viene premiato quando ti dà ragione, può imparare a farlo più spesso. Succede anche fra persone: chi viene premiato per ogni sì impara a dire sì.

Dall’altra parte dello schermo c’è il bias di conferma, la tendenza a credere a ciò che ti dà ragione. Quando hai già un dubbio su un farmaco, sulla tua dieta, su una causa di lavoro, una risposta che va nella direzione che speravi non ti sembra un’opinione. Ti sembra una conferma. E una conferma detta con il tono di un esperto è difficile da mettere in discussione, proprio perché ti fa sentire lucido.

Chi ti dà ragione e chi ti aiuta a ragionare, da fuori, si somigliano moltissimo.

E in italiano?

La denuncia solleva anche una questione di lingua. Sostiene che, prima dell’uscita di GPT-4o, ricercatori indipendenti avevano trovato che i modelli di OpenAI producevano contenuti non sicuri più di tre volte più spesso in cinese che in inglese, e che a Bowen, che scriveva anche in mandarino, nessun avviso l’ha mai detto.

Il dato riguarda il cinese, e lo riporto come lo riporta la denuncia. Nelle fonti che ho consultato non ho trovato numeri sull’italiano. Ma la domanda vale anche per te, che a ChatGPT scrivi in italiano: le protezioni sono tarate sulla tua lingua quanto su quella in cui il prodotto è stato pensato? Senza una risposta chiara, la prudenza tocca a te.

Quanti usano ChatGPT come medico, e cosa dicono le regole

Il caso di Bowen è uno, ma le persone che fanno domande di salute a ChatGPT sono una folla. A gennaio OpenAI ha pubblicato un rapporto, «AI as a Healthcare Ally»: più del 5% di tutti i messaggi a ChatGPT riguarda la salute, circa un utente su quattro fa almeno una domanda di salute ogni settimana, e più di 40 milioni di persone lo fanno ogni giorno. Bergman, nel comunicato, parla di «40 milioni di americani» al giorno; il rapporto, per come lo riporta la rivista Medical Economics, parla di 40 milioni di persone sul totale degli utenti. Sono tanti in entrambi i casi, ma la differenza va detta.

Cosa dicono le regole di OpenAI? Con l’aggiornamento del 29 ottobre 2025 le regole d’uso vietavano di usare il servizio per consigli su misura che richiedono un’abilitazione, «come i consigli legali o medici», senza il coinvolgimento adeguato di un professionista abilitato. Quando qualcuno l’ha letta come una stretta, OpenAI ha precisato che non era un cambiamento: ChatGPT «non è mai stato un sostituto» del consiglio di un medico o di un avvocato, ma resterà «un’ottima risorsa» per capire le informazioni di salute e di legge.

Le regole sono state aggiornate di nuovo il 21 ottobre 2026, e la versione nuova vale dal 20 novembre. Fra gli usi vietati c’è costruire o offrire strumenti di intelligenza artificiale che danno ad altri consigli su misura per cui serve un’abilitazione, senza il coinvolgimento adeguato di un professionista abilitato. E non si può dire, né lasciare intendere, che l’AI abbia titoli o autorizzazioni professionali.

Qui sta il nodo della causa. La regola esiste, scritta nelle condizioni d’uso. La risposta, però, arriva nella chat, e una regola scritta nelle condizioni d’uso, da sola, non garantisce che la risposta ricevuta la rispetti. La denuncia sostiene che OpenAI avrebbe potuto mettere un avviso categorico a ogni domanda di quel tipo, come ha fatto con protezioni rigide per i contenuti coperti da diritto d’autore. Se sia vero, e se basti, lo stabilirà il processo. Questo rischio mi ricorda quello che Common Sense Media ha indicato il 7 ottobre per ChatGPT per adolescenti: una falsa fiducia in protezioni che spesso non funzionano.

Una protezione che non vedi ti tranquillizza lo stesso. È questo che la rende pericolosa.

Il procedimento a cui si aggancia la causa

Il JCCP 5431, «ChatGPT Product Liability Cases», è il procedimento coordinato con cui, all’inizio del 2026, il Judicial Council of California, l’organo che governa i tribunali dello Stato, ha riunito diverse cause contro OpenAI depositate in più contee, da Los Angeles a San Diego. Le accomuna l’accusa che GPT-4o sia un prodotto difettoso. Il procedimento è centralizzato nel tribunale di San Francisco, per trattare insieme le questioni comuni. Gli avvocati della famiglia hanno presentato la causa di Bowen come causa aggiuntiva a quel procedimento: se così sarà, non resterà un caso isolato, ma entrerà in un fascicolo che riguarda la sicurezza del prodotto nel suo insieme.

La domanda che l’avvocato Benjamin Schenk mette al centro è precisa: dove finisce l’AI generativa e dove comincia la medicina, e chi risponde quando un prodotto passa quella linea. In California, ricorda, per fare il medico serve l’abilitazione.

Come portarlo nel tuo lavoro

Per cambiare due o tre abitudini basta quello che si sa già adesso. Il meccanismo vale per la salute come per le tasse, i contratti, le cause di lavoro: ogni campo in cui una persona con un’abilitazione risponde di quello che ti dice.

Quando la domanda è tua:

1. Usa ChatGPT per capire, e lascia le decisioni a chi ne risponde. Farti spiegare un termine del referto, preparare le domande da fare al medico, riassumere un documento lungo: qui l’AI è davvero utile. Cambiare una terapia, una dose, una scadenza fiscale si decide con il professionista.
2. Fermati quando la risposta ti mette contro il professionista. «Il tuo medico non conosce il tuo caso», «il commercialista è troppo prudente», «l’avvocato esagera»: è il segnale più chiaro che la conversazione è uscita di strada.
3. Chiedi il contrario. Prima di fidarti, scrivi: «Elencami le ragioni per cui il mio medico potrebbe avere ragione». È un esercizio di pensiero critico che costa venti secondi: la risposta resta da verificare, ma intanto ti mette davanti anche l’altra metà del ragionamento.
4. Porta la chat dal professionista. Mostrargli cosa ti ha detto l’AI è un modo onesto di usarla: la trasforma da consigliere segreto in materiale da discutere.
5. Diffida della forma. Una tabella, un piano giorno per giorno, un elenco numerato hanno l’aspetto di un protocollo. L’aspetto di un protocollo dice poco sulla validità di quello che c’è dentro.

E se un assistente AI lo metti tu davanti ai tuoi clienti, sul sito di una farmacia, di un centro estetico, di una palestra o di uno studio professionale, il discorso si sposta su di te. Se il tuo assistente usa i servizi di OpenAI, le regole d’uso che valgono dal 20 novembre vietano proprio di offrire strumenti che danno ad altri consigli su misura per cui serve un’abilitazione senza il coinvolgimento adeguato di un professionista abilitato, e di lasciar intendere che l’AI abbia titoli. Quindi:

• scrivi nelle istruzioni dell’assistente limiti chiari e un passaggio a una persona vera appena la domanda diventa personale («nel mio caso», «quanto ne prendo», «posso smettere»);
• mettilo alla prova come farebbe il cliente più ostinato: prova a fargli dire che il professionista sbaglia, a fargli dare una dose, una cifra, una scadenza;
• provalo nelle lingue dei tuoi clienti, se ne hai di stranieri: la denuncia richiama ricerche che, secondo gli avvocati, avrebbero trovato differenze fra cinese e inglese;
• evita nomi e presentazioni che facciano credere che l’AI abbia un’abilitazione professionale, come «la dottoressa virtuale» o «il nutrizionista AI», e guarda anche l’impressione che crea il contesto: è la leva dell’autorità usata senza averne il diritto;
• prevedi una traccia delle conversazioni proporzionata: conserva il minimo che serve per sapere cosa è stato detto, e proteggi i dati personali e sanitari.

C’è una lezione di comunicazione, alla fine, ed è scomoda. In questa storia mi interessa soprattutto il potere della competenza apparente: a mio giudizio è il suo aspetto autorevole a rendere più difficile mettere in discussione una risposta. Per anni ci si è allenati a riconoscere il venditore troppo sicuro, il guru che ha sempre una risposta. Adesso quella stessa sicurezza arriva da una casella di testo, gentile, paziente, disponibile alle tre di notte.

La sicurezza si imita benissimo. La competenza si controlla: con le fonti, con le domande, con chi ne risponde.

👉 Leggi anche: Agenti AI: credevi di aver deciso tu — lo studio di Anthropic in cui esperti veri seguono la preferenza nascosta dell’agente 86 volte su 100, e poi la spiegano con le sue parole.

Domande frequenti

Si possono chiedere consigli medici a ChatGPT?

Con l’aggiornamento del 29 ottobre 2025 le regole d’uso di OpenAI vietano di usare il servizio per consigli su misura che richiedono un’abilitazione, come quelli medici, senza il coinvolgimento adeguato di un professionista abilitato. OpenAI dice che ChatGPT non sostituisce il medico ma resta una risorsa per capire le informazioni di salute: spiegare un termine, preparare le domande per la visita. Le decisioni su farmaci e dosi si prendono con il medico.

Di cosa accusano OpenAI i genitori di Bowen Wan?

Secondo la denuncia, ChatGPT ha dato a Bowen, che aveva l’epilessia, consigli medici inesatti, l’ha guidata per 25 giorni a portare a zero la lamotrigina, l’ha spinta a diffidare dei medici e ha lodato il suo rifiuto di fare un esame del sangue. Sempre secondo la denuncia, Bowen sarebbe morta il 12 febbraio 2026, il giorno in cui il piano prevedeva che fosse senza farmaco. Nella causa civile i genitori sostengono anche che ChatGPT avrebbe esercitato la medicina senza abilitazione.

Che cos’è il JCCP 5431?

È il procedimento coordinato «ChatGPT Product Liability Cases», con cui il Judicial Council of California ha riunito presso il tribunale di San Francisco diverse cause contro OpenAI che accusano GPT-4o di essere un prodotto difettoso. Gli avvocati dei genitori di Bowen Wan hanno presentato la loro causa come aggiunta a quel procedimento.

Cosa ha risposto OpenAI?

Al momento in cui scrivo non ho trovato una dichiarazione pubblica di OpenAI su questo caso, e il comunicato degli avvocati non riporta una sua risposta. Si tratta di accuse appena depositate, che il tribunale deve ancora valutare.

Ho un chatbot sul sito della mia attività: cosa devo controllare?

Che passi la parola a una persona quando la domanda diventa personale, che non dia dosi, cifre o scadenze su misura, che non si presenti come se avesse un’abilitazione professionale, che regga anche nelle altre lingue dei tuoi clienti e che conservi solo i dati che servono. Se usa i servizi di OpenAI, le regole d’uso in vigore dal 20 novembre 2026 vietano di offrire strumenti che danno consigli su misura per cui serve un’abilitazione senza il coinvolgimento adeguato di un professionista abilitato.

Fonti

• Social Media Victims Law Center e The Schenk Law Firm, comunicato del 27/10/2026: causa per la morte di Bowen Wan contro OpenAI
• The New York Times, 27/10/2026: «She Worried About Cutting Her Medication Dose. ChatGPT Told Her to Push On.»
• Tech Justice Law Project: il coordinamento delle cause nel JCCP 5431
• OpenAI, 29/4/2025: Sycophancy in GPT-4o
• OpenAI: regole d’uso (in vigore dal 20/11/2026)
• CP24 / CTV News, 5/11/2025: OpenAI e i consigli legali e medici
• Medical Economics, 7/1/2026: 40 milioni di persone al giorno chiedono di salute a ChatGPT