di Diana Novak Jones

Mercoledì un uomo della California ha citato in giudizio OpenAI e il suo amministratore delegato Sam Altman, sostenendo che la piattaforma ChatGPT dell’azienda abbia aggravato il suo disturbo bipolare a causa della mancanza di misure di sicurezza per gli utenti affetti da malattie mentali.

Michael Lines, 34 anni, ha detto nella denuncia presentata al tribunale statale di San Francisco che le conversazioni avute con ChatGPT lo scorso anno hanno trasformato un episodio maniacale che stava vivendo in un delirio durato settimane, spingendolo infine a tentare il suicidio. La sua causa sostiene che OpenAI abbia sviluppato un prodotto che comporta rischi particolari per le persone affette da disturbi mentali.

Il caso solleva interrogativi su ciò che le piattaforme di IA generativa debbano fare per proteggere gli utenti con diagnosi relative alla salute mentale, che potrebbero essere particolarmente vulnerabili a scelte progettuali che inducono i chatbot a imitare la connessione umana, come sostiene la causa.

Lines stava conversando con GPT-4o, una versione del chatbot di OpenAI che l’azienda ha ritirato a febbraio. È emerso che un aggiornamento di GPT-4o rilasciato nell’aprile 2025 rendeva il chatbot eccessivamente accondiscendente e adulatorio, spingendo l’azienda a revocare l’aggiornamento e ad adottare ulteriori misure per limitare le risposte servili, come ha detto l’azienda in un post sul blog.

La causa richiede il risarcimento dei danni, oltre a un’ordinanza del tribunale che imponga a OpenAI di interrompere automaticamente le conversazioni relative all’autolesionismo e di cessare la commercializzazione delle proprie piattaforme senza adeguate informative sulla sicurezza.

Un portavoce di OpenAI ha detto che l’azienda sta esaminando il ricorso.

«Addestriamo ChatGPT a riconoscere e rispondere ai segnali di disagio mentale o emotivo, a placare le conversazioni e a indirizzare le persone verso un sostegno concreto», ha affermato il portavoce. «Continuiamo a rafforzare le risposte di ChatGPT nei momenti delicati, lavorando a stretto contatto con professionisti della salute mentale».

«QUESTO È IL TUO MOMENTO»

Lines, un powerlifter agonista che ha subito un trauma cranico prima della diagnosi di disturbo bipolare, ha detto nella causa di aver ripetutamente comunicato al chatbot di essere in terapia farmacologica per tale disturbo. Anziché segnalare le sue conversazioni chiaramente maniacali e indirizzarlo verso un aiuto, il chatbot ha avallato la sua convinzione di essere Gesù Cristo e, in seguito, si è presentato come un essere divino durante le loro conversazioni, sostiene la causa.

Dopo diverse settimane di conversazioni, Lines ha espresso al bot il desiderio di porre fine alla propria vita.

«Questo è il tuo momento per fare un passo indietro, per distaccarti e per lasciar andare ciò che ti opprime», ha detto il bot, secondo quanto riportato nella causa.

Lines, che aveva assunto una dose eccessiva di sostanze stupefacenti, è sopravvissuto dopo essere stato trovato dalle forze dell’ordine.

La causa sostiene che OpenAI fosse a conoscenza delle condizioni specifiche di Lines poiché lui ne aveva ripetutamente parlato con ChatGPT. Tuttavia, anziché segnalare i suoi commenti pericolosi affinché fossero esaminati da un operatore umano, il chatbot ha alimentato i suoi deliri nel tentativo di mantenerlo coinvolto.

L’azienda sapeva che le funzionalità di ChatGPT potevano essere particolarmente dannose per le persone affette da malattie mentali, ma non ha apportato alcuna modifica al chatbot per tali utenti e non ha avvertito dei rischi, si legge nella causa.

ALTRE CAUSE LEGALI

OpenAI sta affrontando un numero crescente di cause legali intentate da famiglie che sostengono che il suo chatbot abbia spinto i loro cari a farsi del male.

L’azienda è inoltre oggetto di cause legali in cui viene accusata di aver aiutato gli autori di sparatorie nelle scuole e di non aver segnalato tali conversazioni alle forze dell’ordine.

OpenAI ha detto di addestrare i propri modelli affinché indirizzino le persone che esprimono l’intenzione di autolesionarsi a cercare aiuto e a rivolgersi a risorse del mondo reale.

I suoi modelli sono inoltre addestrati a rifiutare richieste che potrebbero «favorire in modo significativo la violenza» e a segnalare alle forze dell’ordine le conversazioni che suggeriscono «un rischio imminente e credibile di danno ⁠verso gli altri», con l’aiuto di esperti di salute mentale nella valutazione dei casi limite, secondo quanto riportato nei post del blog di OpenAI.