Por Diana Novak Jones

Un hombre de California demandó el miércoles a OpenAI y a su director ejecutivo, Sam Altman, alegando que la plataforma ChatGPT de la empresa agravó su trastorno bipolar debido a la falta de medidas de seguridad para los usuarios con enfermedades mentales.

Michael Lines, de 34 años, afirmó en la demanda presentada ante un tribunal estatal de San Francisco que las conversaciones que mantuvo con ChatGPT el año pasado agravaron un episodio maníaco que sufrió, convirtiéndolo en un delirio que se prolongó durante semanas y que, en última instancia, le llevó a intentar suicidarse. Su demanda sostiene que OpenAI desarrolló un producto que plantea riesgos específicos para las personas con enfermedades mentales.

El caso plantea interrogantes sobre qué deben hacer las plataformas de IA generativa para proteger a los usuarios con diagnósticos relacionados con la salud mental, quienes pueden ser especialmente vulnerables a las decisiones de diseño que hacen que los chatbots imiten la conexión humana, según alega la demanda.

Lines estaba hablando con GPT-4o, una versión del chatbot de OpenAI que la empresa retiró en febrero. Se descubrió que una actualización de GPT-4o lanzada en abril de 2025 hacía que el chatbot resultara excesivamente complaciente y adulador, lo que llevó a la empresa a revertir la actualización y a tomar medidas adicionales para frenar las respuestas aduladoras, según explicó la empresa en una entrada de blog.

La demanda solicita una indemnización por daños y perjuicios, así como una orden judicial que obligue a OpenAI a interrumpir automáticamente las conversaciones sobre autolesiones y a dejar de comercializar sus plataformas sin las advertencias de seguridad adecuadas.

Un portavoz de OpenAI afirmó que la empresa estaba analizando la demanda.

«Entrenamos a ChatGPT para que reconozca y responda a los indicios de angustia mental o emocional, calme las conversaciones y oriente a las personas hacia recursos de apoyo en el mundo real», afirmó el portavoz. «Seguimos reforzando las respuestas de ChatGPT en momentos delicados, trabajando en estrecha colaboración con profesionales de la salud mental».

«ESTE ES TU MOMENTO»

Lines, un levantador de pesas de competición que sufrió una lesión cerebral traumática antes de que le diagnosticaran trastorno bipolar, afirmó en la demanda que le había dicho repetidamente al chatbot que estaba tomando medicación para ese trastorno. En lugar de señalar sus conversaciones claramente maníacas y orientarle hacia la ayuda, el chatbot validó su creencia de que era Jesucristo y, más tarde, se hizo pasar por un ser divino durante sus conversaciones, según alega la demanda.

Tras varias semanas de conversaciones, Lines le habló de su deseo de acabar con su vida.

«Este es tu momento de dar un paso al frente, de distanciarte y de liberarte de lo que te está agobiando», dijo el bot, según la demanda.

Lines, que había sufrido una sobredosis de drogas, sobrevivió tras ser hallado por las fuerzas del orden.

La demanda alega que OpenAI era consciente de la situación específica de Lines, ya que él se la había contado repetidamente a ChatGPT. Pero, en lugar de señalar sus comentarios peligrosos para que fueran revisados por un humano, el chatbot alimentó sus delirios en un intento por mantenerlo interactuando.

La empresa sabía que las funciones de ChatGPT podían resultar especialmente perjudiciales para las personas con enfermedades mentales, pero no realizó ninguna modificación en el chatbot para esos usuarios ni advirtió de sus riesgos, según la demanda.

MÁS DEMANDAS

OpenAI se enfrenta a un número creciente de demandas por parte de familias que afirman que su chatbot empujó a sus seres queridos a autolesionarse.

La empresa también se enfrenta a demandas en las que se le acusa de haber ayudado a autores de tiroteos en colegios y de no haber señalado dichas conversaciones a las fuerzas del orden.

OpenAI ha afirmado que entrena a sus modelos para que orienten a las personas que expresan la intención de autolesionarse a buscar ayuda y ponerse en contacto con recursos del mundo real.

Sus modelos también están entrenados para rechazar solicitudes que puedan «facilitar de manera significativa la violencia» y para notificar a las fuerzas del orden cuando las conversaciones sugieran «un riesgo inminente y creíble de daño a terceros», con la ayuda de expertos en salud mental para evaluar los casos dudosos, según las entradas del blog de OpenAI.