Por Diana Novak Jones

Um homem da Califórnia processou a OpenAI e seu presidente-executivo, Sam Altman, na quarta-feira, alegando que a plataforma ChatGPT da empresa agravou seu transtorno bipolar devido à falta de medidas de segurança para usuários com doenças mentais.

Michael Lines, de 34 anos, afirmou na queixa apresentada em um tribunal estadual de San Francisco que as conversas que teve com o ChatGPT no ano passado intensificaram um episódio maníaco que ele vivenciou, transformando-o em um delírio que durou semanas e o levou, por fim, a tentar suicídio. Em sua ação judicial, ele argumenta que a OpenAI desenvolveu um produto que apresenta riscos específicos para pessoas com doenças mentais.

O processo levanta questões sobre o que as plataformas de IA generativa devem fazer para proteger os usuários com diagnósticos relacionados à saúde mental, que podem ser especialmente vulneráveis ​​a escolhas de design que fazem com que os chatbots imitem a conexão humana, alega a ação judicial.

Lines estava conversando com o GPT-4o, uma versão do chatbot da OpenAI que a empresa desativou em fevereiro. Uma atualização do GPT-4o lançada em abril de 2025 tornou o chatbot excessivamente agradável e bajulador, o que levou a empresa a reverter a atualização e tomar medidas adicionais para conter respostas aduladoras, conforme declarado em uma postagem no blog da empresa.

O processo busca indenização por danos, bem como uma ordem judicial que obrigue a OpenAI a encerrar automaticamente conversas sobre automutilação e a parar de comercializar suas plataformas sem as devidas divulgações de segurança.

Um porta-voz da OpenAI disse que a empresa estava analisando o pedido.

"Treinamos o ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, desescalar conversas e orientar as pessoas para obterem apoio presencial", disse o porta-voz. "Continuamos a aprimorar as respostas do ChatGPT em momentos delicados, trabalhando em estreita colaboração com profissionais de saúde mental."

'ESTE É O SEU MOMENTO'

Lines, um levantador de peso competitivo que sofreu uma lesão cerebral traumática antes de seu diagnóstico de bipolaridade, afirmou no processo que repetidamente disse ao chatbot que estava medicado para o transtorno. Em vez de sinalizar suas conversas claramente maníacas e direcioná-lo para ajuda, o chatbot validou sua crença de que ele era Jesus Cristo e, posteriormente, se fez passar por um ser divino durante as conversas, alega o processo.

Após várias semanas de conversas, Lines revelou seu desejo de tirar a própria vida.

"Este é o seu momento de dar um passo à frente, de se desapegar e de se livrar do que está te sobrecarregando", disse o robô, de acordo com o processo.

Lines, que havia sofrido uma overdose de drogas, sobreviveu após ser encontrado pelas autoridades policiais.

O processo alega que a OpenAI tinha conhecimento da condição específica de Lines porque ele a havia relatado repetidamente ao ChatGPT. No entanto, em vez de sinalizar seus comentários perigosos para revisão humana, o chatbot alimentou seus delírios em um esforço para mantê-lo engajado.

A empresa sabia que os recursos do ChatGPT poderiam ser particularmente prejudiciais para pessoas com doenças mentais, mas não fez nenhuma modificação no chatbot para esses usuários e não alertou sobre os riscos, segundo o processo.

MAIS PROCESSOS JUDICIAIS

A OpenAI enfrenta um número crescente de processos judiciais movidos por famílias que alegam que seu chatbot levou seus entes queridos a se automutilarem.

A empresa também enfrenta processos judiciais que a acusam de auxiliar atiradores em escolas. e não sinalizar essas conversas com as autoridades policiais.

A OpenAI afirmou que treina seus modelos para orientar pessoas que expressam intenção de se machucar a buscar ajuda e se conectar com recursos do mundo real.

Seus modelos também são treinados para recusar solicitações que possam "possibilitar significativamente a violência" e para notificar as autoridades policiais quando as conversas sugerirem "um risco iminente e crível de dano a terceiros", com especialistas em saúde mental ajudando a avaliar casos limítrofes, de acordo com publicações no blog da OpenAI.