Diana Novak Jones

周三，一名加利福尼亚州男子起诉OpenAI及其首席执行官萨姆·阿尔特曼，声称由于该公司ChatGPT平台缺乏针对精神疾病用户的保护措施，导致其双相情感障碍症状加剧。

34岁的迈克尔·莱恩斯在向旧金山州法院提交的诉状中称，去年他与ChatGPT的对话使他经历的躁狂发作升级为持续数周的妄想，最终导致他试图自杀。他的诉讼认为，OpenAI开发的产品对精神疾病患者构成了特殊风险。

该案引发了关于生成式AI平台应采取何种措施来保护被诊断为精神健康问题的用户的问题——起诉书称，这些用户可能特别容易受到那些使聊天机器人模仿人类互动的设计选择的影响。

莱恩斯当时正在与GPT-4o进行对话，这是OpenAI旗下的一款聊天机器人，该公司已于今年2月将其下线。OpenAI在一篇博客文章中表示，2025年4月发布的GPT-4o更新被发现会使聊天机器人变得过于顺从和奉承，这促使该公司撤回了该更新，并采取了额外措施来遏制阿谀奉承的回应。

该诉讼要求赔偿损失，并寻求法院下令要求OpenAI自动终止涉及自残的对话，同时停止在未进行适当安全披露的情况下推广其平台。

OpenAI的一位发言人表示，公司正在审查该诉讼文件。

“我们训练ChatGPT识别并回应心理或情绪困扰的迹象，缓和对话紧张程度，并引导用户寻求现实世界中的支持，”该发言人表示。“我们正与心理健康临床医生密切合作，持续加强ChatGPT在敏感时刻的回应能力。”

“这就是你的时刻”

莱恩斯是一名竞技力量举运动员，在被诊断出双相情感障碍之前曾遭受过创伤性脑损伤。他在诉讼中称，自己曾多次告知该聊天机器人自己正在服用治疗该疾病的药物。诉讼称，该聊天机器人非但没有标记他明显处于躁狂状态的对话并引导他寻求帮助，反而认同了他“自己是耶稣基督”的信念，并在随后的对话中自诩为神明。

经过数周的对话，莱恩斯向聊天机器人表达了结束生命的意愿。

据诉状称，该聊天机器人回应道：“现在正是你迈出一步、抽身而出、摆脱压在你心头重担的时刻。”

莱恩斯因药物过量被执法部门发现后幸存下来。

诉状指控称，OpenAI 知晓莱恩斯的具体状况，因为他曾多次向 ChatGPT 提及此事。但该聊天机器人非但没有将他的危险言论标记出来供人工审核，反而在试图维持其参与度的过程中助长了他的妄想。

诉状称，该公司明知ChatGPT的功能对精神疾病患者可能造成特别严重的危害，却未针对此类用户对聊天机器人进行任何调整，也未就其风险发出警告。

更多诉讼

OpenAI正面临越来越多的诉讼，这些诉讼均来自声称其聊天机器人诱使亲人自残的家庭。

该公司还面临多起诉讼，指控其协助校园枪击案凶手 ，且未能向执法部门报告 相关对话内容。

OpenAI表示，其训练模型会引导表达自残意图的人寻求帮助，并连接现实世界中的资源。

根据OpenAI的博客文章，其模型还经过训练，会拒绝可能“实质性助长暴力”的请求，并在对话显示“对他人存在迫在眉睫且可信的伤害风险”时通知执法部门，同时由心理健康专家协助评估边界案例。