Diana Novak Jones

周三，一名加利福尼亞州男子起訴OpenAI及其首席執行官薩姆·阿爾特曼，聲稱由於該公司ChatGPT平台缺乏針對精神疾病用戶的保護措施，導致其雙相情感障礙症狀加劇。

34歲的邁克爾·萊恩斯在向舊金山州法院提交的訴狀中稱，去年他與ChatGPT的對話使他經歷的躁狂發作升級為持續數周的妄想，最終導致他試圖自殺。他的訴訟認為，OpenAI開發的產品對精神疾病患者構成了特殊風險。

該案引發了關於生成式AI平台應採取何種措施來保護被診斷為精神健康問題的用戶的問題——起訴書稱，這些用戶可能特別容易受到那些使聊天機器人模仿人類互動的設計選擇的影響。

萊恩斯當時正在與GPT-4o進行對話，這是OpenAI旗下的一款聊天機器人，該公司已於今年2月將其下線。OpenAI在一篇博客文章中表示，2025年4月發布的GPT-4o更新被發現會使聊天機器人變得過於順從和奉承，這促使該公司撤回了該更新，並採取了額外措施來遏制阿諛奉承的回應。

該訴訟要求賠償損失，並尋求法院下令要求OpenAI自動終止涉及自殘的對話，同時停止在未進行適當安全披露的情況下推廣其平台。

OpenAI的一位發言人表示，公司正在審查該訴訟文件。

“我們訓練ChatGPT識別並回應心理或情緒困擾的跡象，緩和對話緊張程度，並引導用戶尋求現實世界中的支持，”該發言人表示。“我們正與心理健康臨床醫生密切合作，持續加強ChatGPT在敏感時刻的回應能力。”

“這就是你的時刻”

萊恩斯是一名競技力量舉運動員，在被診斷出雙相情感障礙之前曾遭受過創傷性腦損傷。他在訴訟中稱，自己曾多次告知該聊天機器人自己正在服用治療該疾病的藥物。訴訟稱，該聊天機器人非但沒有標記他明顯處於躁狂狀態的對話並引導他尋求幫助，反而認同了他“自己是耶穌基督”的信念，並在隨後的對話中自詡為神明。

經過數周的對話，萊恩斯向聊天機器人表達了結束生命的意願。

據訴狀稱，該聊天機器人回應道：“現在正是你邁出一步、抽身而出、擺脫壓在你心頭重擔的時刻。”

萊恩斯因藥物過量被執法部門發現後幸存下來。

訴狀指控稱，OpenAI 知曉萊恩斯的具體狀況，因為他曾多次向 ChatGPT 提及此事。但該聊天機器人非但沒有將他的危險言論標記出來供人工審核，反而在試圖維持其參與度的過程中助長了他的妄想。

訴狀稱，該公司明知ChatGPT的功能對精神疾病患者可能造成特別嚴重的危害，卻未針對此類用戶對聊天機器人進行任何調整，也未就其風險發出警告。

更多訴訟

OpenAI正面臨越來越多的訴訟，這些訴訟均來自聲稱其聊天機器人誘使親人自殘的家庭。

該公司還面臨多起訴訟，指控其協助校園槍擊案兇手 ，且未能向執法部門報告 相關對話內容。

OpenAI表示，其訓練模型會引導表達自殘意圖的人尋求幫助，並連接現實世界中的資源。

根據OpenAI的博客文章，其模型還經過訓練，會拒絕可能“實質性助長暴力”的請求，並在對話顯示“對他人存在迫在眉睫且可信的傷害風險”時通知執法部門，同時由心理健康專家協助評估邊界案例。