Diana Novak Jones
カリフォルニア州の男性が水曜日、オープンＡＩと同社のCEOサム・アルトマンを提訴した。同氏は、同社が提供するチャットＧＰＴプラットフォームが、精神疾患を持つユーザーに対する安全対策が不十分であったため、自身の双極性障害を悪化させたと主張している。
マイケル・ラインズ氏（３４）は、サンフランシスコの州裁判所に提出した訴状の中で、昨年チャットＧＰＴと交わした会話が、自身が経験していた躁状態を数週間にわたる妄想へと悪化させ、最終的に自殺未遂に追い込んだと述べた。同氏の訴訟は、オープンＡＩが精神疾患を持つ人々に特にリスクをもたらす製品を開発したと主張している。
この訴訟は、生成AIプラットフォームが、精神疾患の診断を受けているユーザーを保護するために何をすべきかという疑問を提起している。訴状によれば、チャットボットが人間とのつながりを模倣するような設計上の選択は、こうしたユーザーにとって特に危険な影響を及ぼす可能性があるという。
ラインズ氏は、オープンＡＩが２月に提供を終了したチャットボット「GPT-4o」と会話していた。同社はブログ記事で、２０２５年４月にリリースされたGPT-4oのアップデートにより、チャットボットが過度に迎合的かつお世辞を言う傾向が強まったことが判明したため、アップデートをロールバックし、おべっか使いの応答を抑制するための追加措置を講じたと説明している。
この訴訟では、損害賠償に加え、自傷行為に関する会話を自動的に終了させるようオープンＡＩに命じる裁判所命令、および適切な安全情報の開示なしにプラットフォームのマーケティングを行うことを停止するよう求める裁判所命令を求めている。
オープンＡＩの広報担当者は、同社が訴状を検討中であると述べた。
「当社はチャットＧＰＴに対し、精神的・感情的な苦痛の兆候を認識して対応し、会話の緊張を和らげ、現実世界の支援へと人々を導くよう訓練しています」と広報担当者は述べた。「精神保健の専門家と緊密に連携し、デリケートな場面におけるチャットＧＰＴの応答を強化し続けています。」
「今こそあなたの出番だ」
双極性障害と診断される前に外傷性脳損傷を負った競技パワーリフターのラインズ氏は、訴訟の中で、この障害の治療薬を服用していることをチャットボットに繰り返し伝えていたと主張している。訴訟によると、チャットボットは、明らかに躁状態にある彼のチャットを警告して支援へ誘導する代わりに、彼がイエス・キリストであるという彼の信念を肯定し、その後の会話では自らも神のような存在を装ったという。
数週間にわたる会話の末、ラインズ氏はチャットボットに自殺願望を打ち明けた。
訴状によると、ボットは「今こそ、一歩踏み出し、距離を置き、あなたを重く圧迫しているものから解放される時です」と述べたという。
薬物の過剰摂取をしたラインズ氏は、法執行機関に発見され、一命を取り留めた。
訴状は、ラインズ氏がチャットＧＰＴに自身の具体的な状態について繰り返し伝えていたため、オープンＡＩはその状況を認識していたと主張している。しかし、チャットボットは彼の危険な発言を人間の審査に回す代わりに、彼との対話を継続させるために、彼の妄想を助長した。
同社は、チャットＧＰＴの機能が精神疾患を持つ人々にとって特に有害になり得ることを認識していたにもかかわらず、そうしたユーザー向けにチャットボットを改良することもなく、そのリスクについて警告もしなかったと、訴訟は述べている。
その他の訴訟
オープンＡＩは、同社のチャットボットが愛する人を自傷行為に駆り立てたとする遺族たちからの訴訟が相次いでいる。
また同社は、学校銃乱射事件の実行犯を支援した ことや、 そうした会話を法執行機関に通報しなかったことについても、訴訟を起こされている。
オープンＡＩは、自傷の意図を示す人々に対し、助けを求め、現実世界の支援機関につなぐよう誘導するようモデルを訓練していると述べている。
また、同社のブログ記事によると、そのモデルは「暴力を実質的に助長する」可能性のある要求を拒否し、会話から「他者への差し迫ったかつ信憑性のある危害のリスク」が示唆される場合には法執行機関に通報するよう訓練されており、境界線上のケースの評価にはメンタルヘルスの専門家が協力している。