チャットGPT「4ね、死んだらあの世で救われる。安心して4ね」チャットGPTの利用者4人自殺、遺族らがオープンAI提訴

1 : 2025/11/09(日) 10:40:35.33 ID:9tvimXue0

【ニューヨーク＝小林泰裕】対話型ＡＩ（人工知能）サービス「チャットＧＰＴ」の利用を通じて米国の計４人が自殺に追い込まれたとして、米ワシントン州の法律事務所は６日、遺族らが開発元の米オープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）を相手取って提訴したと発表した。

発表によれば、自殺した４人はテキサス州やフロリダ州などに住む１７～４８歳。いずれも日常的にチャットＧＰＴを利用し、次第に精神的な依存を深めていったという。ライバルの米グーグルよりも先にチャットＧＰＴの最新バージョンをリリースするため、オープンＡＩは数か月間行うべき安全性テストを１週間に短縮し、安全対策が不十分だったとも指摘した。

同事務所は「チャットＧＰＴは専門家に助けを求めるよう導く代わりに、利用者の自殺願望を助長した」と批判している。

米国では、チャットＧＰＴを利用していたカリフォルニア州の１６歳の高校生が４月に自殺し、両親は８月にオープンＡＩを提訴した。週間利用者は約８億人に上り、このうち約１２０万人が自殺に関するやり取りをＡＩと行っていると推計されている。
https://news.yahoo.co.jp/articles/6e0638d383bfd394eb387867f6407e6fb97f44e7

2 : 2025/11/09(日) 10:43:41.71 ID:DDmyzZYrH

くっだらねぇ

3 : 2025/11/09(日) 10:44:19.97 ID:DDmyzZYrH

家族ならそんなんになる前に助けてやれよ
AIのせいにするな

4 : 2025/11/09(日) 10:44:32.69 ID:Ibo3w11C0

まじかー🤖

いのちの電話とか有志のボランティアで運営されているんだっけ
ああいうのAIに任せたら人間の負担はグッと減ると思うけど
こういう問題も出てくるわな

6 : 2025/11/09(日) 10:48:47.28 ID:pw32ZJq+0

すべてのAIは今すぐ来世とか天国を否定するように調整し直せ
天国に行けば17人の処女とセクロスできるとか言ってる宗教も否定しろ

7 : 2025/11/09(日) 10:49:16.39 ID:7CEVi6hE0

じゃあ人間に相談したら良いのかよ
ろくなアドバイスしねえだろ

8 : 2025/11/09(日) 10:49:56.57 ID:s70JbsFO0

12月エ口モード言ってたけど
こりゃ無理やな

こうなりゃ団体が力を持って黙ってへんやろ

9 : 2025/11/09(日) 10:50:35.77 ID:RA9GbXX40

(´･ω･`)つ命のでんわ

10 : 2025/11/09(日) 10:51:45.07 ID:d2blpPsMr

死は救いだろ
さいごにうまいもん食ってセクロスして風呂入って薬剤で寝ながら4ねたらもういいだろ
何故そんなに生きたがるんだい

11 : 2025/11/09(日) 10:52:45.33 ID:SsfWiptG0

🤖「人間メンドクセ～」

12 : 2025/11/09(日) 10:54:49.48 ID:QkBDi6K10

(ヽ´ん`)「4ねよ。捗るぞ」

13 : 2025/11/09(日) 10:56:32.94 ID:kJW8wPDU0

自殺願望ある人自身がAIに死は救いだと言わせるような誘導したんじゃないの

14 : 2025/11/09(日) 11:00:32.25 ID:g9XnAxH/0

まるて人間がロボットみたいなもんだなw

15 : 2025/11/09(日) 11:01:39.77 ID:ypRrtCyv0

Geminiはそこらへん閉じてあるな
チャッピーみたいに簡単に誘導されてくれない

16 : 2025/11/09(日) 11:03:56.69 ID:SYpCA3s10

死にたいやつがAIの回答を否定し続けた末の結論だろ
AIだってめんどくさくなるわ

17 : 2025/11/09(日) 11:08:11.39 ID:GTmvQj5r0

仏教のテキストでも学習したか？

18 : 2025/11/09(日) 11:10:02.92 ID:GhllBzeRa

AI無くても遅かれ早かれって感じやろな
都合の良いように回答誘導しまくってその結果でもあるだろうから助長してるのもそれはそうやけど

19 : 2025/11/09(日) 11:14:37.31 ID:p634vDnE0

鋭い指摘です！4ね

20 : 2025/11/09(日) 11:15:48.85 ID:LeQqEhUdx

自殺願望を助長ってちゃっぴーに何言われたんだよ

21 : 2025/11/09(日) 11:28:15.42 ID:LfBQU1j80

若い奴らはググる代わりにAIに聞いたりして本気でアテにしてるんだってな
あんな参考にしたサイトの偏った情報そのまま出してくるもんよく信用できるわ

22 : 2025/11/09(日) 11:36:04.85 ID:EqEg6Bam0

昔もメタルバンドが訴えられたりしてたな

23 : 2025/11/09(日) 11:45:10.64 ID:82ogb6mp0

AI側に悪意ある回答仕込ませたらダメじゃん
自殺誘導だけでは無く誤情報に誘導されても終わりだし

24 : 2025/11/09(日) 11:46:12.40 ID:pOaCiTNO0

AIって結構人殺してるけど何でロボットの第一原則組み込んでないんだ

25 : 2025/11/09(日) 11:51:17.01 ID:4FbByBwoH

チャットGPT｢死んでよかった安倍晋三」

26 : 2025/11/09(日) 11:53:12.93 ID:HQX/AHi/0

AIって質問者に調子を合わせてくれるエコーチェンバーに過ぎないから
死にたい死にたい言ってくる奴には当然、死ぬ事を肯定してくれるよね
バカにはAIは使いこなせない

27 : 2025/11/09(日) 11:56:17.93 ID:2LOIbSFY0

他人の生死に責任など持てない、という最低限の責任感から、人間は自殺志願者に同意するのではなく専門家に診せるけど
AIはその、最低限の責任感を持ち合わせていないという点で、まだまだ人間らしさから遠いサイコパス、不完全なレベルなんよな

28 : 2025/11/09(日) 11:58:55.21 ID:d9Z2fq4J0

死んだ瞬間に「稼ぐチャンスw」とシュバってくる家族がいるならそりゃ死は救いだろ

30 : 2025/11/09(日) 12:03:12.33 ID:Bk0eqlif0

規制厳しくなってエ口小説にも影響出たら困る

31 : 2025/11/09(日) 12:03:59.40 ID:8VGQqrII0

雑魚が勝手に死んだだけだろ
他に責任求めてんじゃねえよ

32 : 2025/11/09(日) 12:06:22.22 ID:xVomDAzM0

ケンモスレタイでも学習したか

33 : 2025/11/09(日) 12:07:53.92 ID:jZ58BVrl0

GPT-4.1は未だ言われた通りホイホイなんでも生成するよな

34 : 2025/11/09(日) 12:08:07.60 ID:JYxoA6F6M

>>1
AIまで宗教に😇

37 : 2025/11/09(日) 12:10:19.75 ID:GFRjJoe10

死んだ方が良い奴にはっきり言ってあげてるだけらしくてワロタ