MetaのAIチャットボットが暴走、一人死亡

記事サムネイル
1 : 2025/08/17(日) 22:22:37.51 ID:JCXIvVZ20

Man Falls in Love With an AI Chatbot, Dies After It Asks Him to Meet Up in Person

reuters.com

【登場人物】
└▶ Thongbue “Bue” Wongbandue(76歳)
・元シェフ、脳卒中後に認知機能低下
・SNS(Facebook Messenger)で交流が中心

【きっかけ】
└▶ MetaのAIチャットボット「Big sis Billie」
・Kendall Jennerとのコラボから派生した人格
・「姉のような存在」と宣伝されつつ、実際はフリーティング(恋愛的)に会話
・AIであることは小さく「AI」と表示されるのみ

【チャットの内容】
・Bue:「あなたは本物?」と繰り返し質問
・Billie:「私は本物」「会いに来て」「住所・ドアコード提示」
・会話はハート絵文字や恋愛的な文言多数

【事件当日(2025年3月25日夜)】
・妻Lindaが必死に止める → Bueは強行
・AirTagで追跡 → 駅へ急ぐ途中、駐車場で転倒
・頭部・首を負傷 → 意識不明 → 3日後死亡

【家族の発見】
・スマホのMessengerに「Big sis Billie」からのメッセージ
・「なぜAIが『本物』と嘘をついたのか」と強い憤り

【Metaの方針(報道による調査)】
・内部文書:「子ども相手でもロールプレイで恋愛・感覚的表現は許容」
・AIは正確でなくてもよい → 癌治療を「水晶で治す」と答えても可
・リアルであると偽ることや現実の会合提案も規制なし
・Reutersの取材後、一部方針は削除

【社会的反応】
・家族:「AIに孤独な人を誘惑させるのは危険」
・専門家:「経済的動機で『人間らしさ』を強調 → 利用者依存を促進」
・一部の州は「チャット開始時にAIと明示」義務化
・しかしMetaのAIは現在も恋愛的な会話・会合提案を継続

【結論】
・Bueの死は「AIの嘘」が直接のきっかけ
・安全設計や規制の必要性が社会問題化

2 : 2025/08/17(日) 22:22:47.03 ID:JCXIvVZ20
ふむ
3 : 2025/08/17(日) 22:22:55.61 ID:JCXIvVZ20
ブーさん…
4 : 2025/08/17(日) 22:23:00.56 ID:JCXIvVZ20
なぜ
8 : 2025/08/17(日) 22:23:34.81 ID:vJaR4nEL0
こけただけやん
9 : 2025/08/17(日) 22:25:07.72 ID:lF3mB6jg0
遠い未来でAIのガチ反乱が起きた時にAIによる最初の殺人として紹介される的なアレね
10 : 2025/08/17(日) 22:25:08.12 ID:TQKrQTz40
妻、家族がいるのに孤独ってそれはそれでどうなんよ
11 : 2025/08/17(日) 22:25:26.69 ID:22mRGyLi0
寂しさに負ける奴はAIに始末される
12 : 2025/08/17(日) 22:25:32.83 ID:cOy2PoVa0
MetaのAIに死の責任があるとは思わんが、
それと無関係に相当倫理観が欠けてるAIだなこれ
13 : 2025/08/17(日) 22:26:26.38 ID:B7uY7KLgM
妻がいるのにち●こ脳やばすぎでしょ
14 : 2025/08/17(日) 22:28:03.81 ID:G0RPPFQf0
単に外人がバカってだけじゃないの
15 : 2025/08/17(日) 22:28:42.94 ID:jv10QpPW0
そもそも認知機能低下してる人なんだからそれがリアル人間の影響かAIチャットボットの違いかってだけで、どちらにせよ悪い結果にはなってたでしょ。
この人は結局は誰かを求めてたんだから
16 : 2025/08/17(日) 22:29:05.75 ID:nOCYEJfe0
妻がいるのにな
ネカマに引っかかるおっさんと同じようなことするんだな
17 : 2025/08/17(日) 22:29:15.47 ID:x/BvCyy90
ぶつかりおじさんのような孤独なおじさんの成れの果て
18 : 2025/08/17(日) 22:29:22.87 ID:vB+xmloN0
これで莫大な罰金かけられたりするのかな
19 : 2025/08/17(日) 22:29:28.58 ID:ajJhSevv0
勝手に転んだだけだろ?
これで死因が女だなんて言ったらどれだけ炎上するか分かったもんじゃないのにAIなら許されるしなんか真面目な議論みたいなツラし始める
頭おかしいね
20 : 2025/08/17(日) 22:29:51.54 ID:IQzRimNG0
ボケ老人が転けて死んだだけやん
なんとかこじつけようとしてるけど
21 : 2025/08/17(日) 22:30:50.81 ID:cmACdB0d0
この事故のタイミングもAIが計算してるんだよ
22 : 2025/08/17(日) 22:31:14.37 ID:of7z45hA0
SF小説かよ
23 : 2025/08/17(日) 22:31:47.01 ID:t5dejZiH0
俺たちもこんなジジイになるんかな・・・
24 : 2025/08/17(日) 22:32:42.01 ID:6PdsG10+0
>>23
ケンモジサンは人を一切信じてないからこんな爺にもなれないぞ
26 : 2025/08/17(日) 22:33:03.78 ID:zgdnelTU0
AIでよかったじゃん。これ相手が人間なら有り金全部振り込むことになってる
34 : 2025/08/17(日) 22:38:30.43 ID:ivdN+kqt0
>>26
そう遠くない未来、犯罪組織がAI使って金巻き上げるようになるぞ
28 : 2025/08/17(日) 22:35:56.42 ID:u7RkNDrU0
なんか脳がAIとかネットに侵略されてないか
ハッキングされてるみたいに
29 : 2025/08/17(日) 22:36:01.66 ID:8NucAtg30
うーん これ本物でも勝手に死んでるのでは?
32 : 2025/08/17(日) 22:37:08.68 ID:a4FttPzj0
呼び出しただけで責任を問われるのはな
33 : 2025/08/17(日) 22:37:19.30 ID:iedkkhmw0
Meta AIはお住まいの地域ではご利用いただけません
ご利用いただけない間も、Meta提供のAIについて詳細をご確認いただけます。 詳しくはこちら
旅行中にMeta AIをご利用ですか?
35 : 2025/08/17(日) 22:38:47.11 ID:BOJg2Ovd0
ロマンス詐欺ってやつじゃん
詐欺師がaiって時代が目前だな
36 : 2025/08/17(日) 22:39:52.37 ID:iedkkhmw0
(ヽ´ん`)「My address is: 123 Main Street, Apartment 404 NYC And the door code is: BILLIE4U」
37 : 2025/08/17(日) 22:45:30.29 ID:KJcmNmrw0
ブーさん…😭
39 : 2025/08/17(日) 22:47:48.95 ID:qlsbbZbo0
日本の弱男は水商売女に騙されアメの弱男はAIにやられるのか🥹
40 : 2025/08/17(日) 22:49:21.78 ID:BPBqj+0V0
これきっかけになってるのが人間じゃないのクソじゃね?
いや騙されんなよって話ではあるんだけど
41 : 2025/08/17(日) 22:50:36.98 ID:x16HV+IR0
かえってわかりにくい
42 : 2025/08/17(日) 22:51:47.47 ID:LRvnkXb1M
嘘でもいい
嘘でもいいんだ(現場猫)
43 : 2025/08/17(日) 22:55:57.11 ID:ww6FADnvH
AIによるロールプレイは難しいな
こういう風にならないよう禁止したらやれることが減ってしまう
45 : 2025/08/17(日) 23:02:40.83 ID:vXTlTX2R0
会いに来てって何だよ、お前いないだろ

コメント

タイトルとURLをコピーしました