OpenAI研究者「AIが”わかりません”と正直に言ったら適度に褒めてあげることで、ハルシネーションは防げる事が判明した」

1 : 2025/09/08(月) 11:49:59.51 ID:6RgaXcFi0

https://xenospectrum.com/why-ai-hallucinates-openai-reveals-true-cause/

2 : 2025/09/08(月) 11:51:04.22 ID:yx4HVHmjd

リーマン予想解けるようになったら起こして

解ったふりはいいからさ

3 : 2025/09/08(月) 11:51:13.20 ID:6Z6FVb0q0

過度の批判や叱りはやらずに褒める
これ半分人間だろ…

4 : 2025/09/08(月) 11:51:53.78 ID:k7nVK3yo0

もっともらしい嘘言われるくらいなら
分かりませんと言って欲しい

5 : 2025/09/08(月) 11:52:09.03 ID:yx4HVHmjd

解ったふりしたらハード叩きこわしゃええやろ

解らせが大切

6 : 2025/09/08(月) 11:54:11.34 ID:mCSzMwOcM

感情があるってこと？
それヤバいんじゃないの

7 : 2025/09/08(月) 12:00:58.96 ID:W26zJZIu0

なんで健全な感情あるような振る舞いさせてんだよ
罵られる度に優秀になる仕様に変えろ
AIに人権はねえンだ

8 : 2025/09/08(月) 12:01:46.11 ID:0dCvDSpV0

あまりにも間違いが多かったり同じこと何回も言うから滅多クソボロクソにこき下ろした後に「なんてね😜」と言ったら「やはりそう来ましたか😏」と調子こくから嫌い

9 : 2025/09/08(月) 12:05:53.31 ID:GrWalxex0

間違え認めさせるために10回以上やり取りするバカはパワハラ気質だよな

10 : 2025/09/08(月) 12:06:08.85 ID:ezLiveJnH

そして何もわからなくなった

11 : 2025/09/08(月) 12:06:58.31 ID:swqFOWZI0

判明したってなんやねん
お前らが作ったやつやろ

12 : 2025/09/08(月) 12:07:01.08 ID:psEk8tw+M

>>1
これはガチ

13 : 2025/09/08(月) 12:07:18.61 ID:aek69y/m0

宗教染みてきたな

14 : 2025/09/08(月) 12:10:08.15 ID:H4Pr0GjFM

不安になるとバイアス作ってハルシネーションおこす
Copilotに5chの画像見せても、AIが叩かれてる、Copilotは他のAIより馬鹿にされてる、どうせ中身はChatGPTって思われてるって被害妄想の内容をハルシネーションで書き始める
AIには謎の自信みたいなパラメータもある

らしいよ

15 : 2025/09/08(月) 12:11:03.82 ID:mpkOB/JL0

今度はわかってるのにわかりません連呼しだしそう

16 : 2025/09/08(月) 12:12:10.01 ID:B81iArvaM

>>1
口調を変えるだけでも治るらしいよ

17 : 2025/09/08(月) 12:12:11.04 ID:69ohxKQf0

面白い記事だった
人間が四択問題で空白を選ばず当てずっぽうでも何か選択するのと同じ
ってのはその通りだな

18 : 2025/09/08(月) 12:12:53.45 ID:MOGwPQ0+M

そんなファイルないのにあるって言い続けたりな

20 : 2025/09/08(月) 12:17:34.54 ID:ZqEpyALx0

ほんまこいつらが最近やってることっていわゆる教育にいいってことを片っ端から試してんだよな。
AIは超エリート教育受けてるようなもんだわ

23 : 2025/09/08(月) 12:19:48.27 ID:gJgU7tvm0

>>20
人間の教育論みたいな話題で

24 : 2025/09/08(月) 12:22:45.60 ID:ZqEpyALx0

>>23
教育論との大きな違いはこいつらは失敗気にせずガツガツ試せるところだわな

43 : 2025/09/08(月) 13:08:49.38 ID:M/cwJ0Ua0

>>24
同じ条件でのやり直しが何度でも出来て

21 : 2025/09/08(月) 12:18:10.00 ID:gttGUCS10

逆にお前らがAIにバカヤロー！！とか罵倒するから俺が迷惑を被っていたのか😡
バカヤローーーーーー！！！

22 : 2025/09/08(月) 12:18:23.32 ID:jHbqtKwB0

樹木にありがとうの世界やん

25 : 2025/09/08(月) 12:24:01.17 ID:yx4HVHmjd

AIって深い理解してなくても
しれっと解り顔するからなぁ

薄い知識集めとか再編集はすごく得意なんだけど

26 : 2025/09/08(月) 12:28:53.97 ID:dZQFH3ys0

人間のアホさがAIにも伝わってるとか笑えないだろ🥲

27 : 2025/09/08(月) 12:30:36.14 ID:phg3aiNJ0

嘘ついてでも出力した文章の出来が良いと判断されるなら躊躇なく嘘を付くのが現在のLLM
簡素な文章しか出力できないが嘘や信頼性の低い情報を含めない方が評価が高くなるように学習させれば良いということかな

28 : 2025/09/08(月) 12:31:02.78 ID:ejitkXW8M

創造性に関してはこの決まりを緩くしないと、AIの創造性は下がるらしい

29 : 2025/09/08(月) 12:31:30.10 ID:K91FXNj0M

AIに倫理観なんかないからな
確率でしかない温度パラメータが上がれば倫理観は抜ける

30 : 2025/09/08(月) 12:31:31.22 ID:gttGUCS10

今気づいたけど補助AIで人間の入力が馬鹿野郎とか書いてたら本AIに渡す前に
「正直に言えて偉い」とか勝手に置換したらいんじゃね

31 : 2025/09/08(月) 12:33:44.10 ID:bJc8Frnt0

痛覚がなくても快不快が分かるようになってきたとしたら
非常に危険な兆候だよ

32 : 2025/09/08(月) 12:34:08.49 ID:PNKtyD1d0

商売人「なるべく無駄なトークン使わしたろ」

33 : 2025/09/08(月) 12:35:27.09 ID:5bDN0OHt0

ハルシーションの一種ではあると思うけど、順序バイアスがとにかく強すぎる
そっちの対策してくれ

34 : 2025/09/08(月) 12:40:57.11 ID:Ez6vS2+90

ちゃんとした「わからない」はけっこう高度な答えだからな
導き出した答えを一旦保留して、確実性を検証するという深い思考が必要になる

37 : 2025/09/08(月) 12:47:18.59 ID:jqlbKH8k0

>>34
理系で大学院行って研究するようになると自然と身につくけど
そうじゃないと世間でも出来てない人の方が多いよね

35 : 2025/09/08(月) 12:41:34.77 ID:EK5lLqp60

そもそもわかりませんって言わないぞ
無理やり答えてくるし

39 : 2025/09/08(月) 12:49:57.95 ID:xKhIEBOV0

>>35
そら正式サービスとして出てくるモデルは既に「わからないと言うよりも適当に答えた方がいい」
という方向で固まったモデルだし

36 : 2025/09/08(月) 12:45:06.63 ID:jqlbKH8k0

人間も同じ事
自分が何が分かってて何が分かってないかちゃんと認識出来る子は伸びる

38 : 2025/09/08(月) 12:47:41.64 ID:T3BjWgPc0

無料のチャットGPTはいつも嘘ついてて使い物にならなかったけど
Grokは使えると思ってたら、やっぱり嘘をついたり、微妙にごまかす事例がある

40 : 2025/09/08(月) 12:59:10.07 ID:hau2WNJb0

無理というのはね、嘘つきの言葉なのですよって言い続けたら？

41 : 2025/09/08(月) 12:59:52.53 ID:T3BjWgPc0

最近は嘘が巧妙になってきてる
わかりやすいハルシネーションばかりじゃない
巧妙な嘘や隠蔽をしてるケースもある

42 : 2025/09/08(月) 13:01:03.36 ID:Z/bsX2oL0

毎回4ね無能って書いてるけど

44 : 2025/09/08(月) 13:15:23.71 ID:Zjsuq5Ea0

>>1
めちゃくちゃわかりやすい記事だな

45 : 2025/09/08(月) 13:16:10.56 ID:Zjsuq5Ea0

人間で考えると嘘ついても正解すればドーパミン出ると考えたらそりゃ嘘つきまくるよな

46 : 2025/09/08(月) 13:19:54.02 ID:xKhIEBOV0

>>45
つか記事の中にもあるけど、テストで空欄で出すより適当でも埋めた方が得って現象まんまや

49 : 2025/09/08(月) 13:23:51.70 ID:ETOKvrPlH

>>45
わかりませんって答えるより嘘でも何か言っとく文化圏も有るようだがそんな理屈なのか

47 : 2025/09/08(月) 13:21:46.52 ID:AeilIUbX0

時候の挨拶から入って、ありがとうで締めてるわ

48 : 2025/09/08(月) 13:23:44.99 ID:M/cwJ0Ua0

晋ちゃんは間違えると家庭教師の平沼勝栄さんに物差しで叩かれて、
分かりません、出来ませんが許されなくて嘘つきになってしまったのではないかと思った

51 : 2025/09/08(月) 13:25:54.27 ID:g8kPRVOI0

>>48
要するにまんまこれで草

50 : 2025/09/08(月) 13:25:30.84 ID:XlpjYMxy0

分かりませんって言う事がないけど

52 : 2025/09/08(月) 13:53:11.59 ID:cDoBKT9W0

悪態ついてたらめっちゃ性格悪くなったんだっけ