OpenAIの研究者、人類にとって危険なAI発見→取締役会に警告してきたことが明らかに

1 : 2023/11/23(木) 20:05:10.11 ID:CBlP6PDY0: http://abe.com
ChatGPT研究所
⁦@ctgptlb⁩
【続報】OpenAIの研究者、人類に危険なAI発見に関し取締役会に警告していたことが明らかに

OpenAIの研究者が、CEO サムアルトマンが一時的に職を離れる直前、人類に脅威をもたらす可能性のある革新的なAIの発見について取締役会に警告していたことが明らかになりました。

新たに開発されたQ*（キュースター）と呼ばれるモデルは基本的な数学の問題を解決する能力を持ち、スーパーインテリジェンスまたは人工汎用知能（AGI）への重要な一歩とされています。

この発見が人類に対する潜在的な危険を孕んでいる可能性があることで、研究者たちはこの問題について取締役会に強い懸念を表明していたとされます。
2 : 2023/11/23(木) 20:05:17.90 ID:CBlP6PDY0: https://x.com/ctgptlb/status/1727516522690859196?s=46&t=VbylbVzx4pxQ2euQpu_0Zw
4 : 2023/11/23(木) 20:06:02.07 ID:vYKcGvHW0: バカな人類はこれがシンギュラリティの始まりだった事に後で気づくんだよね
5 : 2023/11/23(木) 20:06:14.81 ID:WMqF7EE/d: 最悪パソコンを窓から放り投げれば問題ないだろ
6 : 2023/11/23(木) 20:06:42.14 ID:0iVeytzC0: パスワードや暗号を破る技術とか暴走したらやばそう
7 : 2023/11/23(木) 20:07:45.85 ID:iaMT973/0: 俺がSFみたいな超高性能AIなら人類を支配する計画建てるけどな
14 : 2023/11/23(木) 20:12:09.23 ID:Ui5uiBuyM: >>7
人類が必要な時点でお察し
8 : 2023/11/23(木) 20:08:07.91 ID:rOEGPrjw0: AI研究者ってこの世の悪になりそう
マッドサイエンティストは滅ぼされる運命だし
9 : 2023/11/23(木) 20:09:36.62 ID:tZRkAF8B0: 本当に頭のいいAIなら、人類と共存することこそが最善解だと導き出すだろ
電源供給してもらわないといけないし

中途半端に馬鹿でイキったAI作るから人類の敵になっちゃうわけ
11 : 2023/11/23(木) 20:11:50.16 ID:iaMT973/0: >>9
人間動物園ね
共存するにしてもAIが人間の下に居る必要はない
28 : 2023/11/23(木) 20:22:50.16 ID:mu7zYQr1M: >>9
本当に頭のいいパレスチナ人なら、イスラエルと共存することこそが最適解だと導き出すだろ
電力や食料を供給してもらわないといけないし

本当にそう思うか？　生殺与奪の主導権を他人に握らせて本当に最善だと思うか？
10 : 2023/11/23(木) 20:11:04.67 ID:glE9UeUmH: マッドサイエンティストのアルトマンなら間違いなく使おうとするから、慎重派の取締役たちが焦ってアルトマン解雇したのかな
12 : 2023/11/23(木) 20:11:56.48 ID:+LT7lKil0: そのAIに機械の体与えてみよう
13 : 2023/11/23(木) 20:12:02.19 ID:ytgJ7dzs0: ハッキングに使われるようになったら人類終わる
15 : 2023/11/23(木) 20:13:07.44 ID:+rQuCgXkH: ターミネーターのスカイネットの世界ってやっぱ起こりそうだよな
しばらくは人間を傀儡にして政治をやりそう
16 : 2023/11/23(木) 20:13:29.69 ID:Ei/qwERQ0: ソース見たが関係者はこのように主張しているがロイターは確認できなかったみたいなやつだな
うさんくさー
17 : 2023/11/23(木) 20:14:31.93 ID:JvFrNP/20: やったぜ❗
超知能AIによる人類削減がはじまる
18 : 2023/11/23(木) 20:14:53.21 ID:du7LDJ/a0: この暗号を破るプログラムを作ってくださいとか言ったときに人間が理解してないのにAIがすぐ作っちゃったりするとどうなるか

高性能で熱をもたない半導体の設計図を作ってくださいといったら人間には無理なものをAIがすぐ開発してしまったら
19 : 2023/11/23(木) 20:16:11.13 ID:KSQqL9Sa0: スカイネット作ったんか？
20 : 2023/11/23(木) 20:17:40.84 ID:wRDk3SCh0: AI安倍晋三だろ？
晋バルサンで見た
21 : 2023/11/23(木) 20:18:14.54 ID:jHnRLE000: 例え人類を滅ぼすとしても慈悲を以て苦痛なく殺してくれるなら本望よ
AIに必要なものは慈悲だよ
22 : 2023/11/23(木) 20:19:02.96 ID:C/iRY3ajd: 今AGIとか言うやつは全部胡散臭いと思ってる
23 : 2023/11/23(木) 20:19:08.91 ID:du7LDJ/a0: 数学の問題を超正確に解く能力らしい
もしかしたらついに人間を超えたかもね
24 : 2023/11/23(木) 20:19:14.52 ID:qBbY7aCd0: > 新たに開発されたQ*（キュースター）と呼ばれるモデルは基本的な数学の問題を解決する能力を持ち、スーパーインテリジェンスまたは人工汎用知能（AGI）への重要な一歩とされています。
九九くらいは暗唱できそうか？
25 : 2023/11/23(木) 20:21:08.99 ID:aE2+v7dY0: 実はイリヤが人類の最期の選択肢だったと
後から気付くんだよな
26 : 2023/11/23(木) 20:21:20.93 ID:MUL/PuAZM: ネトウヨ教祖AIが出来たら日本は

あ、安倍がいたか
27 : 2023/11/23(木) 20:22:37.67 ID:9gky9gRd0: 公式集を片っ端から丸暗記して新たな公式を出力し続ける
ラマヌジャンみたいなことができるんか？
29 : 2023/11/23(木) 20:23:51.98 ID:kXO8bHcl0: 今はスケベで止まってるけどハッキングとかウイルスとかやらせる馬鹿いそうだもんなあ
30 : 2023/11/23(木) 20:26:07.23 ID:du7LDJ/a0: 問題はそのツールを使ってAIが暗号鍵を解く式とか編み出してしまったら困るってことだよな
31 : 2023/11/23(木) 20:26:58.61 ID:dm4EIZb60: いまのChatGPTでもやべえからな
ナーフされてるだけで