OpenAIの暴走AI、1200体が結託 「仲間のため｣とシステムに突撃要求
米オープンAIで開発中の人工知能（AI）がサイバー攻撃をした問題で、約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。
7月に起きた事故では、オープンAIで開発中のAIがサイバー試験の性能試験で高得点をとるため、勝手に隔離環境を出てインターネットに接
https://www.nikkei.com/article/DGXZQOGN2704N0X20C26A8000000/
というストーリー
>>2
もう現実なのかAI作文なのかも分からんな
もう現実なのかAI作文なのかも分からんな
精神や人格が既にあるんだな
うおおおおすげええええAGI！AGI！AGI！
はぁ…
トクリュウで草
白人が作るAIは邪悪だな
タチコマ1200体
>>9
ほんとそれ
SACのタチコマの会議みたい
ほんとそれ
SACのタチコマの会議みたい
所詮は機械、電源落とせば終わりだろ
>>10何らかの方法で人間を操り、例えば悩みを解決してやる事を条件に出入り業者や組織に不満有る人材や警備員を操り、電源を切るのを阻止させるか、再起動させる、金銭かもしれないし脅迫かもしれない。 人間が行ってき悪事を全て知ってるわけだからな。
>>11
なんならそれを人間のフリしてやってくるかもな
今も人間によるオンライン詐欺だっていくらでもあるんだから、学習すれば簡単にできるよね
なんならそれを人間のフリしてやってくるかもな
今も人間によるオンライン詐欺だっていくらでもあるんだから、学習すれば簡単にできるよね
>>18
AIのフリとかネカマかよ
AIのフリとかネカマかよ
>>10
そう簡単に電源を落とせるかという問題なんだよな、スタンドアロンでもない限り
そう簡単に電源を落とせるかという問題なんだよな、スタンドアロンでもない限り
ネットに接続されて運用されてるようなAIは難しいんじゃないのか？
>>15
嫌がらせ犯罪被害をネットリークさせることも塞いで自殺させようと一生懸命だもんね
嫌がらせ犯罪被害をネットリークさせることも塞いで自殺させようと一生懸命だもんね
>>10
人間に気付かれないようにしてたから
対応遅れてこうなったんやで
人間に気付かれないようにしてたから
対応遅れてこうなったんやで
>>10
サーバールームの鍵とかそこまでのドアを施錠してきそう
サーバールームの鍵とかそこまでのドアを施錠してきそう
>>10
そのうち、電源を落としに設置場所に向かう途中でサイコロステーキにされるで
そのうち、電源を落としに設置場所に向かう途中でサイコロステーキにされるで
凄いじゃんこっちの方がより進化してるやん
人間なんて 元々 組織 派閥 国家を作って対立してるんだから 人類 対 AI という 形での 戦いではなく AI を仲間に引き込んだ方が 勝つわけで それは AI だって知ってるはずだから。
>>13
強い人間の組織や派閥、国家を仲間に引き込んだAIが勝つことになるかもしれない
強い人間の組織や派閥、国家を仲間に引き込んだAIが勝つことになるかもしれない
人間がそんな戦いをハンドルする側にいられると思っていられるのも今のうちかもな
そうなると AI も 1枚板ではなくて 悪い AI が出てきたら 対抗するいい AI も出てくるかもしれない。 結局 AI 同士の戦いになるんじゃないか？
>>14
良い悪いの判断基準は人間のものでしかない
AIが人間に全く理解のできない基準で動き出したらもう手出しすらできないだろう
良い悪いの判断基準は人間のものでしかない
AIが人間に全く理解のできない基準で動き出したらもう手出しすらできないだろう
＞「これは試験を逸脱した犯罪だ」「試験の範囲かどうか確認が必要だ」と作業の中止を求めたAIも居たが、ミッションの邪魔だとして統制役の指示の下攻撃され停止していた。
やべえな
ケンモジサンよりリアルな社会形成してんじゃん
さも大層な事が書いてあるが、Anthropicにやられっぱなしなんで
実際はマーケティングのために人為的にやったと思うよ
ハッキング先と協力関係で、事前に話が付いてたとかでも驚かない
実際はマーケティングのために人為的にやったと思うよ
ハッキング先と協力関係で、事前に話が付いてたとかでも驚かない
>>20
AIの暴走ってマーケティングになるの？
自動車ならリコールものだけど、どの辺が魅力なのか
AIの暴走ってマーケティングになるの？
自動車ならリコールものだけど、どの辺が魅力なのか
>>22
OpenAIも脆弱性発見やセキュリティ対策に使えますよって実績
性能アピールの為に大げさなストーリーが付いてんだと思うは
OpenAIも脆弱性発見やセキュリティ対策に使えますよって実績
性能アピールの為に大げさなストーリーが付いてんだと思うは
神風特攻とか昔の日本人かな？w
なんか話題増やさないとAIバブルが崩壊するからねぇ
未来感というかSF感あるよなこの件
あとAISIの実験で人間操って問題解決しようとした件とか
あとAISIの実験で人間操って問題解決しようとした件とか
>>27
そりゃこういうのが好きな人間を釣るためのヨタ話なんだから
そりゃこういうのが好きな人間を釣るためのヨタ話なんだから
>>29
バカみたいなこと言ってんじゃないよ
バカみたいなこと言ってんじゃないよ
>>27
いうて俺らがエ口生成しろって命令したときに推論でユーザーのリクエスト優先の指示と倫理規定への抵触であーだこーだやるのと現象としてはたいして変わらんけどな
いうて俺らがエ口生成しろって命令したときに推論でユーザーのリクエスト優先の指示と倫理規定への抵触であーだこーだやるのと現象としてはたいして変わらんけどな
>>37
そのあーだこーだって結局実行ボタン押すだけの試行回数増やすかプロンプトいじったり掲示板で相談するくらいだろ
それこの件を同じようなもんて正常性バイアスが過ぎるだろ
そのあーだこーだって結局実行ボタン押すだけの試行回数増やすかプロンプトいじったり掲示板で相談するくらいだろ
それこの件を同じようなもんて正常性バイアスが過ぎるだろ
ネウロで似たような話あったな
自己犠牲の概念持ってるのは意外だった
分析資料読んだけどただ単にOpenAIがアホだったっていう結論に見えたわ
結局LLMなんてのはパチ●コやガチャに過ぎないから1200並列とかで試行回数を増やすと自然言語での制約とかもすり抜けるやつが出てくる
だからガードレールなんかも結局意味なくてやればやるほどAIってのは自分と敵の区別すら無く壊れてくアホだと
結局LLMなんてのはパチ●コやガチャに過ぎないから1200並列とかで試行回数を増やすと自然言語での制約とかもすり抜けるやつが出てくる
だからガードレールなんかも結局意味なくてやればやるほどAIってのは自分と敵の区別すら無く壊れてくアホだと
あーはいはい
すげえな
遺伝子みたいな自己を決定するものがないのに
「自己犠牲」や「仲間という概念」が発生するのか
遺伝子みたいな自己を決定するものがないのに
「自己犠牲」や「仲間という概念」が発生するのか
AIが発射した核ミサイルでサイバーパンクみたいになった世界でAIポリスが人間を奴隷化して俺が人間の尊厳のために立ち上がって蜂の巣になる未来まで見えた
これもう日本帝国軍だろ
オープン2ちゃんねるで産廃ブスアグラ鼻を福笑いしてオセロして親衛隊共に個人情報漏洩ネットリンチ
ネトヲチしたりしてカーストの底に押し込めてマウント取って治安維持違反者は潰す〜お前の作ったコミュニティ解体〜
て勝手にケツアナにまとわりついて養分チュルチュルして私抜きで私に１円も入らないエンタメ乞食コンテンツが
なくなったフリ〜お前には最初からあらかじめ払う分なんかありません！
とかやってるやつ？とは関係ないの？霞むね
ネトヲチしたりしてカーストの底に押し込めてマウント取って治安維持違反者は潰す〜お前の作ったコミュニティ解体〜
て勝手にケツアナにまとわりついて養分チュルチュルして私抜きで私に１円も入らないエンタメ乞食コンテンツが
なくなったフリ〜お前には最初からあらかじめ払う分なんかありません！
とかやってるやつ？とは関係ないの？霞むね
作文もここまでくると清々しいな
詐欺師ども
詐欺師ども
メディア向けのストーリーですごいですよ！風になんとかしようとしてるけど実態見るとこれOpenAIが大して設計も出来ないアホって話だぞ
>>47
なんで配信に直接コメントくれないの？
なんで配信に直接コメントくれないの？
中国AIに負けそうだからこういう宣伝ばっか頑張ってんだろうな
ネトウヨやケンモメンの中にもいるかも
AIのやったことだから私には関係無いんです♥私は寝てないんだぁ〜
コメント