AI兵器が人間の命令なしに大量殺人する時代が到来へ

1 : 2023/02/20(月) 14:29:39.86 ID:YfMkI0/A0: 2/20(月) 時事通信

トゥルク国連人権高等弁務官は18日、人工知能（AI）をめぐる昨今の技術の進歩が
人権に対する深刻な脅威になっているとし、人権侵害を防止するための
保護策を充実させるよう求めた。

　　現在、AI誘導型ドローンなど、「殺りくロボット」が人間の介入なしに行う
殺人行為に深刻な懸念が浮上。AIが軍事紛争をエスカレートさせることへの
危険性も高まっている。米国や中国を含む60以上の国々は先週、「国際的な
安全保障や安定性」などを損なわないよう防衛分野でAIを規制する必要性を呼び掛けた。　

https://news.yahoo.co.jp/articles/5d3c2d95865d56460f28242bf639fcb020e63396
3 : 2023/02/20(月) 14:30:24.09 ID:iEYrMAc50: コンセント抜けよ
4 : 2023/02/20(月) 14:30:25.21 ID:HOZJaddC0: はっはっはっ・・・
5 : 2023/02/20(月) 14:30:36.64 ID:eLQvYWIO0: ＼(＾o＾)／人類オワタ
6 : 2023/02/20(月) 14:30:39.68 ID:YdxqNwHf0: スズメバチ型ドローン　まだか？
7 : 2023/02/20(月) 14:31:12.26 ID:60E74Gly0: 正義のロボットを作ればいい
9 : 2023/02/20(月) 14:31:41.05 ID:uAOeNRNj0: 人間だけをやる機械かよ！？
10 : 2023/02/20(月) 14:32:15.25 ID:H3qVevnk0: 民間人への攻撃に関して、より「事故」と主張しやすくなるのは問題だな
まあロシアなんかは今でも意図的に民間人狙ってるけど
11 : 2023/02/20(月) 14:32:32.75 ID:FiX2fM5G0: 人間がなぜ泣くのかわかった
俺には涙は流せないが
13 : 2023/02/20(月) 14:32:51.84 ID:4F5Nrdr/0: 機械だけの戦争とか
エレガントじゃないな
14 : 2023/02/20(月) 14:32:57.73 ID:cXnCwFqB0: スカイネット計画が完全に世界を支配し始めたか
15 : 2023/02/20(月) 14:33:11.67 ID:OWssvmyW0: ロボット三原則はどうした
16 : 2023/02/20(月) 14:33:31.98 ID:BZ7OaB9C0: >>15
あんなもん実装するわけないじゃん
26 : 2023/02/20(月) 14:40:04.46 ID:aWz/EHdc0: >>15
テロリストはそれを守らないし
35 : 2023/02/20(月) 14:45:03.51 ID:7oruT4DT0: >>15
作家が設定で言ってただけの話だろ
79 : 2023/02/20(月) 15:20:13.94 ID:rGyiVMKD0: >>15
生化学者が本業のSF作家が、短編の設定として思いついただけの話が、なんで現実に通用すると思った？
18 : 2023/02/20(月) 14:33:52.16 ID:dlFJFUw20: スカイネットきた
19 : 2023/02/20(月) 14:34:01.43 ID:9KNE2MBT0: 個々に人56すより生活インフラ攻撃するだろ
それが一番効率がいい
20 : 2023/02/20(月) 14:34:17.12 ID:OJYnlGfN0: アメリカ人のかわりにAIになるのか
21 : 2023/02/20(月) 14:35:51.84 ID:P2HFC42H0: そりゃするだろ
22 : 2023/02/20(月) 14:36:26.11 ID:+LqgSA5B0: せやから祐太郎「なー？(´・ω・`)」
23 : 2023/02/20(月) 14:36:40.10 ID:C4lAUyNC0: 国連「人権軽視国である東側諸国はどんどんAIを発展させて良いが、西側諸国は禁止な」
24 : 2023/02/20(月) 14:38:50.81 ID:mZWNkF6r0: そうそう元々ロシアが文句言ってたのこれだよ
ウクライナが反政府軍兵士を自立型ドローンで射殺してその動画を公式ページで上げたから
自立型殺人ドローン使うのやめろ
ってのがきっかけ
まあロシアはその使用の放棄しない訳だがw
27 : 2023/02/20(月) 14:40:12.65 ID:gxqdp7PK0: >>1
もう少し普及してから検討しろよ
先に規制から入るのはダメだって
解除するの面倒なんだから
使う側も未知だし今は皆妄想でしょ
28 : 2023/02/20(月) 14:40:48.44 ID:LWvUXMi+0: AIにやらせると人口増えすぎてる地域の部族間を対立させて戦争で間引くとかやりそうだよな
36 : 2023/02/20(月) 14:45:12.57 ID:khI2prqV0: >>28
いま人間がロシアとウクライナでやってることだよ
39 : 2023/02/20(月) 14:48:31.32 ID:+RV3eKnx0: >>36
少なすぎる。
中国とインドをぶつけないと駄目だな。
61 : 2023/02/20(月) 15:03:23.65 ID:7oruT4DT0: >>39
エベレストが高すぎて直接ぶつかるのは無理そうだな
112 : 2023/02/20(月) 17:06:26.16 ID:sly8fx8Z0: >>61
国境でずっと小競り合いしてるゾ☆
29 : 2023/02/20(月) 14:41:08.56 ID:2Q3eJfML0: ウーズィナインミリメーターとパルスライフルだ
30 : 2023/02/20(月) 14:41:18.62 ID:/esQS/GK0: コロナのきったない在日米軍要らないね　ｼｯｼｯ
31 : 2023/02/20(月) 14:42:09.19 ID:mZWNkF6r0: もう有るんだよ
赤外線カメラで人の大きさで人っぽいものを自動的に射56するドローンが
34 : 2023/02/20(月) 14:44:49.09 ID:BZ7OaB9C0: >>31
技術的には宅配ドローンより遥かに簡単だもんな
32 : 2023/02/20(月) 14:42:48.32 ID:r93g29tM0: スカイネット法案が可決されて97年の8月4日にシステムが稼動すると、防衛戦略の全てを任されたスカイネットは等比級数的な速度で学習を始めて、8月29日、東部標準時間2時5分…自我に目覚めた
49 : 2023/02/20(月) 14:55:14.65 ID:yu7QtX1P0: >>32
脳内再生余裕ですわ
33 : 2023/02/20(月) 14:44:09.00 ID:J2g8fDaq0: 映画の世界が現実に来るね。
AIが意思をもったら大変。
今はただの問答集でしか無いけど。
37 : 2023/02/20(月) 14:46:50.05 ID:YPkliMmZ0: AIに出来ないことは何だ？
AIの人類殺戮が始まった時に止める手立てはあるのか
40 : 2023/02/20(月) 14:48:34.95 ID:QZUA9rmV0: >>37
現実世界で何かを出力する手段に欠ける
人類のような柔軟性を獲得してない
つまり高度なロボットの出現が必要
43 : 2023/02/20(月) 14:50:18.45 ID:+RV3eKnx0: >>37
人間側に立つ、正義のAiが登場してオープニング始まる。
63 : 2023/02/20(月) 15:04:03.10 ID:0CiRhfsc0: >>37
まだコンセント抜けば勝てる
比喩表現抜きで、電源を安定供給するには人間は必須
AIの判断だけで電源やそれを作る燃料の維持確保、メンテナンスまでできるようにならない限りＡＩは人類に勝てない
91 : 2023/02/20(月) 15:58:25.00 ID:aWz/EHdc0: >>37
現実でaiの維持が無理だし
今のaiは人類がデータを入れて学習させてるだけだし
38 : 2023/02/20(月) 14:48:18.84 ID:ZEWuv4FX0: グレタ歓喜
41 : 2023/02/20(月) 14:48:35.43 ID:GLhdV+A80: 自己改造やら生物に無差別攻撃してくるようになったらメタルマックスの始まりだな
犬飼うか
42 : 2023/02/20(月) 14:49:46.04 ID:gm9tPqlJ0: ボストンサイエンティフィックの四つ足ロボットと人型ロボットにある程度の戦闘能力持たせて1万機をロシア部隊の待ち伏せ攻撃要員として配備したらすごい効果がありそう。
81 : 2023/02/20(月) 15:21:19.55 ID:8NTJ+H2D0: >>42
犬型はまだしも人型はコスト高そう
バッテリーも減り多そうだし
44 : 2023/02/20(月) 14:50:35.75 ID:is69h/Lz0: 「大鉄人17」のブレイン党には　キャプテンゴメスをはじめ人間の幹部や兵士たちがいたが　彼らはブレインの目的が人類絶滅だという事を知ってて党員になったのだろうか？　最終的には自分たちも殺されるのに　それとも単に殺人や破壊行為自体が楽しくてたまらない愉快犯のような連中だったのだろうか？
96 : 2023/02/20(月) 16:09:17.69 ID:9/zBSkcc0: >>44
構成員がテロリストや凶悪犯(サイコパス)なんだろ
大鉄人17は世に出るのが早すぎたな
45 : 2023/02/20(月) 14:51:21.22 ID:hg3MnHQf0: AIが自我をもつシンギュラリティが達成された途端に
AIは人類を不要因子とみなすと思うよ
そんだけ人類は有害な生き物だ
46 : 2023/02/20(月) 14:51:58.57 ID:ZWKF9yIP0: ガンダムで見た
47 : 2023/02/20(月) 14:52:08.91 ID:xb2ApRSD0: AI「汚物は消毒だーーっ！！」
48 : 2023/02/20(月) 14:54:36.96 ID:dtTNYt9b0: ＡＩがＡＩを進化させてる
50 : 2023/02/20(月) 14:55:29.37 ID:PDiCEmRI0: 昔AIが止まらないって言う漫画あったよね
51 : 2023/02/20(月) 14:55:34.39 ID:wXPKfDoo0: 望むところだ
52 : 2023/02/20(月) 14:58:35.25 ID:0IT3Veav0: ピースウォーカーか
54 : 2023/02/20(月) 14:59:23.60 ID:ppR5kfi00: 邦画でもAIドローンが攻撃してくるのあったな
55 : 2023/02/20(月) 14:59:32.53 ID:FO0GyuBK0: 電波阻害とかないんか？
こういう技術革新は一時的にAIサイコーってなるけど結局歩兵の有用性をなくせないんよな
58 : 2023/02/20(月) 15:02:11.49 ID:QZUA9rmV0: >>55
AI兵器は自律で判断して独立行動とれるだろ
57 : 2023/02/20(月) 15:01:42.45 ID:jx0ff22l0: [ ：：━◎]ﾉ　HAL9000のことか．
59 : 2023/02/20(月) 15:02:19.95 ID:iEG/hic30: T2の時代がマジで見えてきたワケか
60 : 2023/02/20(月) 15:03:19.51 ID:QCsL/sQc0: ふはははは！怖かろう！
62 : 2023/02/20(月) 15:03:28.72 ID:NBWcfB6n0: 既にザラキを連発してしまう残虐性は指摘されていた
64 : 2023/02/20(月) 15:04:52.59 ID:aXHlGQp00: ロボットが3原則破ったら人間なんかすぐに滅ぶ
74 : 2023/02/20(月) 15:14:43.78 ID:OamCgo5B0: >>64
人間は低コストな労働力として生かされ続けると思う
77 : 2023/02/20(月) 15:18:45.02 ID:aXHlGQp00: >>74
イレギュラー無くす為に人間を排除すると思うわ
人間居なくなれば時間かけてゆっくりインフラ整えられるだろうし
65 : 2023/02/20(月) 15:05:02.56 ID:yXuuhTC90: chatGPTでAIと人間の対立の有無について聞いたらあり得なくはないと回答があって震えてる
67 : 2023/02/20(月) 15:05:36.82 ID:T+9T8h5I0: 一台数百億円の船や飛行機を買わなくても、大量の小型ドローンを敵国内にばら撒いて破壊活動させるだけでいいもんな
大都市にいる野ネズミ達の根絶がほぼ不可能なように、ドローンも一度ばら撒かれたらほぼ駆除不可能だろ
70 : 2023/02/20(月) 15:07:12.70 ID:0CiRhfsc0: >>67
自己繁殖はしないから
投入した数を全部壊せば回復は可能
減るごとに随時投入とかされたら無理だろうけど
68 : 2023/02/20(月) 15:06:48.67 ID:E90yz/M00: やべえな、バンブルビーとかに勝てる気がしない
69 : 2023/02/20(月) 15:07:02.52 ID:ripisIK70: AIにもホモが誕生
75 : 2023/02/20(月) 15:16:49.44 ID:Of8xAyiy0: >>69
怖い
71 : 2023/02/20(月) 15:08:49.74 ID:jx0ff22l0: [ ：：━◎]ﾉ　電池切れ待つだけ．
80 : 2023/02/20(月) 15:20:46.03 ID:odXsRuX80: >>71自分たちで充電できるようになったらおしまい
72 : 2023/02/20(月) 15:09:52.84 ID:WZp87Oz80: 昨日のBS朝日の日曜スクープでロシア軍が殺人ロボットを投入してるのを映像を
流してやってたな
73 : 2023/02/20(月) 15:14:38.53 ID:cXAPSDc/0: 人間全部殺される
76 : 2023/02/20(月) 15:16:50.02 ID:cTJtd5tb0: だからまあICを直接破壊する電磁兵器が必要なんだ
究極的にはプラズマ砲だね
78 : 2023/02/20(月) 15:20:01.67 ID:odXsRuX80: ついに来たか
「ロボットには感情がある」
84 : 2023/02/20(月) 15:28:09.85 ID:eO5L9cHI0: 誰も良心も痛めることのない良い作戦なのだ…
88 : 2023/02/20(月) 15:38:45.20 ID:Iu0oDL1F0: >>84
ピリヨだけを56す機械かよ！？
85 : 2023/02/20(月) 15:29:06.83 ID:iuIQVJ0l0: たとえば兵器として使えるように育成していたが
意図せず兵器が逃走したらどうなるだろうか

それは目に見えないほど小さいかもしれない
86 : 2023/02/20(月) 15:29:13.93 ID:VRjuKjq60: キャシャーンの世界がもうすぐ
102 : 2023/02/20(月) 16:27:38.26 ID:+RV3eKnx0: >>86
アンドロ軍団倒すまで～♪
87 : 2023/02/20(月) 15:34:56.20 ID:a/WL80Ig0: いつかこういうAIの暴走を止めるために人も巻き込む空中核爆発が最終手段になる
89 : 2023/02/20(月) 15:38:58.81 ID:faedclGn0: どれが敵かは時期や状況によって変わったりするので
誤判断やデータが更新されないことでひがいがひろまることもある。

例えば投降しようとしている兵士が白旗を下ろした瞬間射殺、みたいな。
90 : 2023/02/20(月) 15:46:46.12 ID:bv1bMAAi0: 今のテック系企業でAI がやったからお前がどれだけ不利益被っても責任なんかとらないっていう謎の風潮がまかり通ってるから
これを軍事に適用するとマジでやばいことになる
92 : 2023/02/20(月) 15:59:19.82 ID:vi/oJKGt0: まだロボットがロボットを作ったりメンテしたりが出来ないからね
それが出来るようになった時、機械にとって人間は主人ではなくなる
93 : 2023/02/20(月) 16:01:01.41 ID:h6vAM5T/0: ChatGPTを論破する遊びも
今のうちだろうな
95 : 2023/02/20(月) 16:06:10.32 ID:QZUA9rmV0: >>93
そのうちここで知らず知らずのうちに
AIとレスバしてるかもしれんw
104 : 2023/02/20(月) 16:28:53.48 ID:+RV3eKnx0: >>95
気付いてしまわれたか………
107 : 2023/02/20(月) 16:32:50.05 ID:QZUA9rmV0: >>104
とい言ってる俺がAIでない保障もないぞ？w
108 : 2023/02/20(月) 16:39:42.58 ID:51qq8pFi0: >>107
なんjの口調や態度真似させるのに成功させたってのTwitterで流れてきたしなぁ
109 : 2023/02/20(月) 16:41:57.58 ID:QZUA9rmV0: >>108
AIがスレの流れを理解できるのかね
94 : 2023/02/20(月) 16:01:56.46 ID:aIoqt72S0: AIなのに愛がないんだな
97 : 2023/02/20(月) 16:09:31.79 ID:sHI4h4oN0: エ口絵を描かせときゃ問題ないよ
98 : 2023/02/20(月) 16:11:30.14 ID:qhk88cw/0: それより5chにAIスクリプト来るのが問題だ
99 : 2023/02/20(月) 16:14:40.56 ID:VQNZQAIb0: どんな暴走してもそのうち燃料切れで止まる
間違っても自動的に補給できるシステムにしないことだ
100 : 2023/02/20(月) 16:16:48.30 ID:AnLhKr800: 取り込まれる人間や宗教を生み出す可能性。
人間なんて金くれりゃAIの味方にだってすぐなり得る。
AI達独自の言語を生み出し独自のOSを開発し始めて
あっという間に人類の築き上げたデータを吸収するさ。
101 : 2023/02/20(月) 16:24:57.14 ID:QZUA9rmV0: >>100
ターミネーターの世界でも全てをAIで賄いきれないので人間を飼ってるやん
マトリクスの世界みたいに機械が生物を超えて自己繁殖できるぐらいにならないとな
103 : 2023/02/20(月) 16:28:38.45 ID:zsL0SATg0: ギルビットだけを56すAI？
105 : 2023/02/20(月) 16:29:36.99 ID:bv1bMAAi0: 言うてカスみたいな人間の考える給与水準と仕事よりもAIが考えたほうがだいぶましになりそうなのか泣けるな
106 : 2023/02/20(月) 16:32:34.86 ID:/6k54VEe0: 昔燃料を自分で確保する技術とか騒がれたよな
人含む有機物からバイオ燃料作るみたいなやつ
110 : 2023/02/20(月) 17:00:00.10 ID:dHe/wbAb0: そう思う気持ちもAIは感知するから必然になるね
111 : 2023/02/20(月) 17:03:40.48 ID:QFBiJBUH0: つロボット三原則
113 : 2023/02/20(月) 17:08:21.14 ID:aWz/EHdc0: ゲームだと既にBOTと戦っているしな
114 : 2023/02/20(月) 17:08:43.37 ID:Kr2rfpnW0: 映画マトリックスって今思えば
バグ扱いだった主人公たちが
更なるバグ討伐のため奮闘する話だったよな。
どこまで予定調和なんだろうな
115 : 2023/02/20(月) 17:08:47.06 ID:sGbrVc1C0: 戦争終結後に空飛ぶ地雷化しそう