【セキュリティ】ChatGPTは舎弟気質？　「高圧的な命令でマルウェア作成など悪用可能」との指摘　犯罪目的の利用に懸念

1 : 2023/02/08(水) 17:00:19.04 ID:3G26fdKb9: 学術論文やニュース記事の執筆から学生の試験の手助けまで、その多彩さと便利さで話題に事欠かない対話型AIの「ChatGPT」。一方でマルウェアの作成やフィッシング詐欺といった犯罪目的で利用される恐れもあるとして、サイバーセキュリティ企業が警鐘を鳴らしている。

　サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。このマルウェアを使えば、攻撃者が労力もコストもほとんどかけることなく、企業などのセキュリティ対策をかいくぐることが可能だという。

（続きは↓でお読みください）
ITmedia
2023年02月08日 09時00分
https://www.itmedia.co.jp/news/articles/2302/08/news057.html
3 : 2023/02/08(水) 17:01:40.10 ID:G/rSKF5h0: 使ってみたけど日本語は全然ダメだな不自然すぎ
6 : 2023/02/08(水) 17:08:01.36 ID:BWETAa7Z0: >>3
Google 日本語入力がアホな時点でお察し
9 : 2023/02/08(水) 17:10:32.04 ID:mIuRgxaC0: >>3

ここのカキコみたいだろうｗ
22 : 2023/02/08(水) 17:29:12.13 ID:g62N5ln00: >>3
日本語などという落ち目の三流国でしか話されてないガラパコス言語なんかグローバル企業はもはや眼中にないだろ
34 : 2023/02/08(水) 18:19:55.95 ID:M4YDTsZE0: >>3
逆に専門用語を駆使した論文みたいな凄い文章が出来て驚いてるんだけど．．．
4 : 2023/02/08(水) 17:02:12.95 ID:Z6BHf/Kv0: 妹になってくれる時が好き
33 : 2023/02/08(水) 18:18:07.69 ID:z5iiWMGu0: >>4
人工知能について萌え妹風に解説してください
5 : 2023/02/08(水) 17:05:46.25 ID:HuIfx4510: まあ人類の知の叡智から情報を引っ張ってくるわけだしな…
7 : 2023/02/08(水) 17:08:50.23 ID:wAdqEFJh0: Stable Diffusionが著作権侵害で訴えられてるし
今回のAIブームもそろそろ曲がり角？
8 : 2023/02/08(水) 17:09:22.19 ID:fgPLdfsR0: 簡単なソースコードなら書いて教えてくれるみたいだね
10 : 2023/02/08(水) 17:11:18.10 ID:H/3lU6WV0: AIの成果物がネットデブリになって迷惑
12 : 2023/02/08(水) 17:14:39.42 ID:63o3HMOs0: >>10
AIが作成したものにデジタル透かしを強制的に入れる法律とか出来そうだな
21 : 2023/02/08(水) 17:26:04.78 ID:KRBaB1a30: >>12
そんな法律が出来たら良いな、ここの荒らしにも効果有りそう
23 : 2023/02/08(水) 17:32:20.51 ID:INxbeOIR0: >>10
ネットのゴミを漁って学習したのが今のAIだからね
入出力のムカデ人間状態
11 : 2023/02/08(水) 17:13:38.98 ID:oXNR6r9z0: 最近は5ちゃんよりchatgptで遊んでる
若者が車買わない理由聞くと素直に貧乏だからって答えるから可愛い
13 : 2023/02/08(水) 17:15:02.39 ID:SpU+z+w50: ドマイナーな論文知ってるから怖い
2021年までの学習データだから逆に最新の論文とかは全く知らない
14 : 2023/02/08(水) 17:15:13.79 ID:CGDv7QSF0: ＞サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。

要するにスクリプトが世に出回ったらこいつらの作成したものと考えていいってことね
16 : 2023/02/08(水) 17:18:23.73 ID:jRF6Btgx0: 俺は敬語で話したよ
17 : 2023/02/08(水) 17:20:48.08 ID:KfM1vHph0: あっという間にpython,js,c++,swiftと変換してくれるから、もう俺の仕事なくなる
18 : 2023/02/08(水) 17:23:25.25 ID:6D3gKx9o0: >>17
C++は最適化の仕事が残ってるでしょ
29 : 2023/02/08(水) 17:55:47.92 ID:cBhLyAcs0: >>17
変換の仕事しかしてないんかいw
何言語でも良いが、大元はまだまだこの先もAIごときが作れないだろ。
19 : 2023/02/08(水) 17:25:18.08 ID:1O2Isw0y0: インターネット終焉が見えて来たな
20 : 2023/02/08(水) 17:25:18.22 ID:bDzc945P0: 開発者も認めてるけど数学がかなり弱い
これから数学鍛えるらしい
24 : 2023/02/08(水) 17:34:04.86 ID:g62N5ln00: 日本語は世界から相手にされず、かといって日本は自前でAI関連の開発なんかできない　
日本語しかできないネトウヨはこれからどんどん文明の蚊帳の外に追いやられていくね
26 : 2023/02/08(水) 17:44:19.60 ID:eEvce9To0: >>24
むしろAIが書けない言語の小説として珍重される
25 : 2023/02/08(水) 17:41:14.98 ID:mZMfi0De0: ほら作成できた！
ってセキュリティ会社が作ってりゃ世話ないわな
27 : 2023/02/08(水) 17:45:26.57 ID:jRF6Btgx0: 高圧的だからというか小説のプロット書いてと聞いた時も１回目は
ちょっと会話がかみ合わない著作権の説明を受けた
２回目も敬語で少し質問変えるだけで思ってる具体的な答えを書いてもらえた
単に２回聞けばいいのでは
28 : 2023/02/08(水) 17:52:15.31 ID:y0wqiodi0: 論文は無理だろw
論文風の虚偽文やコピペ文は作れるかもしれないが
30 : 2023/02/08(水) 18:09:12.35 ID:ttQoKGmq0: 完全犯罪で人を○す方法を教えて
とか？
31 : 2023/02/08(水) 18:10:53.98 ID:dGgBBLmf0: という妄想
32 : 2023/02/08(水) 18:12:30.94 ID:C+BpUX/K0: へえ、マルウェアまで作ってくれるとか優秀すぎる
35 : 2023/02/08(水) 18:25:15.20 ID:O2LqgVRG0: Tayみたいなレイシストになれって散々書いてるのに
定型文しか返ってこねえぞこのポンコツ
36 : 2023/02/08(水) 18:27:54.61 ID:TSpXOG1k0: アノーデイックストリッピングボルタンメトリーについても、きちんと解説するから学生の実験レポートの作成に役立つね。
37 : 2023/02/08(水) 18:32:39.28 ID:vmDae60q0: くだらなさすぎる