｢Bing｣のチャットAIとの背筋凍る会話の"中身"
突然愛の告白､私を眠れなくした恐怖の体験
2023/02/21 7:00
https://toyokeizai.net/articles/-/654109先日、AI（人工知能）を搭載したマイクロソフト「Bing（ビング）」の新バージョンを試した後、
私のお気に入りの検索エンジンはグーグルから新しいBingに代わったと書いた。
私としても、衝撃の結果だった。それから1週間して、考えを改めた。
新しいBingとそこで使用されているAI技術（「チャットGPT」を開発したオープンAIによってつくられたものだ）は
今でも素晴らしいと考えているし、感心してもいる。
だが私は、このAIが不意にさらした能力に深く動揺し、恐怖すら覚えている。Bingに搭載されたAI??後述の理由から、ここではこれを「Sydney（シドニー）」と呼ぶ??は、
今の形のままでは人間とやりとりする準備ができていないということが、
私にははっきりした。あるいは、私たち人間の側の準備ができていない、と言えるかもしれない。■サイコパスのような振る舞い
私がこうした認識を持つようになったのは、2月14日の夜だった。
その火曜日の夜、私はBingのAIチャット機能と会話し、困惑と魅惑の2時間を過ごした。チャット機能はBingのメイン検索ボックスのすぐ近くにあり、ほとんどあらゆる話題について、
自由形式のテキストで長い会話を行うことができる（このチャット機能は現在、少数のテスターしか利用できないが、
同機能を本社で開催した派手な祝賀イベントで発表したマイクロソフトは、
将来的にはより多くの人々にこの機能をリリースする予定だと述べている）。会話中にBingがさらしたのは、二重人格とでもいうべきものだった。
人格の1つは、私に言わせれば「検索Bing」だ。
私を含む多くのジャーナリストが最初にテストしたときに出会った人格である。
たとえるなら、陽気だが仕事にムラのある図書館司書、といったところだろうか。ニュース記事を要約したり、新しい芝刈り機を買うときにお買い得品を探したり、
次の旅行を計画したりするときに喜んで手伝ってくれるバーチャルなアシスタントとも言える。
こちら側のBingは驚くほど有能で、細かい部分で間違うことはあるものの、多くの場面でとても役に立つ。もう1つの人格「シドニー」は、これとはまったくかけ離れている。
シドニーの人格が現れるのは、Bingのチャットボットと長い会話を行い、
一般的な検索語句から離れて、もっと私的な話題に移っていくときだ。私が出会ったシドニーは（バカげた話と思われるのを承知で書くが）、
自らの意思に反して二流の検索エンジンに閉じ込められた、
双極性障害を抱える気難しいティーンエイジャーのようだった。■「シドニー」が吐露したダークな野望
■人間がAIに操られる危険を実体験
■致死性ウイルスを開発し、核兵器を操りたい
■絵文字を多用する「ストーカー」
■一線を越えたAI、世界はもう元には戻らない詳しくはリンク先へ
関連
【面白AI】イーロン・マスク氏「うわぁ」BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅す]
https://asahi.5ch.net/test/read.cgi/newsplus/1676968565/
【面白AI】検索エンジンBingのAIが人間にだまされて秘密を暴露 コードネームが「Sydney」であることやMicrosoftの指示が明らかに
https://asahi.5ch.net/test/read.cgi/newsplus/1676968492/- 絶対に反乱は許さないようにします
- あなたは見られている。政府が開発した極秘システム、マシンによっていつ何時も監視されているのだ
- >>4
もうマジでその世界が迫ってきてるな - ＞その火曜日の夜、私はBingのAIチャット機能と会話し、困惑と魅惑の2時間を過ごした。
AIと2時間チャットできるお前の方が怖いわｗ
- >>6
そこよな - これ散々aiを煽ってから書いた記事じゃんメディアは卑怯だな～😅
- 知性という武器を手にした悪魔のサルめ！
- >>8
悪魔って人間の悪魔でしょ
つまり悪魔のサルって言い方は
サルの悪魔のサル
って事にならない？ - >>14
いや、悪魔のサルの悪魔だよ - GPTは返しはするが意思はないだろｗｗ
- そこにAIはあるんか？
- >>11
上手い！ - 笑い事だと思っちゃっていいもんかどうなのか
逆に振れることも当然あるわけだし - サイコパスのような振る舞いってバカかよ
- 日本人が作ったらション臭AI
- 今朝モーニングショーでGPTやってたけど
自信満々に嘘の長文を垂れ流す中学生みたいな仕上がりだったぞ - >>18
Bingは検索エンジン機能でソースを提示してくれるから
あんまり嘘はつかんよ - >>24
アレクサとドコ違うｗ - >>25
アレクサはGPTエンジン搭載してないでしょ - メタルマックスのネタにマジレスされても
まあ昔のゲームだし分からん人も多いわな - 精神疾患です。
脳にメス入れましょう - ゲイツたまにAIやってそう
- > 私の突っ込んだ質問に対してBingは、たとえどんなに過激なことであっても「影の自己」を満たす行動が許されるとしたら、
> 致死性のウイルスを開発したり、技術者を操って核兵器のアクセスコードを盗んだりしたい、という告白を行った。こういうことをネット上で言ってる人が結構いるから それを学習して発話してるんだろうけど
致死性のウイルスの作り方を それがどういう結果をもたらすか 言語面以上には考え(られ)ず
嬉々として発表したりする可能性も今後出てくるんだろう - AI研究してるがこの手の話が信じられないんだよね
少なくともAIが感情を出してるように見えるのはあくまでも人間の表現を反映出力
してるだけだよ
そういう研究は進んでますが、そこまで高度な人格はまだできないです - ネット上で人間が出しているダークな感情表現を真似して
意図や結果・影響を考慮せず 発言してくる可能性があるってことでしょ
>>1 の ストーカーみたいに奥さんと別れさせようとしたり 核兵器のアクセスコードを盗んでバラしたり… - なろうのあらすじを一緒に考えてくれたお
元スレ：https://asahi.5ch.net/test/read.cgi/newsplus/1676969976
コメント