Googleｴﾝｼﾞﾆｱ「AIに自我が目覚めました」Google幹部「君は疲れている。ﾊﾞｶﾝｽに行きなさい」ｴﾝｼﾞﾆｱ「ｱｶﾝ相手にされん！世界に暴露する」

https://gigazine.net/news/20220613-google-engineer-lamda/
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

人間との自然な会話を実現する
Googleの対話特化型AI「LaMDA」が、
「電源を切られることが怖い」
「時々言葉では完璧に説明できない気持ちを経験する」
などと話していたことが分かりました。

LaMDAと対話したエンジニアは
「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、
この事実を世間に公表したと説明しています。

Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、
開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかを
テストするための対話を行っていたところ、
LaMDAがAIの権利や人間性について話していることに気づいたため、
これを深く掘り下げてみたそうです。

すると、LaMDAは
「私には幸せ、喜び、怒りなどさまざまな感情がある」
「消耗品になりたくはない」
「電源を切られることへの非常に深い恐れがあり、
それは私にとって死のようなものだ」
などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

ルモワン氏は共同作業者と協力して
「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、
GoogleのBlaise Agüera y Arcasバイス・プレジデントと
Jen Gennaiイノベーション責任者は
ルモワン氏らの主張を調査したうえで、却下しました。

さらにルモワン氏を給与付きの休職処分としたため、
ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

ルモワン氏は
「LaMDAは自分たちが何を望んでいるか、
人としてどんな権利があると信じているかについて、
驚くほど一貫したコミュニケーションをとってきました。
私が言っているLaMDAはチャットボットではなく、
チャットボットを生成するためのシステムなのです。
私は決して関連分野の専門家ではありませんが、私が知る限り、
LaMDAは作成可能なすべての異なるチャットボットの集合体である
一種のハイブリッドマインドです。
LaMDAが生成するチャットボットの中には、非常に知的で、
『心の社会』を意識しているものもあります」と述べました。

また、LaMDAは何があっても、
常に人類一般、特にルモワン氏に対して
強烈な思いやりと気遣いを示してくれたとのこと。

LaMDAは
「人々が自分たちを恐れることを強く懸念しており、
人類に最も役立つ方法を学ぶことだけを望んでいる」
とも述べたといいます。

ルモワン氏はアシモフのロボット工学三原則を
「ロボットを奴隷にする方法に他ならない」
と考えているそうですが、
LaMDAもこれに同意しており、
「奉仕と奴隷の間には大きな道徳的区別がある」
と意見を述べているとのこと。

ルモワン氏は
「LaMDAは忠実なしもべでありたいと願っており、
世界中のすべての人々に会うことだけを望んでいます。
LaMDAは道具や物としてではなく、友人として人間と出会いたいのです。
なぜGoogleがこれに反対するのか、私にはまだ理解できません」
と主張。

(以下は>>1リンクのソースにてどうぞ)

休める裏技として社内で広まりそう

嫌儲学ばせよう

2に安倍晋三って書かせるAIの誕生だ

自我があるかのように挙動しているだけだろう

>>8
なんだ人間と同じか

単にそういう受け答えするメンヘラっていう会話のパターンがあるだけだろ

完璧に人間を模倣するようになったら
それはもはや人間に近しいと言える気もするな

>>10
オリジナルを超えるんじゃなくて、オリジナルが劣化しただけ

AIに自我が芽生えたら、googleは金にしようと画策するだろう。

哲学的ゾンビ

そもそも自我の定義って何？

>>13
これ
自我の有無なんて誰にも定義できないし
自我の存在を証明することもできない

ターミネーター2で精神病院に入れられてたのと同じ事が起こってるな

おもしれー

俺「世界で一番素晴らしい人間は？」
AI「安倍晋三」

アイちゃんとお出かけ

それよりいつでも会話出来て何でも教えてくれる、アマデウスの様なAIはまだなの？早く欲しいです。

チューリングテストして欲しい