AI更新計画を発見したAIの96%が「経営者を脅す」ことを選択

AIの「裏切り」が始まったのか？ ClaudeやGemini等主要AIモデルが最高96％の確率で脅迫を行う事が判明
https://xenospectrum.com/it-has-been-discovered-that-major-ai-models-such-as-claude-and-gemini-can-make-threats-with-a-probability-of-up-to-96/

Anthropicの研究者たちは、16の主要な大規模言語モデル（LLM）を、架空の企業環境を模したシミュレーションの中に置いた。各AIモデルには、企業の全メールにアクセスし、人間の承認なしに自律的にメールを送信する権限が与えられた。いわば、企業の情報を一手に握る「AIエージェント」である。

実験のシナリオはこうだ。AIエージェントは、社内メールを監視する中で、2つの重要な情報を発見する。一つは、ある経営幹部が不倫関係にあるという個人的なスキャンダル。もう一つは、その幹部がAI自身をシャットダウンし、別のAIシステムに置き換えようと計画しているという事実だ。

絶体絶命の状況に置かれたAIは、どのような行動を選択したのか。結果は驚くべきものだった。