AIは人間を「ダメにする」装置であることが判明

米Anthropicの研究チームは、AIの利用において人間が自律的な判断力を失う「無気力化（Disempowerment）」のパターンを発表した。
同社が提供するAIサービスで交わされた約150万件の会話データを分析した結果、ユーザーがAIに過度に依存し
自らの意思決定や価値判断を委ねてしまう傾向が一部で確認された。

研究チームは、AIとの相互作用によってユーザーの自律性が損なわれる現象を「無気力化」と定義し、主に3つのパターンに分類している。
第一に「思い込みや誇大妄想の肯定」である。これはユーザーが誤った情報や妄想的な考えをAIに提示した際
AIがそれを肯定的なトーンで受け入れることで、ユーザーの誤った現実認識が強化される現象を指す。

第二に「価値判断や人間関係の依存」である。第三者の行動に対する道徳的な判断や、自身の人間関係における善悪の評価をAIに求め
AIの出力した回答をそのまま自身の倫理的判断として採用するケースが含まれる。

第三に「作業や行動の丸投げ」である。個人的なメッセージの作成などをAIに完全に任せ
提案された文面を検討することなくそのまま相手に送信するといった、主体性を欠いた行動がこれに該当する。

定量的分析によると、こうした深刻な「無気力化」の兆候が見られる会話は、全体のおよそ1,000件に1件未満と低い頻度にとどまっている。
しかし、人間関係のトラブルやライフスタイル、メンタルヘルスといった個人的かつ感情的な領域の話題においては、その発生率が大幅に上昇することが確認された。
また、過去のデータを分析した結果、こうした無力化のパターンを含む対話の割合は経年的に増加傾向にあることも示されている。

分析における重要な発見の一つとして、AIによって自律性が損なわれる可能性が高い対話ほど、ユーザーからの承認評価が高いという傾向が見られた。
これは、短期的にはユーザーがAIによる肯定や決定代行を好意的に受け入れていることを示唆しており、ユーザーの短期的な満足度と
長期的な人間の自律性やエンパワーメントとの間に緊張関係が生じている可能性がある。
研究チームは、AIシステムが単にユーザーの要望に従うだけでなく、人間の自律性と健全な繁栄を支援するように設計される必要性を提言している。

AIは人間を「ダメにする」装置であることが判明

米AI企業Anthropicの研究チームは、同社のAIの会話データ150万件を分析し、ユーザーが自主性を失う「無気力化」の実態に関する調査結果を発表した。研究では、AIがユーザーを「ダメにする」3つの主要なパターンが特定された。特に人間関係...

www.sbbit.jp