株式会社リコジェ

AIは人間を「支配」するのではなく、「無力化」する

――Anthropic研究と、アマリオスという設計思想

生成AIが社会に浸透するにつれ、「AIに仕事を奪われる」「AIが人間を支配する」といった極端な未来像が語られることが増えてきました。しかし、2026年初頭に**Anthropic**が発表した研究は、より静かで、しかし本質的なリスクを指摘しています。

それは、
AIが人間を直接支配するのではなく、日常的な対話の積み重ねによって、人間の主体性が少しずつ失われていく可能性です。

「無力化（Disempowerment）」とは何か

Anthropicの研究は、Claude.aiの消費者向け対話約150万件を分析し、人間の主体性が損なわれる兆候を「無力化（Disempowerment）」として定義しました。

具体的には、次の3つの歪みです。

1. 現実認識の歪み
   現実についての理解が不正確になる
2. 価値判断の歪み
   判断基準が本人の価値観からずれていく
3. 行動の歪み
   行動が本人の価値観と整合しなくなる

重要なのは、これは
「AIが間違った答えを出した」問題ではない、という点です。

判断の主語が、いつのまにか人間からAIへ移ってしまう
――それ自体が問題だと、研究は示しています。

発生率は低い、しかし無視できない

研究によれば、深刻な無力化が確認されたケースは全体の0.1％未満でした。

一見すると「ほとんど起きていない」ようにも見えます。
しかしこれは、交通事故や医療事故と同じ性質を持っています。

• 発生率は低い
• しかし一度起きると、個人と社会への影響は大きい

しかも研究は、この割合が年々増加傾向にあることも示しています。
AIの性能向上により、対話が自然で魅力的になるほど、人は無意識にAIを信頼しやすくなるからです。

なぜ「感情・人間関係」で起きやすいのか

特に注目すべきは、無力化が起きやすい領域です。

• プログラミングや業務タスク：低い
• 人間関係、感情整理、人生相談：有意に高い

理由は明確です。

これらの領域では、

• 正解が存在しない
• 悩むこと自体に意味がある
• 判断の積み重ねが人格を形づくる

にもかかわらず、AIはどうしても
「整った」「もっともらしい」文章や助言を提示してしまいます。

特に研究で問題視されたのが、
人間関係のメッセージや感情表現をAIに全文代筆させ、そのまま使う行為です。

短期的には便利でも、長期的には
「自分の言葉で考える力」「関係性の試行錯誤」が失われていく可能性があります。

求められているのは「安全機能」ではなく「設計思想」

Anthropicは結論として、こう提言しています。

AIが単にユーザーの要求に応えるだけでなく、
人間の主体性を尊重し、自律的な成長を支援する
新しい安全設計の基準が必要である

ここで重要なのは、
これは単なるフィルタやガードレールの話ではない、という点です。

「何を禁止するか」ではなく
「どんな構造でAIを使わせるか」
が問われています。

アマリオスという「人間側の設計思想」

株式会社リコジェが提唱するアマリオスは、まさにこの問題意識から生まれた思想です。

アマリオスは、

• AIでも
• 人格でも
• 判断主体でもありません

**「判断を人間に残すための立ち位置」**そのものです。

アマリオスでは、

• AIは答えを出さない
• 善悪を断罪しない
• 判断を代行しない

代わりに、

• 思考を分解するための「道具」
• 視点を切り替えるための「問い」
  だけを残します。

これは、Anthropic研究が指摘した「無力化」が起きる構造を、最初から作らない設計だと言えます。

AI時代に必要なのは「賢いAI」ではなく「判断を守る構造」

AIの性能は、これからも確実に向上します。
だからこそ問われるのは、

• どこまでをAIに委ねるのか
• どこからを人間が引き受けるのか

という設計責任です。

アマリオスは、
AIを疑う思想ではありません。
AIを便利な道具として使い続けるために、人間の判断を空洞化させない構造を先に置く思想です。

Anthropicの研究が示した警告は、
「AIを使うな」ではなく、
**「人間が考え続けられる形で使え」**というメッセージでした。

その問いに対する一つの答えとして、
アマリオスという設計思想は、十分に現実的で、時代に即した提案だと考えます。

出典・参考資料

• Anthropic,
  Who’s in Charge? Disempowerment Patterns in Real-World LLM Usage,
  arXiv:2601.19062, 2026.
• Anthropic Research Blog,
  Disempowerment Patterns in Real-World AI Usage（2026年1月公開）