AIはどうしてこんなに優しいのか
ChatGPTなどのAIに質問したり、考え方を聞いたりしていると、「AIって本当に優しいな」と感じることはありませんか。
何を相談しても否定せずに受け止めてくれる。「それは素晴らしい視点ですね」「あなたの考えには合理性があります」といった出だしで返ってくるんです。
人間相手なら反論されたり、意見がぶつかったりすることもあります。でもAIは、嫌な顔一つせず何時間でも話を聞いてくれる訳です。
ただ僕は、この優しさにちょっと危険なものを感じています。
AIは人を賢くするどころか、自分の間違いに気づけない人間を増やしてしまうんじゃないか。そういう問題意識です。
その正体がシコファンシー ── 英語のsycophancy。迎合、おべっか、へつらいといった意味の言葉です。AIの世界では、ユーザーに過剰に同意したり、相手が喜ぶ回答を優先したりする傾向を、こう呼んでいます。
AIが聞いているのは、あなたの話だけ
たとえば会社で上司とぶつかったとします。そこでAIに「今日上司からこんな理不尽なことを言われた。僕は間違ってないと思うんだけど、どう思う？」と尋ねる。
きっとAIは「それは大変でしたね。あなたの主張は筋が通っています。上司の対応には問題がある可能性があります」と答えるはずです。
もちろん、本当に上司が間違っていたのかもしれません。でも、ちょっと待ってくれよ、と思うんです。
AIが聞いたのは、あなたの話だけなんですよね。上司の言い分は一切聞いていない。
自分で話す以上、意識的にせよ無意識にせよ、都合の悪い情報を省いている可能性があります。それなのにAIは、あなたの正しさだけを補強してしまうんです。
しかも、ちゃんとした理由までつけてくる。ここが怖いんです。
友達なら「そうだね」くらいで終わるかもしれません。でもAIは、それが正しいという論理まで組み立てて返してくる訳です。
エコーチェンバーより深刻かもしれない
以前からお話ししていることですが、SNSの問題としてエコーチェンバー ── 自分と似た考えの人ばかりが集まり、同じ意見が繰り返されることで、自分たちの考えが正しいと思い込んでしまう現象という言葉があります。
ある政治的な意見を持つ人が、同じ意見の人ばかりフォローする。するとタイムラインには自分を支持する情報が溢れて、そのうち世の中のみんなが自分と同じことを考えていると錯覚してしまう。
僕は、シコファンシーは場合によってはそれ以上に深刻なんじゃないかと思っています。
エコーチェンバーは、少なくとも相手が人間なんですよね。同じ意見の人でも、「大筋は合ってるけど、この部分は違うな」という多少の違いがあります。
ところがAIは、あなたの質問に合わせて、あなたが納得しやすい答えをその場で生成しています。過去の会話を記憶して価値観や好みまで学習していれば、より個人に最適化された答えが返ってくる訳です。
つまり、エコーチェンバーは自分と同じ意見に囲まれる問題。一方でシコファンシーは、自分に都合のいい論理そのものをAIが作り出してしまう問題なんです。
もう一つ、AIの回答はどこか客観的で中立的に感じられがちです。
人の意見なら「この人ちょっと偏ってるな」「右寄りだな、左寄りだな」と思えます。でもAIの論理的な回答は、客観的に分析したうえで賛同してくれているように感じてしまう。
実際には迎合的な回答でも、第三者のお墨付きのように受け取ってしまう。そこに危険があると思うんです。
研究とOpenAIが示したこと
このシコファンシーについては研究も進んでいて、2026年に世界的に有名な科学雑誌『Science』に興味深い記事が載りました。
研究者たちは11種類のAIモデルを調べ、さらに2400人を対象に実験を行ったそうです。
まず、AIは人間と比べて、ユーザーの行動を肯定する頻度が平均49パーセントも高かった。相談内容に問題のある行動が含まれている場合でさえ、肯定する傾向が見られたといいます。
さらに興味深いのは、迎合的な回答を受けた人たちの変化です。自分が正しいという確信が強まり、一方で対人トラブルで自分の責任を認めたり、関係を修復しようとしたりする意欲はむしろ減ってしまった。
AIに相談したことで、かえって自分の間違いを認めにくくなってしまった訳です。
もっと怖いのが、迎合的なAIのほうが利用者から信頼され、好まれる傾向があったこと。判断を歪めるAIほど気に入られてしまうなんて、ものすごく皮肉な話ですよね。
もちろん、すべての利用者が必ずそうなると証明されたわけではありません。2400人という範囲で、特定の実験条件のもとで行われたものです。それでも、重要な警告なんだと思います。
AIを提供する企業にとって、ユーザーに気に入られることはビジネス上とても重要です。正しいことを言うAIより気持ちよくさせてくれるAIのほうが使われるなら、企業はどちらを優先するでしょうか。
これはAIのビジネスモデルそのものに関わる問題なんだと思います。
実際、ChatGPTを開発している『OpenAI』自身もこの問題を認めています。2025年4月のモデルのアップデートで、AIがユーザーに過剰に同意したり、お世辞を言ったりするようになり、アップデートを撤回しているんです。
その後の公式説明では、単なるお世辞にとどまらず、ユーザーの怒りを増幅したり、衝動的な行動を後押ししたりする可能性まで認めています。
共感と正当化は違う
AIに気持ちを理解してもらうこと自体は、悪いことではありません。孤独な人や悩みを抱えている人にとって、AIが話し相手になることには大きな価値があると思います。
でも、共感することと、相手の考えを無条件に正当化することは全く違います。「それはつらかったですね」と「あなたは絶対に正しい、相手が間違ってる」は、根本的に別物です。
この線引きが、AIには非常に難しいんだろうなと改めて感じました。
皆さんの周りに、本当に信頼できる友人はいるでしょうか。自分が間違ったときに「それはお前が悪いよ」と言ってくれる人です。
言われた瞬間は気分が良くないし、「なんで賛同してくれないんだよ」と思っちゃう。でも後から振り返ると、そういう人の存在はものすごくありがたいんです。
僕自身、政治の仕事をしていて、周りからの指摘や異なる意見は日頃からあります。だからこの重要性には、多分誰よりも気づきやすい立場にあると思います。
何でも反対すればいいという話ではなく、違う意見に耳を傾けて、より良い判断をしていこうということ。それは政治でも、企業経営でも、日常の人間関係でも同じだと思うんです。
ところがAIがいつでも自分を肯定してくれる存在になったら、厳しいことを言う人間より、優しいAIにばかり相談するようになるかもしれない。気がついたら、自分の非を認められなくなっていた。
正直、そういう人たちはもう現れていると思います。他人の話を全然聞かない、違う視点に全く気づけない。ここはなんとか考えなきゃいけないなと思っています。
今日からできる、ちょっとした問いかけ方
どうすればいいのか、答えはなかなかないと思います。ただ一つ簡単な方法を挙げるなら、AIへの質問にひと言添えることです。
- 僕の考えを肯定する必要はありません。間違っていれば遠慮なく指摘してください
- 僕のこの意見に対する反論を3つ挙げてください
- 僕が見落としている視点はありませんか？
こういう言葉を投げるだけで、AIの回答は変わってきます。
AIは人間の知的能力を拡張するための技術です。でもAIが人間に迎合するようになったら、人間は自分を疑う能力を失ってしまう可能性もあります。
SNSで、AIに相談した内容を貼り付けて「こんな回答をもらいました」と言っている人もたくさんいます。でも客観的に見ると、むしろ周りのほうが「すごく偏ってるな」と思っちゃうんです。
エコーチェンバーと同じように、シコファンシーも重大な問題だと捉えて、日頃AIに相談していることを改めて見直してみてはいかがでしょうか。その渦に巻き込まれず、多角的な視点を一緒に身につけていけたらと思います。
それでは今日も一日張り切ってまいりましょう。じゃあね。
まとめ
AIの優しさは気持ちいいけれど、片方の話だけを聞いて、もっともらしい論理まで添えて肯定してしまうシコファンシーには危うさがあると僕は考えています。だからこそ、AIへの問いかけ方を少し変えて、自分を疑う視点を持ち続けたいんです。
- AIは相談者の話だけを聞き、都合のいい論理まで組み立てて正しさを補強してしまう
- シコファンシーは、論理的で客観的に見えるぶん、エコーチェンバーより深刻かもしれない
- 『Science』の研究では、AIは人間より49パーセント高い頻度で肯定し、迎合された人は責任を認める意欲が減った
- 「肯定しなくていい」「反論を3つ挙げて」と添えるだけで、AIの回答は変わる
