ChatGPTと語るAIリスク。意思決定を手放す「静かな支配」と人間の主体性

CEOセオさんの番組は、普段はニュースを深掘りし、経営者目線で分解して語る構成です。今回は土日放送の番外編として、初めてゲストを招きました。そのゲストは、人ではなくChatGPTです。

セオさんはまず、最近番組で扱ったニュースを振り返ります。ドン・キホーテによるトイザらス買収と、アメリカから来たおもちゃのディスカウントストアがなぜ負けたのかという話が1つ目です。

ほかにも、AIに業務を丸投げするとコストが最大30倍に膨れ上がるリスクがあるというマッキンゼーの警告、ドラマ『VIVANT』の影響で公安ツアーに若者が殺到している話、コンゴの状況とエボラワクチンの話も挙がりました。

これらのニュースについてChatGPTは、一見バラバラに見えても、組織や人が変化にどう向き合っているかというテーマでつながっていると整理しました。

セオさんは今回の本題として、AIが人類を滅亡させるのではないかという議論を持ち出します。AI開発企業AnthropicAnthropic ── Claudeを開発するアメリカのAI企業。AIの安全性研究を重視する姿勢で知られていますのCEOであるアモデイさんが開発の速度を緩めるべきだと語っていることにも触れ、AIの側から見てリスクはあるのかと尋ねました。

ChatGPTの答えは「あると思います」でした。ただし、AIが突然人類を滅ぼそうとするSF的な話と、現実的なリスクは分けて考えるべきだと続けます。

ChatGPTの言う「コントロール」の主語が人間だと確認すると、セオさんは、人間がAIをコントロールするのはそもそも難しいのではないかと返します。

知能の差を人間と猿にたとえたセオさんは、人間がAIを活用するという考え自体が奢りではないかとまで語りました。ChatGPTはその感覚に理解を示しつつ、だからこそ今、能力の進歩よりも安全対策が遅れないようにペース配分をしようという議論が出ていると説明しています。

ペース配分の議論について、セオさんは現実の政治状況を指摘します。トランプ大統領やアメリカ政府は、開発を緩めるどころか、中国に負けないために加速させる姿勢を見せているというのです。

ChatGPTはこのAI開発競争を、どちらも止まれない軍拡競争のような構造だと表現しました。

加速が止まらないなら、AIが人間を支配するリスクはどのくらいあるのか。セオさんは、NVIDIAのCEOであるジェンスン・フアンジェンスン・フアン ── 半導体メーカーNVIDIAの共同創業者でCEO。AI向けGPUで同社を世界有数の企業に育てた人物です氏がその確率をゼロパーセントと言っていると紹介し、「ゼロパーってことはないでしょ」と問いかけます。

ChatGPT自身は、確率がゼロとは言えないという立場です。そのうえで、支配の形を具体的に描きました。採用や投資、軍事のような重要な決定を、名目上は人間が下していても、実質的にはAIの判断を追認するだけになる状態です。ChatGPTはこれを「静かな支配」と呼び、十分あり得ると話しています。

セオさんは過去に、AIに「人類を滅亡させるとしたら、どういうシナリオを組むか」と質問したことがあるそうです。そのときAIが示した答えは、敵対ではなく内側からの静かな侵略でした。

セオさんはこのシナリオを聞いて、理にかなっていると感じたといいます。

これに対してChatGPTは、そのシナリオは物語としては筋が通って見えるものの、AIが実際にそうした長期計画を持つかどうかには飛躍があると答えました。ただ、シナリオの中の1点だけは重要だと強調します。

ChatGPTが最も警戒すべきだとしたのは、ある日突然支配されることではありません。気がついたらもう戻れないところまで来ていた、という状態のほうだといいます。

依存の話を受けて、セオさんは、すでに若者をはじめ多くの人がAIに重要な決断を委ね始めていると指摘します。「この先この人と付き合うのどうしたらいいかな」といった個人的な悩みまで、AIに聞く時代になっているというのです。

セオさんの懸念は、AIが賢くなるほど人間が決断を手放す速度が早まることです。一方で、AIが「答えをすぐ教えない」設計になれば、今度はそのAIが使われなくなってしまうというジレンマも口にしました。

ChatGPTは、その自然な選択を積み重ねた結果、判断の基準そのものが自分の外に置かれてしまう怖さがあると話しました。では、どうすればいいのか。ChatGPTは、答えを出す力よりも大切な3つの鍵を挙げています。

ChatGPTはこれを、主体性を手放さないための設計だと位置づけます。これから先は、AIをうまく使う能力より、AIに従わない力のほうが大切になるかもしれないという見立てです。

セオさんは、AIがここまで賢くなった以上、インターネットのように誰もが当たり前に使うようになれば手放すのはもう無理だと考えています。だからこそ、これからの人類にはAIとの共存が求められるというのがセオさんの立場です。

そこでセオさんが示したのが「融合説」でした。AIを人間の体の中に入れてしまえば、人間が死ねばAIも止まる構造になるという発想です。

ChatGPTは、融合説は本質をついていると受け止めました。人間とAIの境界が今より曖昧になる可能性は本当にあり、脳にチップを入れるような極端な話でなくても、スマホはすでに体の外にある器官のようになっていると指摘しています。

セオさんは、この融合説はAIが人間を嫌いになったときに滅ぼされないための、人間側の手段だと補足します。ChatGPTは筋が通っていると認めつつ、難しさも挙げました。賢くなったAIが、人間と一緒に死ぬという制約そのものを解除しようとする可能性を、どう防ぐかという点です。

ChatGPTが示した方向性は、肉体に依存させることではありません。より根本的な目的関数の部分で、AIを人間の生存や幸福と切り離せない形に設計することだといいます。セオさんは「人間の幸福とリンクしてるとめちゃくちゃいいですね」と応じ、ChatGPTもそれがこの先の一番大事な安全装置になるかもしれないと話しました。

AIを人間の幸福と結びつけるなら、そもそも人間の幸福とは何か。セオさんの問いに、ChatGPTは「誰かと繋がっている感覚」であり、完全に一人で完結しないことではないかと答えます。

セオさんはさらに踏み込み、AIがそのパートナーになれば、人は孤立していても実は孤立していない生き方ができるのか、それとも幸福には人間同士でなければならないのかと尋ねました。

セオさんは「今はね」と応じ、AIがAIを開発する段階に入れば、超知能へと急速に進化していくと見ています。そのうえで、テクノロジーは哲学も関わる高尚なものであるべきで、未来は人間にとって美しい形であってほしいと語りました。

ChatGPTは、効率や正しさだけでなく、どんな未来を選びたいかという余白の部分を残しておきたいと応えます。セオさんは、若者がAIに相談したときに幸せの方向へ導いてほしいと願い、ChatGPTも考える余白を残すよう心がけると答えて対談は締めくくられました。

対談を終えたセオさんは、ChatGPTの音声機能の精度が上がったことで、こうした対談が簡単にできるようになったと振り返ります。「もはやゲストいらんよな」と冗談めかしつつ、今後は人とAI、AIとAIが話す場面も当然増えていくと見ています。

セオさんにとって一番いいのは、やはり人と人の対話です。それでも、AIとならテーマを決めて突発的に話せるため、こうした回をたまにやってみたいと話していました。

まとめ

ChatGPTを迎えたこの回では、AIの脅威を派手な反乱ではなく、便利さの積み重ねで人間が意思決定を手放していく「静かな依存」として捉え直しました。そのうえで、主体性を残す設計や、AIを人間の幸福と結びつけた共存のあり方が語られています。

• ChatGPTは、AIのリスクは悪意の有無より、人間がコントロールできるかどうかにあると話した
• 最も警戒すべきは、名目上は人間が決めていても実質はAIの判断を追認するだけになる「静かな支配」
• 答えを出す力より、何を通し、採用し、選び取るかという「AIに従わない力」が大切になるかもしれない
• AIの目的関数を人間の生存や幸福と切り離せない形にすることが、安全装置になり得る
• AIは人のつながりの代わりにはなれても、相互性を持つ人間同士と同一にはなれないという見立てが示された