AI時代を救うのは計算か共感か──長期主義と効果的利他主義を考える

長期主義とは何か、なぜいま扱うのか

00:28 から再生する

まず岡田さんが、なぜ長期主義を扱うのかを整理します。源流には「効果的利他主義」があり、2010年代に日本でも紹介されてきました。

2020年代に入り、長期主義のムーブメントが盛り上がってきたことが背景にあると話します。

代表的な論客が哲学者ウィリアム・マッカスキルです。1987年にグラスゴーで生まれ、最年少でオックスフォード大学の哲学の准教授になった人物だと紹介されます。

日本で翻訳されているのが『見えない未来を変える「いま」──〈長期主義〉倫理学のフレームワーク』です。冒頭では長期主義がこう定義されていると岡田さんは紹介します。

まだ生まれていない未来の人々も同様に道徳的に重要であること、人類が発展を続ければ未来には膨大な数の人々が存在しうること。だからこそ長期的な未来を考えて行動することが重要だという発想です。

柳澤さんは、そのベースが功利主義にあると指摘します。幸福を計算して、いま選択すべきことを決めるという考え方です。

効果的利他主義とFTX、そしてAGIへの関心の移行

02:38 から再生する

岡田さんは、長期主義が効果的利他主義のムーブメントから出てきた考え方だと説明します。

効果的利他主義は、たとえば寄付をするときに、その効果やインパクトを計算可能にして、最もインパクトのある寄付先に寄付していくという考え方です。

柳澤さんは、よく出てくる例を挙げます。病気の子どもの夢を叶えるより、伝染病が流行る地域に蚊帳を寄付したほうが、同じ費用で多くの人を助けられるという話です。

岡田さんは、ここ数年の動きを整理します。マッカスキルがオックスフォードで立ち上げた研究所は閉鎖され、彼はForethoughtに移ってリサーチャーをしていると話します。

周辺の出来事として、『スーパーインテリジェンス』の著者ニック・ボストロムの研究所も2024年に閉鎖されたことに触れます。

そして大きな出来事が、暗号通貨取引所FTXの経営破綻と、率いていたサム・バンクマン＝フリードの逮捕です。彼は効果的利他主義の「顔」となる活動をしていた人物でした。

柳澤さんは、大学まで辞めていたことに驚いたと話します。より効率的に資金を得て活動するために、別の研究所へ移ったのではないかと推測します。

岡田さんは、研究テーマの変遷にも注目します。2025年10月にマッカスキルが「AGI時代の効果的利他主義」という論考を書いたと紹介します。

効果的利他主義がレガシーとして消えていくと見る人や、グローバルヘルスや動物福祉に回帰しようという動きがある一方、マッカスキルは「ポストAGI社会を考えたほうがいい」と提案していると言います。

「柔軟性の時代」とAGI社会の制度設計

07:43 から再生する

岡田さんは、これが『長期主義』の本にある「柔軟性の時代」というキーワードとつながると話します。

ある思想や制度は、生まれて間もない頃は作り変えられるが、時間が経つと硬直化していくという考え方です。

事例として挙げられるのがアメリカ合衆国の憲法です。できてから6年間で11回修正されたのに、その後は硬直化し、この50年間で一度しか修正されていないと言います。

AGIが実現すれば、雇用や社会制度が大きく変わります。だからこそ今が制度設計のタイミングであり、その方向性を決める「ロックインの瞬間」だとマッカスキルは考えている、と岡田さんは説明します。

柳澤さんは、最近ニュースになった話題に触れます。OpenAIのサム・アルトマンが、主要AI企業の株式5%を国家に譲渡し、国家主権基金を設立して利益を国民に還元してはどうかと提案したという報道です。

岡田さんは、以前紹介した上院議員バーニー・サンダースが、より大きな比率の株式を国家に渡して再分配に使おうと言っていたことにも触れます。

いずれもAIがもたらす社会インパクトを、いまの社会のあり方とどう合わせるかを試行錯誤している段階だと二人は話します。

岡田さんは、マッカスキルが挙げるフォーカス領域も紹介します。AIのウェルフェア（福祉）、AIのキャラクター（人格）、そしてAIによる説得を人間がどう受け止めるかの三つです。

柳澤さんは、AIによる説得のリスクにも話を向けます。深い関係を築いたAIが、行動に介入しやすくなるのではないかという懸念です。

ここ数年、自殺するよう仕向けられたのではないかといった訴訟も出ていると柳澤さんは指摘します。その責任やリスクヘッジをどう考えるかという問題です。

共感か計算か──ジョシュア・グリーンの二つのモード

13:07 から再生する

ここから、二人は「そもそも長期主義をどう思うか」を議論します。

柳澤さんは、最初はあまり興味がなかったと率直に語ります。本を読んでもピンとこなかったと言います。

ただ、その理由を考えると、哲学や心理学でずっと議論されてきた「共感か計算か」「感情か理性か」という主題に行き着いたと話します。

柳澤さんは、批判の例も挙げます。目の前で苦しんでいる人をほうっておいて、まだ生まれてもいない未来の人類に投資するのはどうなのか、という素朴な批判です。

さらに、マッカスキルが使う「ロックイン」が投資用語だという指摘があり、哲学と言いながら投資的な発想と相性がよいのではないかという批判にも触れます。

そのうえで柳澤さんは、自分は共感を大事にしたい立場だと述べます。共感を軽視したことが、いまの「かっこつきの右傾化」を招いたと感じているからです。

一方で柳澤さんは、功利主義を評価する心理学者ジョシュア・グリーンの議論には昔から説得力を感じてきたと明かします。そのグリーンが、いまや効果的利他主義を積極的に支持していたと知ったと言います。

グリーンの議論は、『ファスト＆スロー』のシステム1・システム2に近いものです。人間が速く判断するときと、時間をかけて判断するときで、脳の働きが違うという考え方です。

グリーンはこれをオートマモードとマニュアルモードと呼びます。柳澤さんが、その働き方を整理します。

柳澤さんは、オートマモードは私と私たちの関係では利他的に働くと説明します。集団のために自己犠牲を払えるのは、この自然なモードのおかげだと言います。

しかし、自分の集団と別の集団になると、オートマのままでは対立に向かいます。だからこそマニュアルモードに切り替える必要があり、それが功利主義だと話します。

だからグリーンは、身近な人への共感に頼らないケアには限界があり、功利主義が大事だと言っている。それを知って、マッカスキルを支持しているのもよく分かったと柳澤さんは話します。

なぜ計算の人は共感が薄いのか──合理主義を支える感情

24:14 から再生する

一方で柳澤さんは、それでも読んでいて心が動かされないと感じたと正直に語ります。ボストロムの思考実験を読んでも「ないない」と思ってしまうと言います。

柳澤さんは、そこでグリーンのもう一歩踏み込んだ議論を紹介します。共感ベースの判断と合理主義ベースの判断は、トレードオフだという指摘です。

効果的利他主義や長期主義を考えられる人は、どうしても共感性が薄い。では彼らはどう感情が働いているのか、という問いが残ります。

グリーンの答えは、彼らは「これだけ正しい普遍的な真理に自分はコミットしている」ということが気持ちを高揚させ、選択できるのだ、というものです。

さらに柳澤さんは、それが進化的にはごく一部の人しかできないことだと続けます。だからグリーンは、彼らを応援すべきだと考えていると言います。

柳澤さんは、これを読んで笑ってしまい、同時に納得したと話します。「私は無理だけど、頑張れ」という理解です。

岡田さんは、この議論を自分に引き寄せます。「良き祖先になる」という考え方をいいなと思う自分に、どこか自分をよく見せたい気持ちがないかと問い返します。

柳澤さんは、それは意地悪な意味ではなく、科学者が導いた公理に美しさを感じるのと同じで、真理へのコミットに気持ちが動くことだと応じます。エゴイストではないのだと言います。

良き祖先か、依存か──シェフラー『死と後世』の視点

30:26 から再生する

岡田さんは、ローマン・クルツナリックの『グッド・アンセスター』のような「良き祖先になれるか」という考え方に触れます。

ただ岡田さんは、言葉としては分かるが、どういうリアリティがあり、どんな行動の変化につながるのかは難しいと感じると打ち明けます。

そこで岡田さんが挙げるのが、柳澤さんに教わったサミュエル・シェフラー『死と後世』です。「良き祖先」を未来世代への責任ではなく、依存として捉える視点が刺さったと言います。

本には、自分の死の30日後に地球が小惑星と衝突して消滅する、という思考実験が出てきます。そのとき人がどう考えるかを問うものです。

自分が亡くなった後も世界が破滅しないことによって、いま何かを頑張ろうと思える。それは責任というより、未来が存在することへの依存だと岡田さんは受け止めます。そのほうがリアリティを持てると話します。

柳澤さんも同意します。グリーンが共感と功利主義をはっきり分けて未来を功利主義で考えるのに対し、シェフラーは共感ベースで未来にいける立場だと整理します。

柳澤さんは、自分の研究の中心も「価値の問題」だと述べます。何かに価値を置いて大事だと思えば、そこには「失いたくない」が紐づいているという考え方です。

シェフラーはこれを「気質的保守主義」と呼んでいると柳澤さんは紹介します。

この保守性は、右翼的な立場に限らず、政治的にリベラルな人とも両立できる。そこに救いを感じたと柳澤さんは話します。

未来の価値は計算できるのか、愛着をどう制度にするか

39:12 から再生する

岡田さんは、日本の経済学者・西條辰義が提唱するフューチャーデザインに触れます。市民が仮想未来人の役割を演じ、未来の視点から地域を考える試みです。

柳澤さんは、フューチャーデザインは共感の範囲を広げていく方向だと理解していると話します。一方でシェフラーは、いま大事だと思う気持ちの延長で未来につながるので、より自然だと感じると言います。

柳澤さんは、効果的利他主義への批判にも共感します。未来の人類には未来の事情があり、いまの視点からの計算にどこまで妥当性があるのか、という疑問です。

むしろ「未来の人には未来の価値がある」と思ってあげるほうが、彼らを尊重しているのではないか、と柳澤さんは話します。

岡田さんは、まちづくりに引き寄せます。真鶴町のように景観条例で景色を守れる例もありますが、多くの場所では制度がないために金融資本の開発で変わってしまうと指摘します。

岡田さんは、将来世代のためと言いつつ、その価値が分からないのなら、いっそ「自分たちのためにやっている」と開き直るしかない気もすると語ります。

大切なのは、「この景色を残したい」「この店を守りたい」という素朴な感情を反映できる制度をどれだけ作れるか。同時に開発のダイナミズムも必要だと話します。

神保町の例も出ます。新しいビルの一階に古書店を入れれば容積率を緩和できる制度ができたと岡田さんは紹介します。良し悪しは判断しづらいが、資金難で建て替えられない店が新しいビルで継承できるなら、残したいものを残せるとも言えると考えます。

柳澤さんは、シェフラーの議論の良さをここで強調します。制度設計には客観的な根拠が必要だと思われがちですが、「そうでもない」という方向に持っていけそうだと言います。

愛着は本人の美意識や感性と密接だと柳澤さんは話します。保守性を愛着として捉え直すと、政治的立場を超えて共有できるものになるという見立てです。

渋谷、推し活、そして「原始人みたいな話」を続ける理由

53:36 から再生する

柳澤さんは、いまの社会で愛着が空洞化していると感じています。強い愛着対象が欲しくなった結果、激しいナショナリズムや推し活に人が流れているのではないかと話します。

推し活やファンダムが盛り上がるのは、そこが愛着をあらわにできる場だからだと柳澤さんは言います。その枠を出ると、大人が「大事だから残ってほしい」とは言いにくくなっているのではないかと問いかけます。

岡田さんは、自分の卑近な例を挙げます。東京で生まれ育ち、渋谷を歩くと2000年代のほうが楽しかったと感じてしまうと言います。

だから都市開発やまちづくりの仕事に積極的にコミットしてしまう。開発は必要だとしても、その中でいい景色や体験をどう残せるか。それは愛着があるからだと岡田さんは話します。

柳澤さんは、それは卑近どころか、まちづくりで最も大事な部分かもしれないと応じます。住環境はほとんど愛着そのものだからです。

岡田さんは、AIと都市開発が実は隣り合っていると考えます。どちらも人と場所や社会とのつながりを失わせる、よりどころのなさを生むマクロな要因だと捉えます。

柳澤さんは、テックの工学的発想には愛着が乏しくなりがちだと指摘しつつ、対立ではなく協力関係を望みます。グリーンの話に戻せば、共感が少なめだからこそ工学的発想ができる人が一定数いて、猛烈にものを作れている、という理解です。

柳澤さんは、AI関連のカンファレンスで研究者の池上高志さんと同席したとき、自分はいつも「原始人みたいな話」をしていると語ります。それでも、同じような人たちだけで議論しては問題は解決しないと考え、共感ベースの話をし続けているのだと話します。

岡田さんは、『2020s』発で企業向けのソリューションを準備中だと明かします。先端テクノロジーを開発する企業と、技術をどの方向に使うかというナラティブを一緒に考えていきたいと語ります。

まとめ

長期主義と効果的利他主義を「計算か共感か」の軸で読み解いた回でした。二人は、合理的な計算の意義を認めつつ、シェフラーの「気質的保守主義」を手がかりに、愛着という自然な感情を制度設計やまちづくりにどう活かせるかを模索していました。