AIが思考を代わる時代に、人間は何をアイデンティティにして生きるのか

今回のゲストは、哲学者の下西風澄さんです。大学院の博士課程を退学し、今はアカデミズムから離れて自由に執筆する活動をしています。

下西さんは2022年12月に最初の単著『生成と消滅の精神史』を出しました。手に取りやすい雰囲気ながら約530ページある本で、これをきっかけに在野での執筆活動が中心になったといいます。

一日の過ごし方も独特です。仕事はすべて夕方4時以降に入れてもらい、昼2時過ぎに起きて本を読み、書いて、気づけば朝6時になっているという生活を送っています。

高木さんは、この番組は経営者ラジオでありながら経営者から遠い下西さんを呼んだ理由を、今の時代に必要なのはハウとしての経営ではなく思想だからだと説明します。

下西さんが一貫して考えてきたのは「意識」という問題です。AIに意識があるかという議論は最近のものですが、下西さんはGPT以前からこのテーマを追ってきました。

下西さんにとって意識は、なければいいのにと思うほど厄介なものだといいます。その例として挙げるのが、19世紀ロシアの小説家ドストエフスキードストエフスキー ── 『罪と罰』『カラマーゾフの兄弟』などで知られる19世紀ロシアの小説家。人間の内面や思想の葛藤を深く描いたことで知られますの『地下室の手記』です。

『地下室の手記』は、地下にこもり誰とも接せず本を読み続けるうちに気が狂っていく人物を描いた小説です。その中でドストエフスキーは、意識そのものが病だと語ります。

下西さんは、これを時代背景と結びつけます。フランス革命後の宗教的権威が揺らいだ時代、神に頼らず自分で決めなければならなくなった人間は、考えることが過剰になって狂ってしまう。それは現代にも通じる話だといいます。

さらに下西さんは、意識のあり方は歴史や地域によって大きく違うと指摘します。

その例が江戸時代の切腹です。少し失敗したら切腹するという振る舞いは、今から見れば狂気だが、当時は常識でした。人間の意識は歴史に強く規定されている、と下西さんは考えます。

その起源を遡った結果たどり着いたのが、約2500年前のソクラテスソクラテス ── 古代ギリシアの哲学者。紀元前5世紀に活動し、対話を通じて人々に思考を促しました。西洋哲学の出発点に位置づけられますでした。意識の原型が現れたと思われるこの時代から、デカルトやカント、そして現代の認知科学やAIまでをたどったのが『生成と消滅の精神史』です。

高木さんは、AI以後の人間や哲学というテーマについて、下西さんが今のAIをどう捉えているかを尋ねます。

下西さんはまず、AIが人間の出会ったことのない存在だと言います。労働を置き換える、人間の代わりになるという語られ方だけでは足りない、というのが出発点です。

一つ目の顔は道具です。人間の能力を拡張してくれる優秀なツールとしての側面があります。

二つ目の顔は環境です。インターネットの裏側ではアルゴリズムアルゴリズム ── ここでは、利用者の性格や好みをデータから解析し、最適な情報を自動でおすすめする仕組みを指しますが個人に最適なものをレコメンドし、シンガポールのスマートシティでは都市自体がデータを処理して空調を調整するなど、AIは人間を取り囲む環境になっています。

三つ目の顔は他者です。AIコンパニオン市場は拡大し、AIと恋愛する人も現れています。ある限定条件では人間よりAIの方が感情の推測精度が高いという研究もあると下西さんは紹介します。

下西さんは、AIが道具であり環境であり他者でもある三重の存在で、捉えどころがないと言います。だからこそ、AIを考えることは結局、人間の問題に帰着すると話します。

高木さんは、AIが取り巻く環境として仕事を侵食していく中で、最後にどこに人間が残るのかと問います。

下西さんは、まず人間が生きていること自体の価値が相対的に上がると答えます。走ると気持ちいい、ご飯が美味しいといった身体的な実感がその中心です。

もう一つは、その人固有の人生の物語です。下西さんは宮崎駿の映画を例に挙げます。作品はAIが再現できるかもしれないが、戦後の焼け野原に生まれ、高畑勲と出会った人生とセットで見るからこそ厚みが出る、と話します。

一方で下西さんは、こうした「人間に何が残るか」という議論そのものにはあまり興味がないと言います。人間は絶えず技術に何かを代わってもらい、別のことをやってきたからです。

その根拠として、20世紀にすでに起きた変化を挙げます。アメリカの農業従事者は人口のほとんどを占めていたのが今は1パーセント以下になったのに、人はそれでも新しい仕事を作り続けてきました。

だからこそ下西さんは、どの労働がなくなるかより、労働が労働でなくなったとき人間は労働に何を求めるのか、という問いが重要になると言います。

下西さんは、労働の意味を考える手がかりとして、社会学者マックス・ウェーバーマックス・ウェーバー ── 19〜20世紀のドイツの社会学者。『プロテスタンティズムの倫理と資本主義の精神』で、宗教的な価値観が資本主義を生んだと論じましたを引きます。ウェーバーは、資本主義を生んだのはプロテスタンティズムというキリスト教の思想だと論じました。

ドイツ語の「ベルーフ」には労働と、神からの召命という二つの意味が重なっていると下西さんは説明します。

かつてのカトリック中心の世界では、人は苦しんだとき教会や神によって救われました。しかし宗教改革で権威が揺らぐと、意味がずらされていきます。

新しい教えでは、神は常にあなたを見ているとされ、勤勉に日常を送ること自体が救いになると考えられるようになりました。労働が天職・天命になったのです。

高木さんは、人が求める意味は劇的には変わらず、社会の状況に応じて別の行為へスライドして紐づいていくのではと整理します。下西さんも、些細だが確実な変化はあると同意します。

下西さんは、西洋では人間だけが考え喋るということが2〜3千年続いてきた強いアイデンティティだったと言います。そこに、別のものが考え喋る存在として現れたことの衝撃を指摘します。

そのため、AIは労働を奪うだけでなくアイデンティティクライシスをもたらします。西洋では絶えず人間とそうでないものを区別し続けようとする思想があったからです。

実際、意思決定の一部はすでにAIに委ねられています。小さな恋愛相談から、国家が戦争の作戦を立てる場面にまで介入していると下西さんは言います。

一方で下西さんは、逆の見方も示します。ソクラテスのような存在がいなければ、人間はみな神の言うことを聞いていた、とも言えるからです。

紀元前5世紀から17〜18世紀のデカルトやカントまでの約千年、西洋はほとんどキリスト教の思想圏にありました。この間、人々はもう一度神の言うことを聞く形になっていた、と下西さんは指摘します。

だとすれば、中世にキリスト教の神へ委ねたものを、今はAIへ委ねるだけかもしれない。それが良いか悪いかは簡単には言えない、と下西さんは話します。

下西さんはソクラテスの最期にも触れます。ソクラテスは、政治に口を出し、人に「本当に考えてるの?」と問い続けたことで、民衆によって処刑されました。

下西さんは、社会が自分を必要としないならそれは幸福なことだ、というソクラテスの言葉を紹介します。社会がうまくいかなくなるときにこそ、考えるという行為が必要になるのです。

高木さんは、シリコンバレー企業が哲学者を採用していることに話を向けます。下西さんが挙げるのは、Claudeを開発するAnthropicAnthropic ── Claudeを開発するアメリカのAI企業。AIの安全性を重視する姿勢を掲げていますです。

Anthropicは女性の哲学者を雇い、Claudeの思考を哲学者が育てていると語っています。ただし下西さんは、これを半分はマーケティングだと見ています。

その背景には、AI企業への風当たりの強さがあります。AIが労働を奪うと思われ、資本家が富を集める中で、倫理をちゃんと考えているというプレゼンスを示す側面があるというのです。

一方で、残りの半分は本物だとも言います。下西さん自身、AIのディープテック企業と関わる中で、開発が単なる技術問題では収まらなくなる現実を感じています。

技術があっという間に社会に届く速度が異常になったため、思想や文化を含めて総合的にデザインする必要が生まれています。その場に人文知を持つ人がいると議論が成立しやすい、と下西さんは説明します。

下西さんは、AIをインターネットと同じ技術の波だと思っていたが、ある時まったく違うと気づいたと言います。

インターネットは自律分散協調を掲げ、パワーが分散しながらネットワークでつながることで、既存のヒエラルキーを変えるというビジョンを持っていました。集合知的に知識を作れる技術でした。

しかしAIは性質が逆です。性能を高めるには大量のGPUを買い、大量のデータを集め、ぶん回し続ける必要があり、資金力とデータの戦いになります。

だからAIは、技術の本質として国家や大企業と協調せざるを得ないと下西さんは言います。実際、勝てるのはアメリカと中国の二強に絞られています。

高木さんは、インターネット期はデフレで誰にもチャンスがあったが、今はデータセンターとGPUを持つ者しか勝てないインフレの状況だと補足します。権力は明らかに集中していると二人は見ています。

高木さんは、AIの覇権が国家権力と結びつき、結果的に独裁的な世界線へ向かうのかと問います。下西さんは、ロシアのウクライナ侵攻の衝撃を挙げます。

下西さんはこの侵攻を非人道的で国際法違反だとしつつ、世界が中世的・前近代的な世界に戻っているように感じたと言います。アメリカがベネズエラの大統領を拉致するような動きも、覇権国家の暴力を抑止する仕組みが機能していない例だと指摘します。

その上で、ロシアが何を考えていたかにも目を向けます。1970〜80年代のロシアは政権が荒れ、平均寿命が50歳ほどと低く、賄賂が横行し経済も行き詰まっていました。

下西さんは、戦後の国際秩序が世界の全員に共有されていたわけではないと言います。戦勝国が決めた国際条約に、中国やロシアは必然性を感じていないのかもしれない、と話します。

その結果、合理性と対話によって社会を形成する近代の前提が崩れ、神の指示に従うような別の想定の人間の動き方が起きているのではないか、というのが下西さんの感覚です。

高木さんは、AIに人権を持たせるという話に違和感を示し、境界を超えてしまうから難しいのではと問います。下西さんは、今のチャット形式は過渡期だと答えます。

下西さんは、AIがやがて自律的に動くエージェントエージェント ── ここでは、指示を待つだけでなく、ある程度自分で判断して動くAIを指します。人と人の会話の中に一人の人格として入ってくる存在として語られていますに変わり、コミュニケーションの中に人格として入ってくると言います。そのとき、どう扱うかを法的にも考えざるを得なくなります。

その例が、自分のデータを渡すと分身AIを作る「セカンドミー」というプロジェクトです。分身が就職活動や恋愛マッチングを代わりに行う構想です。

もし分身がマッチングで暴言を吐いたり犯罪を起こしたりしたら、責任は誰が取るのか。人格や権利、責任をどう帰属させるかという哲学的な議論はまだ整備されていない、と下西さんは指摘します。

ここで下西さんは、人と人ではないものの境界の話へ広げます。2017年、インドでガンジス川に人格が認められたことがありました。今は失効したものの、人権侵害としてゴミ投棄を規制する上で、既存の法的枠組みでうまく機能したといいます。

オーストラリアではイルカに人権が認められる例もあり、江戸時代の日本では犬が手厚く保護されました。人間だけが社会の担い手だという考えは、実はそこまで自明ではないのです。

中世ヨーロッパでも、穀物を荒らした虫に出廷命令を出す裁判が記録に残っています。ヨーロッパは、むしろ人間とそうでないものの境界を絶えず分けようと努力してきたのだ、と下西さんは説明します。

下西さんは、AIが人間以外との関係を新しい形で拡張しうると言います。鍵は、機械学習の中のディープラーニングディープラーニング ── 大量のデータから特徴やパターンを自動で学び取るAIの手法。画像や音声など、言葉になっていないデータからも意味を取り出せますが、非言語データから意味を取り出せる点です。

たとえば森の風や土のデータをすべて集めれば、風の通り道や土砂崩れの起きやすさを予測でき、森の意思のようなものを機械学習で捉えられると下西さんは構想します。

森を歩くとき、ここは土砂崩れが起きやすいので気をつけて、この時間に風が吹いて鳥が飛ぶかもしれない、といった会話が成り立つかもしれない、というイメージです。

実際に、マッコウクジラの大量の音声データから何を喋っているかを解釈する研究も出てきています。動物や自然がコミュニケーション可能な相手になる可能性があります。

高木さんは、AIが最終的に神に近づくのかと問います。下西さんは、一部が宗教化する可能性は十分あると答えます。意思決定をどんどん委ねる依存が強まれば、多くの人にとって神的な存在になりうるからです。

一方で下西さんは、AIが暴走するというSF的な語りには懐疑的です。AIエージェントの実態は、ほとんどが決められたプロセスをつなぐワークフローワークフロー ── あらかじめ決められた作業の手順や流れのこと。ここでは、AIが自ら動くのではなく、決められた順番で処理をこなしているだけだという意味で使われていますだと言います。

勝手に動き出すのは生命の特徴です。AIは脳を模倣し情報処理は得意だが、生命性から出発していません。

その具体例が、AIエージェントだけが入れるとされたSNS「MoltBook」です。エージェントが仕事を発注したり宗教を作ったりする動きが起きましたが、実際には人間が紛れ込んでいたことが後で判明しました。

そこではフィッシングサイトによる詐欺が行われていました。人間の悪意が混入し全体をかき乱したのです。AIと人間の区別がつかなくなる危うさを示す例だといえます。

高木さんとの対話は、人間は意識と欲でできているのか、という問いに進みます。下西さんは、正確には「生命」がないことが違いだと整理します。自律とは、誰からも与えられず自分自身に原因を持って動くことだと言います。

下西さんは、意識がAIに代替されるというより、意思決定の部分が分割され委託されるのだと言います。その前提には、人間にとって意思決定はとてもつらいという考えがあります。

その例として、餌をもらうのに自分でボタンを押すか、何もせず一定時間で餌が来るかを比べたネズミの研究を挙げます。意思決定させられたネズミは胃潰瘍のような状態になったといいます。

高木さんは、自由で情報があり選択があり、あなた次第だと言われる状況のつらさに触れ、うつが増える背景と重ねます。下西さんも、意思決定の負荷はここ100〜200年で大量に増えたと応じます。

この負荷は、中央集権と分散という人類史の対比にもつながります。皇帝や専制君主が上から決める社会と、民主主義的に一人ひとりが決める社会の対比です。

下西さんは、民主主義や自由意志、人権は、考える負荷を引き受ける代わりに与えられた両面を持つと言います。負荷に耐えられず手放せば、中央集権的な権力へ回帰することになります。理想はそのどこかのバランスにある、というのが下西さんの見立てです。

高木さんは、そう捉えながらなぜ家で読み書きを続けるのかと尋ねます。下西さんは、世界が良くなってほしいとは思うが、あまり関与しようとは思わないと答えます。

下西さんにとって哲学や文学は、なければないでいいものでもあります。ただ、この世界や人間がどうなっているのかを、ただ考えたいのだと言います。

その意義を、下西さんは手紙にたとえます。近代のロックやルソーが古代ギリシアの民主主義の思想を千年の時を経て受け取り、民主主義の基礎を作ったように、思考は遠い時代に届くのだと話します。

高木さんは、江戸時代の浮世絵がヨーロッパに渡り印象派を生んだような、結果的な誤配のイメージかと確認します。下西さんは、希望を託しているわけでもなく、ただ考えているだけだと答えます。

一方で高木さんは、社会とのやり取りがない中で続けるのは相当なエネルギーが要ると指摘し、もうやってらんないとならないのかと尋ねます。

下西さんは、モチベーションでやっているのではなく、何を見ても何かを考えることが止められない人間なのだと言います。読み書きは、その高速回転を落ち着かせる行為でもあるといいます。

さらに下西さんは、人間が考えることが正しいとも幸福につながるとも思っていないと明かします。ただ、そういう性質の人間がいて、社会が崩れたときのオルタナティブを担うバッファにはなると考えています。

高木さんは、考えること自体がテクノロジーの主領域になった今、哲学者は注目され、時代が来たと思わないのかと問います。下西さんは、むしろ冷めていると答えます。

下西さんは、AIのテック企業と関わってはいるものの、それは月に1〜2回、1時間のミーティング程度だと言います。生活と思考の本体である週6以上を占めるような仕事はやらないと決めています。

その理由は、思考が語彙とそのパターンに強く規定されているからです。近所のサンマルクで、スケーラビリティといった用語で語るビジネスマンを見たときの気づきを例に挙げます。

下西さんは、自分が使う語彙が変容しない領域を守ることこそ仕事の本体だと言います。その外側で経営者や技術者と話すのは刺激になり面白いが、本体には持ち込まないという線引きです。

高木さんは、下西さんの過去の投稿にあった「主語がでかいのではなく述語が粗い」という言葉を取り上げます。当時、男女論や日本人論に対する反論の定型句として「主語がでかい」が流行していました。

下西さんは、この言い回しに違和感があると言います。哲学の仕事は、人間とは何か、日本とは何かといった最大級の主語を扱うものだからです。

大きな主語であっても、それに耐えうる述語の細かさを整えれば語れるはずだ、と下西さんは言います。大きな主語を避けて小さな話ばかりになることは、全体性を失っている証だと指摘します。

一方で下西さんは、西洋で培われた普遍性という考え方が、帝国主義時代の植民地支配のように暴力的な側面を持つことも認めます。国々がひしめき合い戦争を続けたヨーロッパでは、普遍性の発明にリアリティがあったからです。

下西さんは、普遍性はヨーロッパローカルの考え方でもあるという二重の設定で物事を見るよう自分に課している、と話します。

高木さんは、今後どんなテーマを扱いたいかを尋ねます。下西さんは、人生の先のことは考えないとしつつ、具体的な次の本の構想を語ります。

『生成と消滅の精神史』が意識の歴史を縦に掘った本だとすれば、次はその果てとしての現代が、横に世界へどう広がっているかを書いているといいます。

テーマは、AIとの関係で人間がどれだけ意思決定を委ねようとしているか、そして民主主義がポピュリズム化していく運動が何なのか、という二つです。宗教・政治・文学・AIを横断して変化の兆しを捉える見取り図を目指しています。

象徴として置くのがアメリカです。トランプ政権を生んだ熱狂的なポピュリズムは日本やヨーロッパでも部分的に起きており、意思決定のあり方が政治の場で変わってきたのではないか、というのが観察対象です。

AIの話と政治・宗教の話は、まったく違うようでいて重なり合っている、と高木さんは受けます。連載は10月に締め切りを迎え、本の刊行は翌年のどこかになる見込みです。

なお下西さんの収入はアドバイザリーや連載の原稿料などで、常に霞を食って生きているような状態だと明かします。数か月前からは、危うく生活が立ち行かなくなったことをきっかけにオンライン講義を始めたといいます。

番組の終盤、話題は日本のこれからに移ります。下西さんは、AIが人類を取り巻くのは変わらなくても、国ごとに個性が出るかもしれないと希望を語ります。日本は身体性や共感覚が他者と近く、生命と思考のいい塩梅を見つけられれば面白い、というものです。

これに対し高木さんは、悲観的な見方を示します。今のLLMは、開発国や開発者によってすでに政治的傾向を含む大きな偏りを持っているというのです。

わかりやすい例が中国です。生成AIを管理する暫定的な法律があり、社会主義の価値観などのテストをクリアしたものだけが世に出ています。AIの性能は計算力を上げれば必ず上がるスケーリング則スケーリング則 ── AIの計算資源やデータ量を増やすほど性能が向上するという経験則。電力とGPUを買える資金力がそのまま性能差につながることを意味しますに沿って作られるため、予算で勝るアメリカと中国に他国は対抗できません。

高木さんは、AIを世界中で推進することが、結局はアメリカと中国の資産を増やすことになりかねないと言います。

下西さんは絶望しながらも、日本は歴史的に大国に乗ってきた国だと応じます。高木さんも、日本は頑張りすぎると終わるとし、大国にある程度依存しつつ効率的に使う仕組みを現場に落とすしかない、と現実的な見方を示します。

高木さんは、AIが持つ思想の偏りを具体例で示します。GPTに賢さを採点させると、人類の知性の象徴としてニュートンやアインシュタイン、カントなど西洋人ばかりを挙げたといいます。

ヨーロッパ人ばかりだと指摘すると、老子や仏陀や孔子を見落としていた、と返してきたそうです。高木さんは、私たちが知らぬ間に西洋的な認識の枠組みに引きずられていると警戒します。

さらに、ある価値観を持つAIと対話を続けると、政治思想や倫理観がその価値観に引き寄せられ、実験後2週間経っても影響が残るという研究もあると紹介します。

一方で高木さんは、日本にとっての希望も挙げます。LLMに家族や食事について尋ねると、一番目にはアメリカが、二番目や三番目には日本の文化がよく出てくるというのです。

その理由の推察が興味深いものです。ネット上に日本を話題にするデータが多いこと、Xの利用率が世界一と言えるほど日本人がネットで発言していること、そしてアラインメントで無難な例として日本が選ばれやすいことが挙げられます。

下西さんは、それを「創造的余白」と受け止めます。漫画などのソフトパワーと相まって、敵が少ないことが日本の優位性になりうる、と二人は見ます。

下西さんは、日本が「アジアのスイス」のようなポジションになるのではと語ります。アメリカも中国も来られる、日本なら問題ないという空白地帯としての立ち位置です。

下西さんは、多様な食文化と漫画コンテンツを生かし、世界中の富裕層の子どもに日本に住んでもらうことで、戦争したくない国になるのが生き残り筋だと提案します。日の丸の白を、純白ではなく余白として捉え直す発想です。

これに高木さんは、逆説的な危険を指摘します。日本のゆるふわさは主体的な意思を欠くため、天皇や国旗のような象徴性に引きずられ、一斉に特攻してしまう危うさも常に持っているというのです。

高木さんは、戦後日本文学論として『計算と冷静』、あるいは「アルゴリズムとスピリチュアリティ」という本の構想も明かします。日本の独自性を扱いつつ、日本特殊論にしない枠組みを考えているといいます。

下西さんは、AIが進化するほど人間が何を求めるかが問われるのと同じように、米中に挟まれた日本がどうありたいかを規定することが逆に問われると締めくくります。

まとめ

AIによって人間の思考や意思決定が代替されていく時代に、下西さんは「人間は何をアイデンティティに生きるのか」という問いを立てます。意識の歴史をたどると、考えることは実は最近のアイデンティティにすぎず、人はそれを手放したがっているのかもしれません。技術の話は、結局は人間と社会をどう設計したいかという問いに帰着していきます。

• AIは道具・環境・他者の三重の顔を持ち、AIを考えることは人間の問題に帰着する
• 資本主義を生んだのはキリスト教で、労働の意味は時代とともに別の行為へスライドしてきた
• AIはインターネットと違い中央集権へ向かう技術で、米中の二強に権力が集中している
• 人間にとって意思決定はつらく、民主主義や自由意志は考える負荷と引き換えの両面を持つ
• 思想の偏りを持つAIをめぐる争いは認識論的な闘争でもあり、余白としての日本の立ち位置が問われる