AI時代の思考力とは？ChatGPT語と人間らしいエラー、問いを立てる力を哲学研究者と考える

3回目の冒頭では、渡邉康太郎さんが前回までの議論を振り返ります。出発点は、論理的な正しさには文化差があるという渡辺昌子さんの本の議論でした。

渡邉さんが挙げた国ごとの論理の型は、次のように整理できます。

渡邉さんによれば、日本で日常的に使われるAIはほぼアメリカ製で、英語のソースに頼っています。そのため英語的なロジックに認知的に依拠することが論理の多様性を奪い、「認知的植民地主義」が進んでいるのではないか、という論点が前回までに出ていました。

渡邉さんはもう一つ、LLMを使うにはプロンプトを書く必要があり、AIの普及が人々に言語化を強いている、と問題提起していました。言語化された形式知に価値が集まる一方で、身体感覚やまとまりきらない思考がないがしろにならないか、というリスクです。

このリスクに対し、山野弘樹さんは、職人が釘の打ち方を若い人に伝えるような身体知の継承にXRが使われ始めていると指摘していました。暗黙知もすでにカバーされ始めている、という見方です。

振り返りを受けて、荒木博行さんは「何が論点になるのか」が見えにくいと話します。荒木さんにとって、人間関係のようなファジーな領域は、AIが進んでも構造が変わらないように見えるからです。

これに対して渡邉さんは、謝罪や喧嘩のような難しい場面では、一人で考えるよりAIと対話したほうが相手の考えや恐れを読む精度が上がると答えます。コミュニケーションが苦手だった人が、AIの助けで事故りにくくなっている例は多いはずだ、という見方です。

荒木さんはその点を認めつつ、行き着く先は人間関係がシームレスで心地よい世界なのか、と問いを投げ、山野さんに意見を求めます。

山野さんは、リアルタイムの会話はAIを使えない場面の代表例だと話します。会話中に「今AIに回答を出してもらっているので待ってください」とやり出したらシュールだからです。

ただ山野さんは、メガネ型デバイスのレンズの隅に返答候補が表示され、そこから選んで話す未来はあり得るとも述べます。その場合、会話が各社AIの考え方に影響を受ける可能性はあるといいます。

一方で山野さんは、若者は「スマートグラスを使わないと会話できないのか」といじったり、使いすぎをダサいとしたりする文化を作るかもしれないとも話します。アルファ世代がティーンになったときの規範は、正直見通せないそうです。

荒木さんは、学生に3000字ほどのエッセイを書かせた経験を紹介します。AIの使用は禁止しておらず、大半の学生は当然のように使っていたといいます。

その学生の文章には誤字がはっきり残っており、「気まずい」の「ず」を「づ」と書いていました。下手だが妙に生々しく、何十人分読んだ中で一番記憶に残ったと荒木さんは振り返ります。

荒木さんは、一周回ってエラーをどう残すかがポイントになるかもしれない、と考えます。

渡邉さんは逆側の例として、SNSで毎回「ChatGPT語」で投稿している人がいると話します。「これは単なるAではなくBなのです」という対置や、重要語をダブルクォーテーションで囲む癖など、生成AIごとの「なまり」があるといいます。

山野さんも、ある組織が出したメタバースのまとめ資料で、フォントや改行がおかしいまま、明らかにAIに出させたものを見たと話します。英語教育でも「AIに翻訳させればいい時代に英語教育の価値は何か」が問われており、問題意識はあちこちにあると述べています。

渡邉さんは、AIがいろいろ出してくれる前提になると、人間が作ったものに触れたくなる、と荒木さんの話を受けます。しかしすぐに、人間のエラーを真似するのもAIのほうが上手そうだと付け加えます。

荒木さんは、誤字のあるエッセイが評価されると知れば、エラーを人為的に入れる人が出てくるかもしれないと話します。

渡邉さんはここから話を広げ、本物のヒューマンエラーの痕跡と生成された「フィクションとしてのエラー」が区別できなくなると、何が起きたかという歴史の担保すら難しくなると指摘します。一人一人が資料批判をしなければならなくなる可能性です。

渡邉さんは、痕跡によってのみ歴史とフィクションを区別できるというリクールリクール ── フランスの哲学者ポール・リクール。解釈学や物語論で知られ、歴史記述と物語の関係を論じた『時間と物語』などの著作があります的な歴史認識が、今とても難しくなったと述べます。

山野さんは、リクールの定義がそのまま出てきたことに驚きます。痕跡を通した間接的認識こそが歴史の認識だとリクールが書いており、馴染み深い定義だったそうです。

山野さんは、来年度から試験的にやりたい授業を紹介します。AIを禁止するのではなく、AIを使う前提の難易度で論述問題を出すという試みです。

山野さんが例に挙げるのは、「若者が政治に興味を持たないのはなぜで、どう対策できるか」や「サンリオやポケモンなど日本のIPはなぜ世界で受け入れられやすいのか」といった、一つの答えがすぐ出ない問いです。AIに1〜2回聞いた程度では、ありきたりで平均的な答えしか出ないといいます。

そこで山野さんは、学生にフルにAIを使わせ、ツッコミの鋭さで回答の質にどれだけ差が出るかを比較させたいと話します。

荒木さんは、その場面では読解力が本当に必要になると応じます。AIが出した文章を読み、理解し、穴を見つけなければ、良い問いは立てられないからです。

山野さんは読解力に加えて、根本的な問いを立てる力が良いプロンプトに直結すると強調します。課金できるAIの質や数が所得で変わる格差もある中で、問いの力の差は出力の差にそのまま表れるといいます。

山野さんは、プロンプトを書ける力とほぼイコールの問いを立てる力は、値段がつけられないほどの財産になると述べています。

渡邉さんは、何往復かで答えが出る問いならAIの発展ですぐ解かれてしまうと考えます。むしろ価値があるのは、使い手によって異なるものが生成される問いで、その起点は個人に根差したものではないか、というのが渡邉さんの仮説です。

山野さんは、AIは仕組み上、本質的に平均的であり、特に最初のやり取りではそこから逃れられないと話します。差異を生むのは感性や感じ方による問いで、一人一人が違う来歴と環境で生きていることこそが本質的な差異だといいます。

山野さんはさらに、AI時代は「究極の没個性化」の危険性が高い時代だと表現します。読書感想文のように、読める日本語で原稿用紙を埋めれば評価された時代は終わり、AIが3秒で出せる以上、「あなたは何者か」が問われるようになるという話も出ています。

渡邉さんはここでグレゴリー・ベイトソングレゴリー・ベイトソン ── イギリス出身の人類学者・思想家。サイバネティクスやコミュニケーション論に影響を与え、情報を「差異を生む差異」と定義したことで知られますの「差異を生み出す差異」という情報の定義を持ち出します。

渡邉さんによれば、個人が生むエラーとは、単なる感傷を超えて、世界のどこに感度が高いかという認識のフィルターのことです。自分なりのバイアスや過剰な具体性を引き出すことが求められているといいます。

渡邉さんは、問うことで自分が傷つきかねない問いや、滑らかではない痛々しい答えを抱え続けられるかが意味を持つかもしれないと話します。

ただし渡邉さんは、自分の過去のアウトプットとAIとの対話がすべてあれば、「自分が持ちそうなもっともらしい傷」すらAIが言語化してしまうというディストピアにたどり着いたとも述べます。

最終回に向けて深掘りしたい切り口を問われた山野さんは、どんな問いが良い問いなのか、平均性に対抗する個性とは何かが大きなテーマだと話します。

山野さんは、主観を出すことが重要だとしても、どんな主観でもいいわけではないと指摘します。事実誤認に基づいて誰かを低く評価するような思い込みは、エラーとして是正されたほうがよいと考えているそうです。

山野さんは最近のChatGPTが「それは違います」とはっきり言うことにも触れつつ、AI時代に適切に保存されるべき人間性や感性とは何かを次回のテーマとして挙げ、3回目は締めくくられます。

まとめ

今回は、AIの滑らかな文章があふれる中で人が人間らしさを求めてしまう感覚から出発し、問いを立てる力、そして個人の差異そのものまでAIに模倣されうるという難問に行き着きました。

• 誤字の残る生々しいエッセイが一番記憶に残ったという荒木さんの体験は、読み手が暗黙のうちに人間らしさを求めていることを示している
• ChatGPT特有の「なまり」が見抜かれる一方、人間らしいエラーもAIが捏造できるため、いたちごっこになりうる
• 山野さんは、AI前提の超難問で、読解力と問いを立てる力の差が出力の差になることを学生に体験させたいと考えている
• 渡邉さんは「プロンプトエンジニアリングより実存のエンジニアリング」と語り、個人のこだわりや傷を伴う問いに価値を見出した
• 次回は、どんな主観でもよいわけではない中で、AI時代に保存されるべき人間性や感性とは何かが論じられる