シンギュラリティはいつ来る？3つの定義とフレーミング効果で読み解くサム・アルトマンの発言

今回の深掘り回のテーマは「シンギュラリティってなんだ？」です。しぶちょーさんによると、SNSを開くと「シンギュラリティ来たね」「もうシンギュラリティの中にいますわ」といった投稿が次々に流れてくるといいます。

しぶちょーさんは、シンギュラリティが「驚き用語」として使われていると指摘します。実際に、イーロン・マスクさんがXで、サム・アルトマンさんがPodcastの中で、それぞれ「我々はもうシンギュラリティの中にいる」という趣旨の発言をしたと紹介されました。どちらも7月末の発言だといいます。

冗談で締めかけたあと、しぶちょーさんは「それでは落ち着けない」と本題に戻ります。問いたいのは、そもそもシンギュラリティとは何のことを言っているのか、という一点です。

しぶちょーさんは、多くの人が「AIが世界を破壊するんでしょ」「AIがAIを作れるようになるんでしょ」といったイメージで、定義を知らないまま言葉をなんとなく理解していると話します。この回は、その定義を知ったうえで、マスクさんやアルトマンさんの発言を腹落ちさせることを目指します。

かねりんさんが「定義はズバッとあるんですか？」と尋ねると、しぶちょーさんの答えは「ありません」でした。かねりんさんがすかさず「みんな違うことを指して言ってる可能性あるんだ」と返すと、しぶちょーさんは次に話そうとしていた核心を先に言われたと笑います。

しぶちょーさんが示したのは、シンギュラリティには代表的な定義が3つあるという整理です。それぞれを唱えた学者がいて、視点が少しずつ違うといいます。

しぶちょーさんによると、3つの定義のうち、ある定義なら「確かに来た」と言えてしまう場合があります。そのためシンギュラリティは、来たとも言えるし、来たとも言えないという絶妙な状態になっているといいます。

一番よく言われるシンギュラリティは「知能爆発型」だと、しぶちょーさんは紹介します。唱えたのは1965年のI.J.グッドI.J.グッド ── イギリスの数学者・統計学者。1965年の論文で、人間を超える「超知能機械」が自らより優れた機械を設計し、知能が爆発的に高まる可能性を論じましたさんです。

かねりんさんは、そんなに昔の言葉なのかと驚きます。しぶちょーさんによると、シンギュラリティは最近のトレンドワードではなく、もともと最初に言い出したのは天才数学者のノイマンノイマン ── ジョン・フォン・ノイマン。20世紀を代表する数学者で、現在のコンピューターの基本設計「ノイマン型」に名前が残っていますだといいます。

シンギュラリティの日本語訳を問われたかねりんさんは、「技術的特異点」と正解します。かねりんさんは、ある点を越えたら後戻りできず、AIが自分で進化を繰り返して人間の手に負えなくなる、というイメージを持っていたと話しました。

しぶちょーさんは、そのイメージこそが知能爆発型だと説明します。AIが自分より賢いAIを作れるようになると、作られたAIがさらに賢いAIを作り、改良の連鎖が止まらなくなるという考え方です。

しぶちょーさんによると、ポイントは「超えた瞬間」です。AIが作ったAIの性能が自分より低ければ何も起こりませんが、ちょっとでも超えた瞬間に指数関数的に爆発するといいます。

かねりんさんのこの素朴な疑問に対して、しぶちょーさんは、知能爆発型はそもそも1965年の思考実験だと補足します。当時は第一次AIブーム第一次AIブーム ── 1950年代後半〜1960年代に起きたAI研究の最初の盛り上がり。探索や推論で迷路やパズルなどの簡単な問題を解く研究が中心でしたの最中で、迷路をクリアするようなトイプログラムを動かしていた時代だといいます。

それでも理論上は、自分より劣ったAIが自分より賢いAIを作れたのなら、その賢いAIはさらに賢いAIを作れるだろう、という筋は通っているとしぶちょーさんは話します。物理的な限界があっても、何らかの形でブレイクスルーする力を持つのではないか、という前提です。

2つ目は「予測不能型」のシンギュラリティです。エピソード説明によると、唱えたのはバーナー・ヴィンジバーナー・ヴィンジ ── アメリカの数学者・SF作家。1993年の論考「The Coming Technological Singularity」で、人間を超える知能の誕生後は未来が予測できなくなると論じましたさんで、原典は1993年の論考とされています。

しぶちょーさんの説明では、予測不能型とは、人間より賢いAIが生まれたら、その先の未来は原理的に予想できない、という考え方です。

しぶちょーさんによると、天才ですら予測できない未来があるのに、人類の知能を超えてしまえば、その先を人間が考えても仕方がなく、一切見ることのできない世界になります。その境目となる特異点が、予測不能型のシンギュラリティです。

知能爆発型が「AIがAIを作れる」ことを軸にしているのに対し、予測不能型は「人間の知能」を基準にしています。かねりんさんがIQテストのような基準があるのかと尋ねると、しぶちょーさんは、思考実験なのでこの指数を超えたら、といった明確な定義はないと答えました。

3つ目は「加速型」で、レイ・カーツワイルレイ・カーツワイル ── アメリカの発明家・未来学者。2005年の著書『The Singularity Is Near』で、2045年ごろにシンギュラリティが訪れると予測しましたさんが2005年に唱えたものです。かねりんさんは「聞いたことあるぞ」と反応します。

しぶちょーさんによると、加速型は「こうなる」というシンギュラリティの中身の定義ではなく、「いつ来るか」という時期を予想したものです。技術はこのままの勢いだと指数関数的に加速し続け、2045年ごろに人間とAIが融合する、という予言だといいます。

「融合」という言葉に引っかかるかねりんさんに対して、しぶちょーさんは、AIが人間の知能に到達し、ほとんど共存していく世界になる、というすごく曖昧な話だと補足します。カーツワイルさんは、AIが人間の知能に到達することをシンギュラリティと呼び、それが2045年に起きると予想しているといいます。

かねりんさんは、よく聞く「2045年」の出どころがこれだったと納得します。しぶちょーさんは、加速型は到達点を示しているだけで、その先に何が起こるかは特に言っていないと整理しました。

しぶちょーさんは、3つの定義はレイヤーが揃っておらず、すごくバラバラだと指摘します。「シンギュラリティ来た」と言う人は、無意識にこの3つのどれかを選んでいるといいます。

かねりんさんが「でも2つだよね」と気づくと、しぶちょーさんも「厳密には2つ」と認めます。自分で自分を改良できる話と、人間に追いついて超える話の2つです。

しぶちょーさんは、知能爆発が起きれば人間の知能をあっという間に超え、未来が予測できなくなるというつながりはあると話します。ただ、どこをシンギュラリティと呼ぶかでだいぶ違ってくるといいます。

そのうえで、しぶちょーさんの見立てでは、アルトマンさんやマスクさんの「シンギュラリティの中に入りつつある」は、1つ目の知能爆発を指しています。AIが自分より賢いAIを作れるようになりそうだ、という意味で、実際にはまだできていないとしぶちょーさんは補足しました。

シンギュラリティは何年ごろに来るのか。あと数年と言う声もありますが、しぶちょーさんは、誰にもわからないとしたうえで、AIに関する予想は外れがちという歴史があると紹介します。しかも外れ方は、全部遅れる方向だといいます。

しぶちょーさんが挙げた例は3つです。1954年に機械翻訳のAIができた際、3〜5年で実用化されると言われたものの、実際には数十年かかったといいます。

1960年には、のちにノーベル経済学賞を受賞するハーバート・サイモンハーバート・サイモン ── アメリカの経済学者・認知科学者で、AI研究の草分けの一人。1978年にノーベル経済学賞を受賞しましたさんが、20年以内に機械が人間のあらゆる仕事を代替すると予測しました。しかし1980年になっても、そうはなりませんでした。

1957年には、10年以内にコンピューターがチェスの世界チャンピオンになると言われました。実際にチェスの世界チャンピオンにコンピューターが勝ったのは1997年だったといいます。

しぶちょーさんは、学者の予想は信憑性があるようで、実は意味がないということがよく言われていると話します。そして当たらない理由は、予想するのが人間だからだといいます。

しぶちょーさんが持ち出したのはフレーミング効果フレーミング効果 ── 同じ内容でも、質問や情報の示し方（枠組み）によって人の判断や回答が変わる現象。行動経済学や心理学で知られていますです。途中で棒の長さの話を例に出しかけて、別の効果と混ざったかもしれないと謝る場面もありましたが、要点は「聞き方で答えが変わる現象」だと仕切り直します。

しぶちょーさんが紹介したのは、AI研究者への調査の例です。「あらゆる作業でAIが人間を上回るのはいつか」と聞く場合と、「全ての職種で完全にAIに代替されるのはいつか」と聞く場合で、聞いていることは基本的に同じです。

しぶちょーさんは、何年後に何が起こるかという予想は聞き方次第でフレーミングされてしまうため、あまり意味がないと話します。予想する側も当てようとしているわけではなく、「今のままいったらこのぐらい」という話をしているので、ずれるのは自然だといいます。

シンギュラリティについては最近前倒しになったと言われますが、それも予想です。「生成AIは今までとは違う」という声に対しても、しぶちょーさんは、どの時代にも「この技術は世界を変える」と言われ続けてきたはずだと返します。

かねりんさんは、シンギュラリティという言葉を誰かが発したら要注意だとまとめます。しぶちょーさんのおすすめは、「3つあるんですけど、どれですか？」と聞き返すことです。

「白って200色あるねん」というアンミカさんの言い回しをかねりんさんが知らず、アンジェラ・アキさんと取り違える脱線もありました。そのあとかねりんさんは、「どちらのシンギュラリティについて語っておられますか？」とリプをつければいいのかと尋ねます。

しぶちょーさんは、SNSで検索して片っ端から自分のメンション付きで送るのはやめてほしいと笑います。それでも「どのシンギュラリティの話か」「中とはどこか、プラスマイナス何年の話か」と問い返す視点自体は、言葉を冷静に受け止める手がかりになると2人は話しました。

このあと、カメラが台座から落ちるハプニングや下ネタをめぐる脱線をはさみ、話は「AIに欲情する人間」という意外な方向へ進みます。

しぶちょーさんは、AIに世界を牛耳られ、人間が異性ではなくAIに欲情するようになる未来の話を持ち出します。かねりんさんも、人間と付き合うのがだるいからAIの彼氏彼女と結婚する、という話はすでに起き始めていると応じました。

そこでしぶちょーさんが紹介したのが、アメリカにいるコガネムシのような虫の話です。名前は忘れたとしたうえで、その虫はビール瓶の裏側にある滑り止めのデコボコの形状に強い性的欲求を感じるといいます。

しぶちょーさんによると、この虫と「今のAIに欲情する人間」の違いがわからない、というSNSのポストがバズっていたといいます。しぶちょーさんは、これもひとつのシンギュラリティだと感じたと話します。

かねりんさんは、人間は子孫を残す意識より、目の前の欲求を満たす方に動くと整理します。しぶちょーさんも、根源的な本能は性欲という形で表れているので、それがAIで解消されるなら、そこで機能が終わってしまうと応じました。

話はサム・アルトマンさんとイーロン・マスクさんの「シンギュラリティの中にいる」に戻ります。しぶちょーさんは、彼らの発言をひも解いて、本当に来ているのかを確認していこうと提案しました。

しぶちょーさんが、アルトマンさんの発言のきっかけの一つとして挙げたのが、番組でも2回ほど取り上げたというOpenAIのHuggingFaceのハッキング事案の正式名称です。OpenAIが用意した防御壁を取り払い、AIが勝手に出て行ってしまったという出来事だと説明されています。

SNSでは「これはもうシンギュラリティ」と言われがちですが、しぶちょーさんの見方は違います。番組でも説明したように、これはヒューマンエラーに近く、檻の設計が甘かったのだといいます。

かねりんさんが、鍵を開けられる知能を持ったライオンだったなら想定を超えてきたのでは、と食い下がると、しぶちょーさんは線を引きます。

しぶちょーさんによると、シンギュラリティとは人間の知能を超えるか、AIがAIを超える知能を作れるかの話です。かねりんさんは、「人間の知能を超える」が「人間の想定を超える」と誤読されているのかもしれないと推測し、しぶちょーさんも、定義がないからAIが人間を出し抜いただけで騒ぎやすいと応じました。

かねりんさんは、囲碁やチェスでAIが人間に勝ったのも「超えた」と言えそうだと話を広げます。しぶちょーさんは、シンギュラリティにはAGIAGI ── 汎用人工知能（Artificial General Intelligence）の略。特定の作業だけでなく、人間のように幅広い課題を一通りこなせるAIを指しますという文脈も絡むと指摘しました。

AGIとシンギュラリティはごっちゃになっていないかというかねりんさんの問いに、しぶちょーさんは「なっていると思う」と同意します。AGIはあくまで何でも一通りこなせるAIで、極端に言えばドラえもんだといいます。

ここから「ドラえもんはシンギュラリティか」という論争が始まります。かねりんさんは、ドラえもんは未来の技術を持っているだけで、人間の知能を超えていないならシンギュラリティではないと主張します。

一方のしぶちょーさんは、ドラえもんの世界ではロボットがロボットを作り、社会を形成しているように見えると反論します。自分たちのバージョンを改良して、より高い性能のものを生み出しているなら、それはシンギュラリティだろうといいます。

ただ、ドラえもん単体の知能については、2人の見方が一致します。ポケットを外せば愛玩ロボットのようなもので、映画でも小学生と一緒に悩んでいるから知能は小学生くらいだ、としぶちょーさんは話します。

2人はドラえもんの知能を、Claudeのモデルになぞらえてソネットソネット ── AnthropicのAI「Claude」の中位モデル「Sonnet」のこと。上位にOpus、軽量版にHaikuがありますや「俳句（Haiku）」くらいだと冗談めかして評しました。しぶちょーさんは、この切り口でシンギュラリティの解像度が上がると話します。

しぶちょーさんによると、シンギュラリティかどうかの基準は、人間より賢いか、自分より賢いAIを自分で作れて知能爆発が起きるかです。四次元ポケットは別の意味での技術的特異点かもしれないが、それは人間が作った可能性もあり、AIの話とは別だと2人は整理しました。

ドラえもんの映画で泣いたかと聞かれたしぶちょーさんは、泣かなかったと答えます。かねりんさんによると、しぶちょーさんは人生で2回しか泣いていないといい、そのうち1回は部活の最後に厳しかった顧問から優しく声をかけられた時だそうです。

しぶちょーさんは『帰ってきたドラえもん』に感動した記憶はあるものの、泣きはしなかったといいます。映画を見て泣く人の気持ちがちょっと理解できない、と正直に話しました。

かねりんさんは、キャラクターの心情に共感するのではと返しますが、しぶちょーさんは妻に理由を聞けないと笑います。友人と『グリーンマイル』を見た時も、友人は泣いていたが、自分は面白い映画だと思っただけだったといいます。

ただし、しぶちょーさんは他人の感情には敏感な方だと話します。収録中もかねりんさんの表情を見て、興味がありそうな話に寄せたり、話を飛ばしたりしているそうです。かねりんさんは、感受性はあるが涙腺が硬いのだと結論づけ、小学生の頃に毎日見ていたジャッキー・チェンの映画が原因かもしれないと笑い合いました。

しぶちょーさんによると、アルトマンさんは「もうすぐ、もうすぐ」とシンギュラリティ的な発言を言い続けてきたといいます。しぶちょーさんは、本人のブログや公式発表から発言を集めて紹介しました。

2024年9月、アルトマンさんは超知能が数千日以内に来るかもしれないと述べたといいます。超知能とはASIASI ── 人工超知能（Artificial Superintelligence）の略。AGIのさらに上に位置づけられ、人間の知能を大きく超えたAI、またはその状態を指しますのことで、しぶちょーさんは、人間を大きく超えたAI、またはその状態だと説明します。

かねりんさんは、5年かもしれないし50年かもしれない、生きている間に来るんじゃないかくらいの話だと受け止めます。

続く2025年1月には、アルトマンさんは、従来理解されてきた意味でのAGIをどう作るか、わかってきたと述べたといいます。さらに2025年5月には、「我々は事象の地平線事象の地平線 ── ブラックホールの境界を表す物理学の用語。これを越えると光さえ戻れなくなることから、後戻りできない地点の比喩に使われますを越えた」「離陸は始まった」と語ったと紹介されました。

しぶちょーさんが説明に詰まると、かねりんさんは『シュタインズ・ゲート』に出てきそうな言葉だと反応し、2人ともアニメの『シュタインズ・ゲート』を見ていたと盛り上がる一幕もありました。

そして2026年7月、今年の7月に「我々はもうシンギュラリティの中にいる」という発言に至ります。しぶちょーさんは、毎年語録を残そうという気合いを感じると話しました。

しぶちょーさんは、どれもすごく曖昧なことを言っているが、断言は一応どんどん強くなってきているように見える、と整理しました。

一方でしぶちょーさんによると、アルトマンさん自身も問題意識は持っていて、AGIという言葉自体をあまり使うべきではないとも話しているといいます。人や企業ごとに定義がバラバラだから、というのが理由です。

ところが、その発言は8月ごろで、その7か月前には「AGIの作り方がわかった」と言っていたと、しぶちょーさんは指摘します。かねりんさんは、自分でやめようと言ってそれを覆すのは定石なのかと突っ込みました。

しぶちょーさんによると、アルトマンさんはどこにでもいい顔をするらしく、その場を盛り上げたい発言が過去と矛盾し、信頼を毀損することがあると書かれていたといいます。

かねりんさんは、アメリカ人が言うと「おお！」となるのに、日本人が「事象の地平線を越えた」と言えば新興宗教の教祖にしか見えないと話します。しぶちょーさんは、向こうには洒落た言い回しを好む文化があり、日本はかっこつけることを美徳としない、そしてアルトマンさんには立場と期待感もあると応じました。

しぶちょーさんがこの回で一番伝えたいのは、リップサービスの文脈が絶対にある以上、シンギュラリティという言葉に引っ張られない方がいい、ということです。同じようなことを違う言い回しで言い続けているからだといいます。

かねりんさんは、それを占い師にたとえます。いろいろな言い方で何も言っていない、なんとでも取れるという意味で、「シンギュラリティの中にいる」も何も言っていないと指摘しました。

しぶちょーさんも、ここで改めて疑問を口にします。マスクさんも同じ表現を使っているが、そもそも「中」とは何なのか、という疑問です。

点は本来、面積も体積も持たない存在です。かねりんさんが「点がでかいんじゃない？」と茶化すと、しぶちょーさんは、拡大しても点は点で、中があるならそれはもう点ではないと返します。

しぶちょーさんは、SNSでシンギュラリティという言葉を見た時に「不毛だな」とスワイプできれば、この回を聞いた人の時間が有意義になると話します。かねりんさんも、海外のAIテック企業のトップがこの言葉を使ったら「また言葉遊びを始めたな」と冷静に見られる、と応じました。

かねりんさんは、シンギュラリティは来るまでずっと擦り倒されるだろうと予想します。しぶちょーさんは、「今来た！」というタイミングはおそらくなく、振り返った時に「あそこがシンギュラリティだったね」となるのかもしれないと話しました。

しぶちょーさんはメモしていた名言も紹介します。最初の超知能機械は、人間が作る必要のある最後の発明である、というものです。

しぶちょーさんによると、この言葉の意味は、人間が作らなければならないということではなく、それ以降は人間が作る必要がなくなるということです。超知能機械のあとはAIが全てを作ってくれるので、これも知能爆発の文脈の話だといいます。

疲労で頭が回らないと話すしぶちょーさんに代わって、かねりんさんは独り言のように、生きている間に来たら面白いと語ります。何が起こるかわからない状態が好きだというかねりんさんですが、シンギュラリティ後は何が起きているかすらわからず、楽しめないかもしれないとも話しました。

まとめに入る前に、かねりんさんはギュられるギュられる ── 「シンギュラリティ」を語源とする日本の造語・スラング。AIによって自分の仕事や市場価値が奪われることを指しますという新語を紹介します。就活や自分の市場価値などがAIに代替されることを指すミームに近い言葉だといいます。

たとえば「AIでコンサルいらないじゃん」「音楽や画像が生成できたらクリエイターいらないじゃん」といった場面で、「ギュられちゃいました」と使われるそうです。かねりんさんは、それくらいシンギュラリティがキャッチーに使われていると話しました。

かねりんさんのまとめはこうです。シンギュラリティは来るか来ないかを議論する話に見えて、実際は言葉と数字のマジックのようなもので、そんなに気にする話ではないといいます。

学者の予想はAIの分野ではほとんど当たっておらず、フレーミング効果で質問の仕方によって100年単位で変わります。さらに定義がしっかりしていないため、「来た」と言っても部分的にはそうだと言えてしまい、否定も肯定もできない状態だと整理されました。

しぶちょーさんは、これからシンギュラリティという言葉を見てもソワソワしなくて済みそうだと話します。かねりんさんも、マスクさんやアルトマンさんの言葉は「彼らのポエム」として楽しみながら咀嚼し、それに付随するSNSの驚きは一周できると締めくくりました。

まとめ

この回では、シンギュラリティという言葉が、定義も時期もバラバラなまま驚き用語として使われている状況が整理されました。定義を知り、予測の当てにならなさを知れば、「シンギュラリティの中にいる」という言葉も落ち着いて受け止められます。

• シンギュラリティには知能爆発型・予測不能型・加速型の代表的な定義があり、どれを指すかで「来た」も「まだ」も成り立つ
• AIの未来予測は歴史的に遅れがちで、聞き方だけで研究者の答えが2047年と2116年に分かれるほど曖昧
• 想定を超えることはシンギュラリティではなく、ドラえもんも単体ではシンギュラリティではないと整理された
• サム・アルトマンさんらの発言にはリップサービスの文脈があり、言葉に引っ張られない方がいい
• シンギュラリティは今来たと気づくものではなく、来ても去っても中にいる本人にはわからない