「バカだけど早い」AIがなぜ盛り上がるのか
この回でCEOセオさんが取り上げたのは、新しいAIモデル「Jeb」が開発者を中心にネット上で大きな話題になっている、というニュースです。セオさんは、APIの上限を超えて一時停止に追い込まれるほどの反響が出ていると紹介しています。
セオさんはこのブームを一言でまとめ、今の高精度なLLMを人間はそこまで必要としていないことの表れではないか、と受け止めています。
ほんと簡単に一言で言うと、もう今の高精度なLLMを人間は必要としていないと、いうふうに言えるのが、この盛り上がりと言えるんじゃないでしょうか。
セオさんによると、Jebは一言でいえば「バカなAI」、つまり機能を簡単にしたAIです。ハルシネーションを最低限防ぎつつ、人間が本来必要とするレベルにまで落とし込んで使う、という発想のモデルだといいます。
つまりもう、ついていけないんですね、僕らって。（今のAIは）正直トゥーマッチなんですよね、おそらく。
セオさんは、Jebの特徴を「バカだけど早い」「選択肢型で答える」の2点に整理し、このモデルがビジネスとしてどう展開していくのかを分析していく、と話を進めます。
文章もコードも書かないAIとはどういうものか
セオさんの説明では、9月15日にスタートアップのTypeSafeAIが、Jebを公開しました。これに多くの開発者が飛びつき、一気に盛り上がったという流れです。
Jebを作ったのはディオゴ・アルメイダさんで、元OpenAIでChatGPTの土台となる研究に関わった人物だと紹介されています。セオさんは、ファウンデーションモデル ── 大量のデータで事前学習され、さまざまな用途の土台として使われる大規模なAIモデルのこと。GPTシリーズなどがその代表ですを作る企業が巨大化するなかで、そこから派生した研究者たちが新しいものを作っている、その一角だと位置づけています。
Jebの特徴は、文章もコードも書かないことです。質問に対して「はい・いいえ」やABCといった選択肢で答え、その確率を返すだけだといいます。
セオさんは、今のAIが複雑な問いに対してAI同士のやりとりを大量に重ねているのに対し、Jebはそこを削ぎ落としたモデルだと説明します。必要なところだけを返す仕分け役やキュレーターのような存在で、そのぶん高速でコストも非常に安いということです。
セオさんはこの仕分けを、宅急便にたとえています。
「これは冷凍ですよ、これは冷蔵ですよ」とか、「これは常温ですよ」とか、「これは北海道ですよ」とか、まあそんな感じで、シンプルに仕分けをしていくというようなモデルですね。
与えられた選択肢以上のことを答えないように設計されているため、Jebは間違えにくいといいます。地味なモデルでありながら、公開後にAPIが一時停止するほどの反響になった、というのがこのニュースの中身です。
フロンティアモデルを人間は使いこなせているのか？
セオさんは、GPT6やFable、Astraといった高性能なフロンティアモデル ── 各社が開発する最先端・最高性能のAIモデルを指す呼び方。性能が高い一方、計算資源やコストも大きくなりがちですに、人々が毎回ワクワクしながら飛びついてきたと振り返ります。かつてAppleがiPhoneを出すときのような熱気だといいます。
もう正直ね、もうGPTの5ぐらいから、多分人間、正しく使えてんのかなみたいな。要はもう十分なんじゃないかな。4とかで十分なんじゃないかなぐらい。
性能が上がり推論も高度になっている一方で、日常的にそこまで使うのか、というのがセオさんの問題意識です。AIの推論は1回ごとに電気代やサーバー代がかかる高コストな作業で、実際にOpenAIも巨額の累損を抱えていると指摘します。
セオさんによれば、特にコストを食うのがAIエージェントです。AIが自分で検索やコード作成などのタスクを進め、その過程で膨大なやりとりをするためです。
Jebはそうした処理をやめ、「この質問は簡単だからA、難しいからB」と振り分けるルーティング ── 入力された内容に応じて、どの処理やどのモデルに回すかを振り分ける仕組みのことに特化している、とセオさんは説明します。
選択肢を絞るとハルシネーションはなぜ減るのか
セオさんは、作業を単純にすればするほどハルシネーションは減ると話します。従来のAIは、ABCから選べと言っているのにDやEのような選択肢にないものを返すことがあり、人間がうっかりその誤情報を受け入れてしまうことがあるといいます。
一方でJebは、ABCと指定すればその3つしか返さないモデルになっているため、非常にシンプルだと説明されています。
セオさんはさらに、AIエージェントが1つのタスクをこなすのに、どうやら100回ほどAIを呼び出しているらしいと紹介します。「次はサイトのどこに入るか」などをAI同士で計算しながら動いているためです。
その100回のうち90回など多くのケースで高度なAIを使っているから重くなり、コストがかかる、というのがセオさんの見立てです。
タスクを任せる
人間がAIエージェントに1つの仕事を与える
AIを約100回呼び出す
AI同士で次の行動を計算しながらやりとりする
高度なモデルを多用
その多くで高精度なAIが使われる
重さとコストが増える
処理が遅くなり、費用もかさむ
コンビニに行くのにタクシーを使うのか
セオさんは、最新モデルをずっと使い続けるのは非効率だとして、Jebの考え方を移動手段にたとえています。
Jebは最大193倍速く、コストも446倍安いと言われている、とセオさんは紹介します。課金の単位も、通常のモデルが100万トークン単位なのに対し、Jebは10億トークン単位で、大量のトークンを使える薄利多売のモデルにしているといいます。
海外ではすでに、サイトの構築のようなシンプルな作業をJebで行ったほうが安くて早い、という事例が多く出てきているとセオさんは話しています。
セオさんの整理では、ポイントは使い方を変えることです。人間がAIに丸投げし、すべてをAIが答えるモデルは当然高負荷になるため、「それをやめよう」という発想がJebだといいます。
自動改札機と駅員さんほどの差とは？
セオさんによると、Jebの反応速度は0.5秒以内で、通常のLLMが3秒から5分ほどかかるのと比べて非常に速いといいます。セオさんはこの差を、自動改札機をピッと通るのと、駅員さんに聞いて通るのくらいの違いだと紹介しています。
応答に3秒から5分ほどかかる。駅員さんに聞いて通るイメージ
0.5秒以内に返せる。自動改札機を通るイメージ
さらにJebは、スキーマ ── データの形式や構造をあらかじめ定めたルールのこと。ここでは指定した選択肢や形式以外を返さないことを指します違反エラーをゼロパーセントにしているといいます。指定した以上のものを出してくるといった事態をすべてなくす、という意味です。
ただしセオさんは、OpenAIにも同様の機能は実はあり、Jebでなければできないわけではないと補足します。それでも、コスト構造やアーキテクチャが違うため、OpenAIが同じことをやろうとしても少し時間がかかるだろう、という見方を紹介しています。
GemやカスタムGem、GPTsなどでカスタマイズすれば似たことはできるものの、同じスピードやコストでは実現できない、というのがセオさんの説明です。
実績として、ウェブサービスを作るVercelがコマンドの安全性チェックをChatGPTの5.6からJebに変えたところ、5〜18倍ほど速くなり精度も上がった、という事例が紹介されています。
軽いモデルが伸びる時代は来ているのか
セオさんは、GeminiもFlashのようなライトモデルに力を入れており、軽いモデルが改めて注目されていると話します。セオさん自身も検索ではGeminiを使っているといいます。
（検索では）そんなにたくさんの情報を戻してもらう必要ないんですよね、はっきり言って。
たとえば「このワード何？」や「最近知ったアイドルの名前が知りたい」といったレベルなら、細かい回答は要らず、ライトなモデルで十分だというのがセオさんの考えです。
セオさんによると、GPT-4相当のAIの価格は2022年後半から2026年までの約3年半で、約280分の1まで暴落しました。安いモデルはどんどんコモディティ化 ── 製品やサービスが一般化し、品質の差が小さくなって価格競争が中心になる状態のことしている、とセオさんは見ています。
小型言語モデルの市場は、2025年の60億ドルから2034年には1420億ドルへ、年38%の成長率で伸びると海外では言われているといいます。セオさんは、OpenAIやAnthropicの最上位モデルは実は使っている人が少なく、小型のモデルのほうが伸びていくと話しています。
セオさんはさらに、生成されたAIトークンのうち人間に読まれるのは推定0.0001%で、99.999%はAI同士の会話だと言われている、と紹介します。トークンのほとんどはAI同士のやりとりに使われ、そこにお金がかかっている、という構図です。
大手はなぜすぐに追いつけないのか
セオさんは、OpenAIやAnthropicもすでに同様の仕組みを持っていると改めて説明します。OpenAIは2024年から、JSONなど決まった形式で返し、スキーマ違反ゼロパーセントを保証するStructured Outputs ── OpenAIが提供する機能で、AIの出力を指定したJSONの構造に必ず従わせるためのものという機能を提供しており、Anthropicにも同様のサービスがあるといいます。
それでもJebが強みを持つのは、アーキテクチャが根本から違うためだとセオさんは説明します。LLMは1文字ずつ文字を生成する自己回帰型で時間もお金もかかるのに対し、Jebは並列サンプラーで一気に回答を返せるといいます。
1文字ずつ内容を理解しながら自己回帰的に生成するため、時間もお金もかかる
並列サンプラーで一気に回答を返せる
セオさんはこの違いを、ウェブサイトにたとえます。楽天のように後からサービスを集めてきたサイトは継ぎ接ぎになって重くなりがちですが、Shopifyのように新しく作られたサービスは最初から連結がスムーズで速い、という対比です。
それ専用に作るものっていうのは、やっぱり効率性がもう最初から考えられてますんで、やっぱりそこに追いつくにはちょっと時間がかかるんじゃないかなというとこですね。
一方でセオさんは、Jebが強いのは短期的で、半年から長くても1年ほどだろうと見ています。その後は大手が間違いなく同じ機能を搭載してくるだろう、と言われているそうです。
1年勝負のスタートアップはどこを目指すのか
セオさんは、Jebにとっては1年の勝負で、その間にどれだけマーケットでの支配力とユーザーを獲得できるかが鍵になると話します。
そのうえでセオさんは、Jeb自身もM&Aを狙っているのではないかと推測しています。OpenAIやAnthropicに勝てるとは考えておらず、LLMを使っている以上それを超えることもできないためです。
セオさんは、OpenAIやAnthropicに機能として買収される可能性は十分にあり、もしかしたら1年で何千億円という金額で買収されるかもしれない、と話しています。
セオさん自身、かつてFacebookがまだ小さかった頃にインサイト解析ツールを作っていた経験があるといいます。プラットフォームの中には常にサードパーティーが生まれ、良いものは本家に取り込まれたり買収されたりするというのが、その経験からの見方です。
プラットフォーム上に誕生
大手の周辺でサードパーティーの便利なツールが生まれる
ユーザーを獲得
ユーザーやアクセス数を集める
本家が取り込む
良いものは本家に搭載されるか、M&Aで買収される
結論としてセオさんは、Jebのブームに一喜一憂しても仕方がないと率直に語ります。それでも新しいものは一応チェックし、少し勉強しておいてもよいのではないか、と締めくくっています。
まとめ
今回の回でCEOセオさんは、選択肢しか返さない軽量AI「Jeb」のブームを、高精度LLMへの過剰依存を見直す動きとして読み解きました。一方で大手も同様の機能を持っており、Jebの強みは短期的で、M&Aを前提にした戦い方になる可能性があると見ています。
- Jebは文章もコードも書かず、選択肢と確率だけを返すことで、高速・低コスト・間違えにくさを実現している
- AIエージェントは1タスクで約100回AIを呼び出すとされ、トークンのほとんどがAI同士のやりとりに使われている
- GPT-4相当の価格は約3年半で約280分の1になり、小型言語モデル市場は今後大きく伸びると言われている
- OpenAIやAnthropicも同様の仕組みを持つが、アーキテクチャの違いから追いつくには半年〜1年ほどかかると見られている
- セオさんはJebの出口をM&Aと推測し、ブームに一喜一憂せず新しいものはチェックしておく姿勢を勧めている
