速くて安いAIが潮目を変える理由。システム1とシステム2、睡眠と記憶の整理

今回の話題は、Jevをはじめとする「速くて安いAI」です。安田さんは、日本でも話題になっているのかを元木さんに尋ねるところから話を始めます。

元木さんによると、日本ではXで毎回盛り上がっていて、カスタマーサクセスで使える、ビジネスモデルの革命だといった話も出ているそうです。ただ、技術を活用して大きく儲かっているような実装フェーズにはまだ至っていない、という印象を持っています。

一方の安田さんは、10年ほど前から自然言語処理自然言語処理 ── 人間が日常的に使う言葉をコンピューターで解析・生成する技術分野。翻訳、検索、チャットボットなどの基盤になっていますに取り組んできた立場から、「速くて安いAI」は技術的にはそれほど新しいトピックではないと話します。もともと「それはできる」「そのほうが計算量が低い」と言われていたものだったからです。

安田さんの見立てでは、こうした軽いモデルは単体ではユースケースがあまり出なかったため、注目はLLMに移りました。LLMは「あれにも使える、これにも使える」と一気に伸びましたが、お金がかかり、処理も重いものでした。

ただし安田さんは、速くて安いAIも上手に使わないと便利な場面は限られると付け加えます。プロダクトを作る人にとっては「コスパが悪かった処理に使えるようになる」という利点が大きい一方、クラウドコストを気にせず使い倒す人にとって便利になるかは気になる点だとしています。

元木さんは、AIはこれまで人間の代わりに自律的に長く仕事をこなす方向で進化してきたと捉えており、速くて安いAIはそのカウンターカルチャーのように見えると話します。そのうえで、Sonnetや、GPTの軽いモデルと何が違うのかを安田さんに問いかけます。

安田さんの答えは、コスト・速度・精度のバランスです。AIのモデルでは、この3つが基本的にすべてトレードオフの関係にあります。

このバランスで見たとき、速くて安いAIは安さと速さが断トツで、ユースケースを絞れば精度もそれほど落ちていません。安田さんは、これを一気に100倍ほどのリープがあったと表現します。

元木さんは続けて、1000個のQ&Aが登録されていればAIを使わずともプログラミングで答えを出せるのに、速くて安いAIは中で何を処理しているのかと尋ねます。

安田さんによると、処理の中身はLLMとそれほど変わりません。テキストを単語などに分解し、細かいシンプルな演算を経て集約し、確率分布として出力する、いわば予測です。人間が書いたルールで論理決定をするものではなく、機械学習のモデルであり、人間からするとブラックボックスでもあるといいます。

安田さんは、速くて安いAIはやはり革命的だと考えています。その理由は、人間の脳が上手に機能する方式とよく似ているからです。人間も、テキストや画像を見て「これは犬だ」と複雑なことを考えずに直感的に判断しています。

安田さんは、こうした反射的で、理由をうまく説明できない判断を、人間はめちゃくちゃ大量にしていると指摘します。仕事でいえば「このメールは何の件か」「このメッセージは一旦置いておいていい」「これはすぐ反応しなければいけない」といった判断です。

こうした判断は、理由を丁寧に説明してルール化しようとすると難しいものです。同じ相手からの連絡でも、早く返したほうがいい場合もあれば、返さなくていい場合もあります。かといって、高価なLLMをそこに全部突っ込むと採算が合いません。

そこに入ってくるのが、Jevのようなシステム1システム1 ── 心理学者ダニエル・カーネマンらが広めた、人間の思考の2つのモードの区分。システム1は速く直感的な思考、システム2は遅く熟慮的な思考を指しますとされるモデルです。安田さんは、OpenAIが発表したDecisions APIやオープンソースのモデルなども出てきて盛り上がっていると話し、日常の細々したユースケースにAIを使える可能性を一気に広げた点で、潮目を変える出来事だと考えています。

元木さんは、ブライダル事業の顧客対応を例に挙げて納得します。メール1件ごとにAIを挟むと数円かかるとなれば、トークン費用に見合わず、人間がやるほうがいいと考えていたそうです。それが安く速くできるなら、AIを使える幅が広がると受け止めています。

安田さんはさらに、どこにリソースを投下すべきかという一次判断をさせるのが有力なユースケースだと続けます。カスタマーサクセスで、開発ともつないでしっかり解決すべき問題なのか、FAQを送れば済むのかを振り分ける場面です。

安田さん自身が作っているのも「気の利くAI」なので、この話はもろにかぶってくるといいます。気が利く人ほど多様な情報をテキパキ分類・整理していますが、それを完全にルールで書くのは無理です。知能は使いたいのに、精度・コスト・速度のバランスが見合うものがなかったところに、フィットする可能性が一気に生まれたと安田さんは見ています。

元木さんは、技術が指数関数的に進むなかで、実装する側との差はどんどん開いていると感じています。最終的に多くの人は、使っているのが速くて安いAIなのか、システム1なのかシステム2なのかも意識せず、UI・UXに包まれて便利に使うのだろうと話します。

安田さんは、それはむしろあるべき姿だと応じます。安田さんがいいと思っている格言に、究極のUXは存在を感じさせないことというものがあるそうです。

安田さんはもう1つ、速くて安いAIが重要になる領域としてロボティクスを挙げます。身体的な反応には速度と頻度が求められ、どれだけ優秀なAIを搭載できるかにはハードウェア的な制約もかかるため、ロボットハードウェアの領域では影響が大きいといいます。

元木さんは、システム1と2という区分のほかに、技術の新たな切り口はあるのかと尋ねます。安田さんは、まだまだあると答えます。システム1とシステム2の話は、人間の脳を模倣した進化の一例にすぎないからです。

安田さんが次のフロンティアだと考えているのは、システム1とシステム2がどう協働するかです。システム1が反応したことを受けてシステム2が動き、間違っていればフィードバックを返す。人間も直感的な反応を振り返り、システム1が鍛えられるという話が、心理学的にもあるそうです。

さらに安田さんは、システム1は実験を担っている気がするとも話します。衝動性のように、あえて内なるブレを持っていろいろ試してみる。その判断のレコードをシステム2的なものが整理し、精度がまた上がるという見方です。

元木さんは、普段AIのオーケストレーションをFableに頼んでいるといい、システム1と2の行き来も含めて、シナプスがつながるように有機的になっていくイメージかと受け止めます。安田さんも、まさにそれはあると応じています。

安田さんは話をさらに広げ、睡眠がどんな機能を持っているかに触れます。睡眠はなぜ起こり、どう働くのか、いまだにミステリーが多いそうです。ただ、その中の1つとして、1日分などの記憶の断片や無意識の判断のレコードを整理して振り返り、システム1をアップデートしている側面もあるはずだといいます。

そうした機構をAIにも作るべきか、作るならデータをどう保存すべきか。安田さんは、これが非常に面白い領域だと考えています。

安田さんが自分のプロダクトの観点から特に気になっているのは、そもそも「整理されている状態」とはどういう状態なのかという問いです。システム1が脳内で整理を行い、システム2がじっくり判断するなら、システム1は情報をどんな状態にマッピングしているのか、という問題です。

安田さんは、関連するリサーチもあったはずだとしたうえで、2つの働きを挙げます。1つはアソシエーションアソシエーション ── 連想、関連づけのこと。ある事柄から別の事柄を思い起こす心の働きで、記憶や学習の研究で使われる概念ですで、「これとこれは大枠で関連がありそうだ」と結びつけること。もう1つは、頻出するものは意識の表層に置き、忘れていいものは忘れるといった、重要度や緊急性の付け方です。

連想性を、しかも安いコストの中で処理しておくのは難しい話であり、安田さんは技術的にもアプリケーション的にも面白い領域だと話します。

最後に元木さんは、こうした人間らしいAIに技術が近づいたとき、人間の役割は何なのかという問いを投げかけます。専門性をつけるべきか、キャリアの歩み方で何がポイントになるのかを、次回もう少し具体的に話したいとして、この回を締めくくりました。

まとめ

速くて安いAIは技術的には新しくないものの、コスト・速度・精度のバランスが一気に動いたことで、これまで採算が合わなかった日常の反射的な判断にAIを使えるようになりました。その先には、システム1とシステム2の協働や、記憶をどう整理するかという次のフロンティアが見えています。

• 速くて安いAIの新しさは技術ではなく、コスト・速度・精度のバランスが100倍ほど動いた点にある
• メールの優先度づけや問い合わせの一次振り分けなど、理由を説明しにくい反射的な判断が仕事には大量にある
• 安いAIに一次判断を任せ、重要な案件に人間や賢いAIを充てることで、物事が効果的に進む
• 次のフロンティアは、システム1とシステム2がフィードバックで互いを鍛える仕組みづくり
• 睡眠による記憶の整理をヒントに、連想や重要度づけをデータとしてどう表現するかが難問として残っている