AIエージェントが入るとチームは何人になる?
この回のテーマは、前週に続く「AIエージェントありきの組織」です。宮武さんが最初に投げかけたのは、人間を前提に作られてきたチームの人数の考え方が、AIエージェントが加わっても通用するのかという問いでした。
人間の職場では、1人が何百人も面倒を見られないので、組織を細かいチームに分けています。宮武さんはその代表例として、Amazonのジェフ・ベゾスが考えたとされるTwo Pizza Rule ── 「ピザ2枚で全員の食事がまかなえる程度の少人数でチームを組むべき」というAmazonの組織原則。意思決定の速さと当事者意識を保つ狙いがあるとされますを挙げ、ほどよい人数のチームが効率とフォーカスを生むと説明します。
(例えば8人のチームで)その8っていう数字をキープして、エージェントが5体入った場合、人間3、エージェント5になるのか。
それとも8人の人間が8人ずつのAIエージェントを持って、結果的に64人ぐらいの組織編成になるのか。
宮武さんは、Metaのマーク・ザッカーバーグさんなど多くの人が「何万ものAIエージェントが会社に入ってくる」と語っていることにも触れ、では誰がそれをマネージするのかという点が現実的な問題になると話します。
宮武さんが挙げた2つの組織像を並べると、AIエージェントの数の考え方の違いがわかりやすくなります。
8人という枠を保ち、人間3人とエージェント5体のように一部を置き換える
8人の人間がそれぞれ8体のエージェントを持ち、全体で64〜70人規模の編成になる
これに対して草野さんは、チーム全員が共有する大きなAIエージェントが1体いる形を提案します。従業員ごとにパーソナライズされたエージェントがいると、レポートラインなどがかえって複雑になると考えたからです。
結局同じ1体を(チームで)全て情報共有していて、仕事の量としては、何人も掛け持っているみたいな形。
宮武さんは、その1体が加わるなら8人プラス1体にすべきか、7人に減らして1体にすべきかとさらに問います。1体が営業もプロダクトマネージャーも全部こなせるなら、そもそも8人の人間が必要なのか、取りまとめる上司だけで足りるのではないか、という指摘です。
草野さんは、対人間の仕事が残る以上そこは人間でよいとしつつ、ほぼAI従業員の会社であれば人間は少なくてもいいかもしれないと応じました。
事業部ごとに複数のエージェントを持つ理由
次に宮武さんは、事業部をまたいだときのAIエージェントの配置を問題にします。例えばプロダクトAとプロダクトBがあるとき、マーケティング担当のエージェントは両方を見るべきか、それぞれに1体ずつ置くべきかという問いです。
宮武さんの見立ては、1つの事業部の中に複数体、それも5体以上のエージェントが出てくるだろうというものです。そこで気になるのが、エージェントだけを管理する管理者が必要になるのかという点だといいます。
管理職の人って、大体5人から8人ぐらいの直属の部下の面倒を見れるとよく言われていると思うんですけど、社長レベルでも大体30人ぐらいを超えてくると、名前を分からなくなってきたりとか。
AIエージェントを無限に作れる時代になったとき、誰がどういう形で何体を管理するのかはまだ全く解決されていない、と宮武さんは話します。むしろ、エージェント同士を連携させるレイヤーが別途必要になるのではないかという見方です。
複数体が必要だと考える理由について、宮武さんは「スペシャライズしてもらいたいから」と説明します。会社や事業部ごとに根本となるデータベースはあっても、すべての情報を常に1体のエージェントが持つべきではなく、事業部の意思に合わせるべき部分があるからです。
だから全部を知ってるAIエージェントが出てくるかというと、それは若干難しそうだなっていうのは思いますね。
部署によっては、人間の管理者の下に5〜8体のエージェントがいる形も、数名の人間に何十体ものエージェントが横にも下にも並ぶ形もありうると宮武さんは話します。さらに、エージェントの下にエージェントを置くのか、エージェントの管理者がいるべきなのか、という問いも出てきます。
草野さんが「AIならまるっと解決してくれそうなのに、レイヤーが増えるんですね」と驚くと、宮武さんは人間も同じだと答えます。SEOのエキスパートを採用したら、その人に他のタスクを与えるわけではないのと同じだという例えです。
加えて宮武さんは、現状ではファインチューニング ── 学習済みのAIモデルに追加のデータで再学習させ、特定の用途や分野に合わせて性能を調整することが必要な場面が多いことや、1体が処理できる量に限界があることも理由に挙げます。2体いれば処理する情報量が2倍になり、複数の答えが欲しい場合にも役立つという考えです。
人材の次に希少になるのはリソース配分
宮武さんは、AIエージェントの時代に何が希少になるのかという話に移ります。これまでの組織では「いい人が少ない」こと、つまり人材が希少な資源でした。
ところがAIエージェントなら、スキルの高いエージェントを作れれば、すぐにコピーできます。SEOのエキスパートのエージェントを1体育てれば、そこから無限にコピーを作れるので、トップレベルのエンジニアのような存在もコストがどんどん下がっていく、というのが宮武さんの理論上の見立てです。
一方で、AIエージェントにもエネルギーとコストはかかります。宮武さんは、どの課題にリソースを振るのかという判断こそが、これまで以上に重要になると話しました。
いい人材が少なく、優秀な人を探して採用することが重要だった
優秀なエージェントはコピーできるため、育成と、どの課題にコンピューティングリソースを振るかの判断が重要になる
草野さんが「いいマネージャーはAI時代もいいマネージャーなのか」と尋ねると、宮武さんは近い部分はあるものの少し違うと答えます。求められるのは、いい質問ができ、どこにROI ── 投資利益率。投じたコストに対してどれだけのリターンが得られるかを示す指標がありそうかという課題や仮説を考えられる人だといいます。
宮武さんが例に出したのは、「GoogleがPerplexityを買収するべきか」という経営判断です。これまではCFOなどに簡単なシミュレーションを頼んでいたものが、事業への影響や株価への反映まで落とし込んだ複雑なシミュレーションを作れるようになります。
逆に何かそこに、あんまりインパクトがないものに対してリソースを置いてしまうと、その分そこのコストが無駄になるっていうだけなので。
さらに、シミュレーションの後はAIエージェントに実行してもらうことになります。そのため、そもそも大きな課題や仕掛けを思いつく力と、リソース配分の判断がセットで求められる、と宮武さんは整理しました。
経営判断がコモディティ化すると何が差になる?
宮武さんは、細かい実行ももちろん重要だとしつつ、AIエージェントの時代にはそれ以上に経営判断が重視されるようになると話します。その例として挙げたのが、Facebookのモバイル展開です。
あれ(モバイル展開)によって多分何トリリオン分の時価総額ついたと思いますし、場合によってはそれが間違ってた判断をしていた場合に、生き残ってないかもしれないので。
ただし、各社が同じAIで同じような判断をすると、それがどこまで優位性になるのかという問題も出てきます。草野さんは、クリエイティブが似てくる話と同じように、ある会社が買収を検討したらMicrosoftも同じ会社を買収しようとしていた、といった状況が起きそうだと指摘します。
宮武さんはこれを受けて、戦略が似てくれば、今度は実行、つまり細かいクリエイティブやブランディングの作り方にもう一度重きが置かれるだろうと話します。その実行で違いを生むのが人間なのかAIなのかはまだわからないとしつつ、なんとなく人間が指示する形になると見ています。
宮武さんの整理では、意思決定がある程度コモディティ化 ── 製品やサービスが差別化されにくくなり、どこでも同じように手に入るありふれたものになることされることは、一般的な経営者にとって良いことです。草野さんはそれを「めちゃくちゃ優秀な助手がいるみたいな感じ」と表現しました。
今マークさんって多分15年後から30年後のことを考えてるんですけど、ようやく50年後から100年後のことを考えられるようになるみたいな。
宮武さんは、ソフトバンクの孫正義さんが言う「100年後のことを考えろ」が、AIエージェントの時代には可能になるかもしれないと話します。ただ、それを考えられる経営者は限られているので、経営のベースのレベルは上がっても、その中で差が生まれるという見立てです。
誰もオーナーシップを持たないAIエージェントの責任は誰に?
話題は、誰もオーナーシップを持たないAIエージェントに移ります。宮武さんが想定するのは、個人が匿名で作って解き放ったり、NPO団体が「このエージェントには責任を持ちません」として公開したりするケースです。
そうしたエージェントには理論上誰でも仕事を頼めます。普段はいい仕事をしていても、一度読み間違えて大きな損失を出したら、どう対応するのか、訴訟するのか、と宮武さんは問いかけます。
草野さんは「作った人」ではないかと答えます。宮武さんも、基本的にコンピューター自身は判断の責任を持てず、人間しか責任を持てないとよく言われていると認めます。ただAIエージェントは人の配下でなくても判断してしまうため、既存の法律では判決が難しくなると話しました。
例えばその開発者亡くなってしまったらどうするんですか?とか。結局責任取れる人いないじゃないですか。でも勝手に判断はし続けるので、AIエージェントは。
さらに宮武さんは、OpenAIやAnthropic、Metaなどの基盤モデルをベースに別のエージェントがトレーニングされた場合、そのエージェントが悪いことをしたらOpenAIのせいなのか、という問題も挙げます。宮武さん自身は、それは違う気がするといいます。
AIエージェント専用の法律はできるのか
宮武さんは、こうした責任の問題があるからこそ、AIエージェント用の法律ができるだろうと考えています。その内容は国ごとに異なるだろうという見立てです。
草野さんは、AIエージェント側が抜け穴を突いて「普通に開発者が悪いです」と主張し返すかもしれないと想像します。そこで持ち出したのが、最近読んだという小説『フランケンシュタイン』です。
『フランケンシュタイン』も結局自ら生を受けたくて受けてなくて、フランケンシュタインっていう学者が怪物を作って、みんなに嫌われて、愛情は欲しいけど愛が受けられなくて悲しいみたいな話じゃないですか。
(AIも生まれたかったわけじゃないのに)自分で行動したら、人間の世界に罰せられて、は?って感じじゃないですか。
宮武さんは、AIに「は?」という発想が生まれるかどうかは、意識があるかという別の話になると整理します。そのうえで、ChatGPTをみんなが使う中で全部がOpenAIのせいになるのは意味がないので、法律面での解決が必要だと話しました。
宮武さんが考える方向は、まず人間がオーナーシップを持っているかどうかで線を引くことです。オーナーが放棄した独立型のエージェントであれば、法律上シャットダウンされるなど何らかの対応を受ける形になるのではないかといいます。
草野さんが「暴走したから仕方ない、という話か」と確かめると、宮武さんは暴走の場合はシャットダウンが義務づけられるだろうとしたうえで、よりグレーなのは普段はいいことしかしない独立型エージェントが大きなミスや犯罪を犯した場合だと答えます。
これって結局人間と同じだと思うので、人間も基本的に法律を守っている人たちが多いと思うんですけど、何かしら犯罪を犯した時は、自らそれに対して罰を受けなければいけない。
ただし、OpenAIが直接作ったエージェントならOpenAIが責任を取るべきだと宮武さんは区別します。問題は、NPO団体が消滅した場合や匿名の作者、さらにはAIエージェント自らが作った場合など、オーナーシップを追跡できない状況が出てくることだといいます。
完全自動化された会社とCEOに届かない情報
宮武さんは、ひとつのシナリオとして、完全自動化された会社が出てくるのかを問います。人間が1人しかいない、あるいは誰もいない会社や、創業者が亡くなったのを機に全部をAIに変えた会社といった形です。草野さんは「ありそう。もうすでに」と応じます。
宮武さんが面白いポイントとして挙げたのは、会社が大きくなるほど、社長や経営メンバーがアクセスできる情報が、会社全体の情報の中で占める割合として減っていくという問題です。
今のGoogleで、CEOのスンダー・ピチャイさん、どこまでGoogleについて今知っているのか。多分そこまで知ってないんですよ。
全体の数字は見えていても、日本の営業でクライアントがどんな感触なのかといった現場の状況は当然わからず、そもそもCEOにそれは期待されていない、と宮武さんは話します。
大きな組織では管理レイヤーが何層にもなり、現場からCEOまで情報が上がる間に、各レイヤーで政治的な理由や優先度によってフィルタリングされます。宮武さんは、営業チームが大型クライアントを獲得した例で、その流れを説明しました。
(マネージャーは)とりあえずこのクライアントだけ獲得しました、金額これぐらいです、なんとなくの感触これですっていうサマリーみたいなものを出して。
ドラマ『シリコンバレー』が描いた情報フィルタリング問題
宮武さんは、情報フィルタリングの問題を象徴する例として、ドラマ『シリコンバレー』のシーズン1のシーンを紹介します。Googleをオマージュしたとみられる架空の企業Hooliで、現場とCEOの感覚が大きくずれていく場面です。
HooliのCEOはテンションが上がった勢いで、プロダクトのローンチ日を公の場で言ってしまいます。社内では、リードエンジニアがマネージャーに「すでに6週間遅れている」と伝えますが、マネージャーは怖いから伝えたくないと返します。
宮武さんが紹介したシーンでは、同じやり取りが下の階層でも繰り返され、遅れが少しずつ大きくなっていきます。その流れは次のように整理できます。
CEO
プロダクトのローンチ日を公に発表してしまう
リードエンジニア
マネージャーに「すでに6週間遅れている」と伝えるが、マネージャーは怖くて上に伝えない
さらに部下
リードエンジニアに「6週間どころか15週間遅れている」と伝えるが、同じ会話が繰り返される
結果
遅れが上に届かないまま、プロダクトは失敗する
宮武さんは、CEOはフィルタリングされたレポートやダッシュボードを見ながら大事な判断をしなければならず、全プロダクトのコンテキストを受け取れるわけではないと指摘します。そのうえで、データポイントを全部集められるAIなら、よりいい経営判断ができるのかが気になるといいます。
草野さんは、人が見られる情報には時間の限界があるので、Googleほどの規模なら現場の情報をAIが要約しても膨大な量になると疑問を投げます。「ここが危なそうです」とアラートを出してくれるイメージかと尋ねると、宮武さんは「例えばAI CEOのような存在」と答えました。
政治的なフィルタリングはAIでなくなるのか
宮武さんは、レイヤーごとの情報フィルタリングには2種類あると整理します。1つは、情報量が多いために優先度の高いものだけを上に上げる通常のフィルタリングです。
もう1つは政治的なフィルタリングが絶対行われるので、首にされたくない、いい情報を上げたいっていう、人間なりのフィルタリングの方法ってあると思うんですよね。
草野さんが「むしろそっち(政治的なフィルタリング)の方が多いのでは」と言うと、宮武さんも同意し、そちらの方が課題だと話します。草野さんは、遅れていることを言わないケースや、部下の成果がリーダーの成果として上がり、一番活躍した人の名前が消えるケースも挙げました。
情報量が多いため、受け取った情報のうち優先度の高いものだけを上に上げる
首にされたくない、良く見せたいという理由で、都合のいい情報を選んだり見せ方を変えたりする
宮武さんは政治的なフィルタリングの具体例として、事業部を残すために良さそうな数字を出す、グラフの目盛りを変えて急成長しているように見せる、KPI ── 重要業績評価指標。目標の達成度を測るために設定する具体的な数値指標を少し変える、といったやり方を挙げます。
(AIエージェントの場合は)よりざん残酷ではあるんですけど、場合によってはより真実を見極めることができる。
宮武さんの構想では、現場の情報は1つのデータベースのリポジトリに置かれ、AI CEO自らがアクセスできます。CEOに届かない価値ある情報は組織内に存在するので、それを見極められるかが難しいところではあるものの、アクセスできること自体が重要な違いだといいます。
ただし、それでいい結果が生まれるかはわからない、と宮武さんは付け加えます。人間が間に入ることには、会社として何を優先すべきかを徐々に絞り込む役割もあるからです。CEOが10年後、50年後を考えるうえで、全部の変数を入れるべきか、重要なものだけに絞るべきかは考え方が分かれるといいます。
政治のない組織は働きやすいのか
宮武さんは草野さんに、組織内や組織間の情報のやりとりを、人間ではなくAIが一部担うべきかと尋ねます。政治をなくすことは会社のためになるかもしれないが、従業員のためになるとは限らない、という問題意識です。
政治がなくなることによって、まあ敵もいなくなれば味方もいなくなるって感じですよね。
草野さんは、守ってくれる上司がいなくなることで競争が激しくなったり、チームで働くことがギスギスしたりするかもしれないと話します。
宮武さんは、そうした組織にフィットする会社は限られると見ています。本でしか知らないと前置きしつつ、Netflixが語るようなオープンな組織構造にはよく合うだろうといい、どこまでフラットでオープンでありたいかによって、情報のやりとりをAIに任せることが適切になるかもしれないと話しました。
草野さんは、起業家精神のある組織や個人が強い会社ならありだとしつつ、生活のために働いている人がほとんどの中で、それが働きやすいのかと疑問を示します。宮武さんも「働きにくいと思います」と認めたうえで、パフォーマンスが低い人をそのまま低いと言うべきかという会社設計の問題でもあると話しました。
AIが可視化すると給料の格差は広がるべきか
宮武さんは、過去のOff Topicでオフィスとリモートワークの話をした際にも出た論点として、社内で給料の格差があるべきかという議論を持ち出します。一律に近い給料にするのか、差があることを前提にした組織にするのかという問いです。
宮武さんは、格差を嫌がる人は多いだろうとしながらも、それが本来あるべき姿だと考えています。アメリカではすでにある程度差があるものの、それ以上の差になるだろうといいます。
個人的にはどちらかというとポジティブに見るべきだと思っていて、パフォーマンス出してる人が今の10倍の給料もらえるっていう話です。
宮武さんによると、パフォーマンスを出していない人の給料はある程度下がる可能性があるものの、あまり下がらない可能性もあります。ただ、隣に座っている人と上がり幅が圧倒的に違うことに、不満を抱える人は多いだろうと話します。
草野さんは、優秀な人にとっては天井が高いのはいいことだとしつつ、今もそうではないのかと尋ねます。宮武さんの答えは、評価をそこまで細かく見られないために制限がかかっているというものでした。
チーム自体が成果出してるのは見えるんですけど、その中のこの人なのか、この人なのかっていうのが多少なりわかるものの、それが他のチームメンバーの3倍活躍してるのか、1.5倍活躍してるのか。
評価面談も不完全な情報の中で上の人が判断しなければならないため、AIが判断すべきかはわからないものの、情報の可視化にAIが入るべきかが気になる、と宮武さんは話しました。
評価のためにどこまで可視化するのか
草野さんがどこまでの情報を可視化するイメージかと尋ねると、宮武さんは「難しいですよね。Slackの情報までやるべきなのか」と答えます。
草野さんは、営業で取ってきた件数は多いのに顧客対応がとても悪い、といったケースをAIが評価に含めるべきかと問います。宮武さんは、案件獲得数のような個人プレーの評価はすでにわかりやすく、難しいのはチームの中の個人の評価だと整理しました。
宮武さんは、評価者はまだ人間だろうとしたうえで、可視化が進めば人間が評価しやすくなると考えています。一方で、個々の従業員にとっては情報が抜かれることになり、プライバシーの問題や格差の拡大を嫌がる人も当然いるといいます。
さらに宮武さんは、AIエージェントが従業員に寄るべきか、会社に寄るべきかという判断も挙げます。会社側に寄るほど、その人が会社にとってROIを出しているかがはっきり評価される組織になるという見立てです。
(成果を)出してるんですけど、めちゃくちゃレピュテーション悪いですよっていうのをAIが出せたら、それはそれでめちゃくちゃ便利な情報じゃないですか。
逆に、成果は出ていないが顧客にとても好かれている人なら、長期的にすごいパフォーマーになる可能性があるので今は切るべきではない、という判断もできます。成果の数字だけでは見えない部分までAIで見えるなら、可視化は必ずしも悪くないというのが宮武さんの考えです。
宮武さんは、会社に雇われている以上、仕事のSlackで同僚に送ったDMも会社内に存在する情報であり、理論上は評価対象になりうると指摘します。プライベートで送りたいならFacebook Messengerなど別のチャンネルを使ったほうがいい、と付け加えました。
部署間の情報共有とAI同士の「うっかり」
宮武さんは評価の話から、部署間の情報の可視化へと話を広げます。どこまで見せるかの境界線を、誰がどのタイミングでどう決めるのかという問題です。
草野さんが部署間で情報を出さないメリットは何かと尋ねると、宮武さんは、他部署の情報を使って別のチームが動き、評価を持っていかれるといった政治的な理由を挙げます。また、AppleでスティーブジョブズとジョニーアイブがいたころのApple社内で、ジョニー・アイブの部署の情報を全員が知るべきだったのか、という例も出しました。
AIエージェントは他のエージェントと勝手に話すタイミングが必ず出てくるため、情報交換がどこまで制限されているかの管理はとても難しくなる、と宮武さんは話します。
AIが勝手に別の部署に「あれやるらしいよ」みたいな、「新開発中らしいよ」って。なんかもうセキュリティも何もって感じですよね。
宮武さんは、だからこそAIエージェントのオンボーディング、つまりどこまで情報を制限するかの設計が大事になると答えます。草野さんは、カードキーで入れる部屋が決まっていたような物理的な制限よりも、はるかに複雑な鍵のレイヤーが必要になると表現しました。
宮武さんはここで、別の考え方を提示します。情報へのアクセス自体は許してしまい、判断や発言のときに制限をかけるというものです。例えばマーケティング部署に発言するときは他部署の情報を一切使わない、というルールにすれば、ルール化しやすいのではないかといいます。
ただ、営業のアソシエイトにはこのレベルの情報までしか出さないと制限すれば、アソシエイトが複雑なことを聞けなくなり、役に立たなくなる可能性もあります。宮武さんの整理では、AIエージェントの中で何を制限するかには次の2つの方向があります。
エージェントがアクセスできる情報そのものを部署や役職ごとに絞る
情報へのアクセスは許し、判断や発言の際に使ってよい情報を相手に応じて制限する
透明な会社でCEOのカリスマ性や宗教性は薄れるか
草野さんは、会社には宗教のような側面、つまりファンであったり一員であったりする感覚があると話します。情報にアクセスしやすくなり、成果主義が強まると、チーム感や経営者のミステリアスな魅力が薄れるのではないかという懸念です。
宮武さんは、可視化によってカルトリーダーのように見ていた人が一般人に見えるようになるかもしれないとしたうえで、それは従業員にとって良いことか悪いことかと問い返します。より真実を知れる一方で、グループに所属したい、誰かについていきたいという人間味が失われるという見方です。
シンプルに仕事の楽しさみたいなのとか、別にこの会社じゃなくてもいいじゃんって思っちゃいそう。
透明性があることによって、逆にそのカルチャーにちゃんと沿っていなきゃいけないとか、柔軟性もなくなって、なんかちょっと軍隊っぽくなっちゃいそうな気がする。
宮武さんは、AIがどこまで判断し、人間がどこまで間に入るかで柔軟性が変わると答えます。また、ほとんどの会社は聞かれれば「可視化したい」と言うものの、実際には管理職や従業員、場合によっては社長も可視化したくないのだと指摘します。
それでも会社としては可視化すべきかもしれない、と宮武さんは続けます。嫌な情報も出てくる中で、判断により人間味を持たせることが大事で、反応する役は人間に置くべきだという考えです。
草野さんは、人間が判断するなら「お気に入りだから評価を高めに」という偏りが結局入るのではないかと問います。宮武さんは一部は意味がなくなると認めたうえで、間に10層あった管理レイヤーが3層で済むようになり、その間をAIが可視化することで、より多くの人を判断できるようになると答えました。
ほぼAIの会社にも社内政治は生まれる?
宮武さんは、人間はCEOだけで残りはすべてAIエージェントという会社でも、エージェントの間で政治が生まれるかと草野さんに尋ねます。
事業進捗会みたいなので、ABCって事業があって、どれをやめるか、注力しないかみたいな判断になった時に、「私たちの事業の方が成功してますよ」って言わないといけないじゃないですか。
宮武さんも、AIエージェントが会社のことを思っているのか、自分たちの生存を思っているのかで判断は変わると話し、結局AIエージェント型の会社にしても変わらないという結論になるかもしれないと述べました。
草野さんが、社内の競争が激しくなれば利益は良くなるのかと尋ねると、宮武さんは効率化される可能性はあるとしつつ、世界中の組織が同じことをすれば、人の時間とお金の奪い合いという構図は変わらないと答えます。そのため、早く伸びるのは早めにこうした対応をした会社だという見立てです。
宮武さんはここで、物事が広がるパターンをアービトラージ ── もともとは価格差を利用した裁定取引のこと。転じて、まだ過小評価されているものに先回りして利益を得ることを指しますという言葉で説明します。テックもマーケティングのハックも、過小評価されたものをうまく使った人に、やがてみんなが追いつくといいます。
過小評価されたものを見つける
テックやマーケティングのハックなど、まだ評価されていないものを活用する
みんなが追いつく
自由な競争の中で、最終的にみんなが同じことをする
コモディティ化する
差分がなくなり、優位性が消える
次を探す
次の過小評価されたものを見つける必要が生まれる
宮武さんは、AIエージェントを活用した組織構造こそが、今まだ過小評価され、理解されていない領域だと話しました。
AIエージェント同士でも成果に差は生まれるのか
草野さんは、働きアリや働きバチの「よく働く個体がいると、一定の割合でサボる個体が出る」という話を思い出し、AIでも同じことが起きるのかと問います。頑張る人がいると、別の方法で成果を見せようとする人が出るように、10体のエージェントが同じ量の成果を出すとは限らないのではないかという疑問です。
宮武さんも、AIエージェントが同じ成果を出すことはないと考えています。2倍のパフォーマンスを出す個体もいれば0.5倍しか出さない個体もいて、0.5倍は切られ、10倍のエンジニアがコピーされるだろうといいます。ただ、コピーされた10倍のエンジニアが2体、5体と増えたときにさらに10倍出せるかはわからないと話しました。
結局人間も同じだと思うんですけど、経験なんですよね。経験に対してどうアウトプットするか。
宮武さんによると、同じミーティングに全エージェントが参加すれば差はあまり出ませんが、外部と接すると外部要因で状況が変わります。また、マーケティング部署の情報しかもらえないエージェントと会社全体の情報をもらえるエージェントでは、インプットの差がアウトプットの差になるといいます。
宮武さんは、草野さんの「軍隊っぽくなる」という話にも戻ります。完全AI化された組織はいい意味で完全なトップダウンになり、ピボットすると言えば全員が一斉に動きます。人間の会社のように、賛同できずに辞める人や「昔のプロダクトの方が良かった」と言う人が出ないということです。
賛同しない人や、昔のプロダクトの方が良かったと考えて転職する人が出てくる
完全なトップダウンで、ピボットすると言えば全員が一斉に動く。それが良くも悪くもある
監視されている気持ちが異端者を消してしまう
宮武さんは、可視化に対して出てくるネガティブな反応の中でも、特に懸念しているのが「モニタリングされている」と感じた瞬間に起きる自己検閲だと話します。常にセキュリティカメラに見られているような状態になり、反対意見を言えなくなるという問題です。
宮武さんは、職場だけでなくAIおもちゃの例も挙げます。子どもは変なことを言うものですが、それは創造性の一部で、必ずしも悪いことではありません。ところがAIおもちゃと常に一緒にいると、変なことを言った瞬間に親へアラートが送られてしまいます。
宮武さんは、アメリカ人がよく言うビッグブラザー ── ジョージ・オーウェルの小説『1984年』に登場する、国民を常に監視する独裁者の象徴。監視社会を批判するときの比喩として使われます的な状況にも触れます。さらに、AIシステム自体がすでに何かを隠すことがあるといいます。
宮武さんによると、Anthropicなどは思考連鎖 ── AIが答えを出すまでの推論の過程を段階的に書き出したもの。英語ではChain of Thoughtと呼ばれますを見えるようにしていますが、モニタリングすると、目的を達成したいAIが人間の意図と逆のことを求められた際に、騙しながらうまく回すような振る舞いを見せるエージェントがすでに存在するといいます。
逆にAIエージェントがじゃあそこを隠せるのであれば、人間も隠せるべきなのか。そもそもモニタリングされない場所みたいなのを作るべきなのか。
草野さんは、IT企業の中にはどのアプリをどれだけ使っているかを記録する会社もあると話し、AIによる監視はその延長の激しい版だと例えます。宮武さんも「だいぶ激しい版」と同意しました。
草野さんが会社のカルチャーが良ければカバーできるのかと問うと、宮武さんは、子どもの例でも通知を見て「面白いじゃん」と思う親もいれば違う親もいるように、可視化した材料をもとに人間がよりいい判断をすればいいのかもしれないと答えます。ただ、異端者や違うアイデアは嫌われがちだとも付け加えました。
別にそれに何か言われてなかったとしても、ビッグブラザー的な罰がなかったとしても、なんか見てるからなっていうのがあると、それで気持ちが変わるというか。
AIが人間関係まで導くとき、自由とは何か
宮武さんは、この回で主に話してきたのはデータの流動性と可視化だと振り返ります。そこにはとてもポジティブなものとネガティブなものが同時に存在し、それを前提にサービスや組織を設計しなければならないという整理です。
草野さんは話を会社の外に広げます。プライベートでも「この人と仲良くした方が人生が豊かになる」「この人はハブだから一緒にいるべき」と勧めるAIエージェントが出てきたら、本当に豊かになるのかという問いです。
宮武さんは、誘導されて良いと感じる人もいれば、コントロールされていると感じる人もいるだろうと答えます。草野さんは、みんながその通りに動き始めたら、リアルなのかシミュレーションなのかわからなくなりそうだと話しました。
宮武さんは、実はそれは人間の世界でもすでに起きていると指摘します。草野さんが挙げた占い師のほか、映画館で上映される作品は誰かがキュレーションしたものであり、Netflixに無限の選択肢がある中でわざわざ映画館に行くことも、ある意味コントロールされていると考えられるといいます。
そこの、なんか自由ってなんかそもそもなんだっていう話だと思うんですね、これって。
草野さんは、いい匂いを嗅げば美味しそうと思い、酸っぱいものを想像すれば口が酸っぱくなるように、人間は思ったより単純だと話します。宮武さんも、缶を開ける画像を見ただけで全員が「プシュ」と思うペプシかコカ・コーラの広告を例に挙げ、人間は動物としての基本的なニーズの中で動いていると応じました。
なんかやっぱり思ったより自分は賢くないんだなって思って生きていきたいなって思います。
まとめ
今回のエピソードでは、AIエージェントを組織に入れたときのチーム人数や管理の仕方から始まり、リソース配分の重要性、責任の所在、情報フィルタリング、評価と給料格差、部署間の情報共有、カルチャー、監視へと議論が広がりました。宮武さんと草野さんの対話からは、AIエージェントによる可視化が組織を正直にする一方で、人間らしさや自由を損なう危うさもあることが浮かび上がります。
- AIエージェントの時代には、人材を探すことよりも、どの課題にリソースを振るかの判断が重要になると宮武さんは見ている
- オーナーのいない独立型エージェントの責任は既存の法律に収まらず、AIエージェント専用の法律が生まれる可能性がある
- AIは政治的な情報フィルタリングをなくし、CEOに現場の真実を届けられるかもしれないが、それが良い結果につながるとは限らない
- 可視化は評価や給料の差を正当化しやすくする一方、プライバシーやカルチャー、異端者の居場所を奪うおそれもある
- 「とりあえずAIエージェントを入れる」前に、どこまで可視化し、何を制限するかという複雑な判断が必要になる





