AIエージェントと境界線。退職時のデータ、セヴェランス、記憶の売買まで考える

この回は、AIエージェントが普及した世界を扱う連続トークの第4回です。宮武さんは、この4回目のために前の3回分を話してきたと明かし、キーワードは「境界線」だと切り出します。

宮武さんが最初に挙げたのは、採用と退職の場面です。各従業員がAIエージェントを使うのが当たり前になったとき、新しく採用された人は自分のエージェントを連れてくるのか、会社から与えられるのか、ゼロから育てるのかが、まだ明確になっていないといいます。

特に問題になるのは辞めたときです。人間なら会社のメールへのアクセスを切られても、覚えていることまでは消せません。一方でAIエージェントは情報を記録しているため、記憶でもあり、データの保管庫でもあるという曖昧な存在になります。

草野さんは「映画だったら記録しちゃったらもう殺すしかない」と笑いつつ、持ち出されたらどうしようもないと応じます。宮武さんは、過去の会社の情報は基本的に削除されるだろうと見ています。

宮武さんが本当に難しいと感じているのは、会社の情報そのものではなく、AIエージェントが仕事を通じて学んだやり方の扱いです。たとえば同じ会社に10年いれば、仕事のリズムやプロセス、エージェントとの付き合い方が積み上がっていきます。

草野さんは、AppleからGoogleへ乗り換えたときにパーソナライズされたAIの情報を引き継げるかという、デバイスやOSのプラットフォーム依存の問題にも似ていると指摘します。

宮武さんの例は、10年一緒に働いたエージェントが覚えたメールの優先順位づけです。これは個人のスキルでもあるため、会社のデータは消しつつ、個人のスキルは残すという線引きが必要になりますが、それ自体がとても曖昧だといいます。

草野さんは別の視点も出しました。細かな仕事のフローには会社のカルチャーが染み込んでいるので、転職者が前の会社のやり方を持ち込むと、新しい会社のカルチャーが崩れるかもしれない、という懸念です。

宮武さんは、生産性を求めて人を引き抜いたのにゼロから立ち上げ直しになれば、オンボーディングにかえって時間がかかると反論します。草野さんも、一人で完結する作業なら引き継ぎたいが、申請の仕方やチャットのルールなど組織のルールは別だと整理しました。

宮武さんは、AI前提の組織では全体のルールが書かれているはずなので、個人のエージェントがそれに従うことで、カルチャーを保ちながら個人のスキルセットも邪魔しない形がとれるかもしれないと話します。

これまでは退職者のアクセスを切り、コピーを禁じるだけで済みました。宮武さんは、AIエージェントが情報を保管してしまう以上、データへのアクセスを「レンタル式」にする案もあると言います。

ただ宮武さんは、レンタルしたデータをもとにAIがスキルを学んだ場合、データを返しても学びは残るという矛盾を挙げます。新卒が会社のトレーニングで例文を渡され、エージェントがメールの書き方を吸収した場合、それは会社のものなのかという問いです。

宮武さんの考えは、AIモデルの訴訟でも議論される問題に近く、インプットは許し、アウトプットで線を引くというものです。学んだことはその人のノウハウになり、秘密をコピーして渡したらアウト、という整理です。

草野さんは、メールの書き方ならよいが、売上の数字や細かな社内情報は切り離せるようにすべきで、どのレイヤーで区切るかが難しいと話します。宮武さんは、会社が「これは絶対使えません」というルールを設計すれば、AIエージェントは人間よりもそれに従うはずだと補いました。

宮武さんは、従業員が自分のエージェントを持つことを嫌う会社もあり、最初は会社がエージェントを提供する形になると見ています。ただその場合、辞めるとゼロからやり直しになるので会社を辞めにくくなり、将来的には個人が持つ時代になるのではないかと話します。

草野さんは、AIがない今でも人を通じた情報漏洩は完全には防げないと指摘します。スクショやスパイのような手口もある中で、AIエージェントが普及すれば、どこから漏れたかを追跡しやすくなり、かえって抑止になるのではないかという見方です。

宮武さんはこれに2つの課題を挙げました。1つはエージェントがアクセスできるデータ量がスクショとは比べものにならないこと、もう1つはエージェントが個人の所有物になると、追跡がプライバシー侵害と言われかねないことです。

宮武さんが一番気になっているのは、Apple TV+のドラマ『セヴェランス』の世界です。仕事場とプライベートの記憶を切り離す設定で、5年前と今とでは意味が違って見えるといいます。

宮武さんは、人間ではなくAIエージェントに対する「セヴェランス」が起きるのではないかと考えます。マイクロソフトCEOのサティア・ナデラさんは、仕事用と個人用のメールを分けるように、AIエージェントも分けるべきだと話していたそうです。

草野さんの答えは、完全に分けるのも、一緒にするのも違う、というものでした。仕事がプライベートにつながることも、その逆も現実に起きているからです。日本とアメリカでカルチャーが違う点にも触れます。

宮武さんはさらに、人は仕事と私生活の2つだけでなく、家族、友達、上司、同僚、同期、後輩ごとに少しずつ違うアイデンティティを持っていると指摘します。誰に何を、どんな言い方で伝えるかを、AIはどこまで把握すべきかという問いです。

理想は分けずに1つのAIが境界線を理解することだと宮武さんは言いますが、仕事ではそれが許されないだろうとも見ています。フリーランスや、同僚が飲み仲間になったときの扱いなど、境界線をコンテクストで読みながら生きることは人間の強みだと話しました。

草野さんは、境界線の扱いは自分だけで決まらないインタラクションの話だと指摘します。自分が上司にもっとプライベートを見せたくても、上司はパーソナルスペースを求めているかもしれず、人間でも難しい技術だといいます。

宮武さんは、AIならある程度できるのではと考えます。そのうえで、人が時に職場の人に私生活を見せたり、家族に仕事の話をしたりして境界線を破るように、AIも境界線を破れるようにすべきだという立場をとります。

草野さんが「破っても違うとなる時もある」と返すと、宮武さんは、その間違いを許さないといけないと応じます。踏み込みすぎたAIに、人間が怒る場面も含めてです。

宮武さんの例は、職場で急にパフォーマンスが落ちた人の話です。本人は上司に理由を言えないが、同僚が「実はプライベートでこういうことが」と代弁する。これは境界線を破る行為で、草野さんは「聞かないで欲しかった」と「言ってくれてありがとう」のどちらにもなりうると指摘します。

宮武さんは、仕事用やバスケ用などにAIを切り分けると、こうした境界線そのものが読めなくなり、人生の一部しかわからなくなると考えます。それがAIエージェントの可能性を落としてしまう、というのが宮武さんの懸念です。

草野さんは、境界線を判断するには人間の感情データが必要だと話します。悲しくて怒っている時なら代弁されたくないかもしれず、慰めてほしい時なら代弁がうれしい。その感情がAIと同期されていれば判断しやすいという考えです。

宮武さんは、「今日の感情は」と聞くより、日々の会話の中で上がり下がりを察知する形になるだろうと答えます。返答の遅さやトーン、声質、さらに健康データまで合わせれば、親友のように変化に気づけるはずだといいます。ただし切り分ければ、それも一部しか見えなくなります。

そのうえで宮武さんは、AIエージェント自身が「境界線マップ」を作る必要があると提案しました。ポッドキャストの自分、コンサルの自分、バスケやスターウォーズを語る自分、家族といる自分などをマッピングし、重なりや共通の土台を把握するものです。

草野さんは、人のアイデンティティには揺らぎがあり、誰かのインスピレーションで新しい自分が生まれることもあるので、常に更新されるマップがあったら面白いと応じます。宮武さんは、AIが自ら境界線を破るのは本来レアであるべきだと付け加えました。

宮武さんは、膨大なメモリーが必要で難しいとしつつ、仕事場だけに絞るなどの形から始めるスタートアップが出てきたら面白いと話します。データ化しづらいものをAIが理解することで、人間同士の問題の解決を加速できるかもしれず、そこにプロダクトの大きなチャンスがあると見ています。

草野さんは、企業がリスクを容認しないと実現は難しいのではと問います。宮武さんの見立ては、最初は会社がエージェントを提供し、やがて個人がエージェントを持つ「民主化」が進み、最終的には在職中だけアクセスでき、重要な情報は削除され、ノウハウやスキルは残る、という形で合意されるというものです。

話題は、サム・アルトマンさんらが語ってきた「一人ユニコーン」に移ります。AIエージェントだけを配下に置き、一人で企業価値の高い会社を作るという構想です。

宮武さんは、いつか実現するとしながらも、達成された後は、それを求める人は少なくなるだろうと見ています。今はゲームのように「目指すとかっこいい」雰囲気があるだけで、周りも本人も、あまりよいと思わなくなるのではないかといいます。

その根拠として宮武さんが紹介したのは、あるブログ記事の議論です。労働が自動化されると、仕事を通じて得ていた「誰かのため」「家族のため」という意味合いが薄れ、残るのは人と繋がりたいという欲求だといいます。

共同創業者と一緒にやることや、従業員も含めたカルトのような熱、一緒に何かを成し遂げたい気持ちがそれにあたります。AIエージェントでそれを感じられなければ、一人でやる意味がなくなるかもしれない、というのが宮武さんの見方です。

草野さんも、複数のエージェントを管理するマネージャーになって何億円プレーヤーになっても、楽しいのかという疑問を口にします。

宮武さんは、家族やエンドユーザーのために働くのでは足りないのかと問いかけます。草野さんは、足りなくはないとしつつ、同じ苦労を共有できる同僚がいると幸福度は上がる気がすると答えます。

宮武さんはここで、チームスポーツと個人スポーツの例を持ち出します。コーチすら不要な個人選手もいる中で、一人で戦う選手の喜びとは違うのか、という問いです。草野さんは、成長を見守るファンがたくさんいればよいかもしれないと話します。

宮武さんは、テニス選手のプロダクトは本人のプレーそのものだが、起業家のプロダクトは本人と切り離されたものだという違いを指摘します。草野さんは「やばい、詰められてる」と笑いながら考え込みました。

草野さんの結論は、家族のための一人起業も、従業員や顧客の多い会社も、どちらも幸せで比較ではないというものでした。ただ、プロダクトが出るまでの大変な過程を一緒に見てきた人がいるかどうかは、重要かもしれないと話します。

宮武さんによると、そのブログ記事では、他の人の存在感、つまり「プレゼンス」が大事だと書かれていたそうです。宮武さんはこれを読み、マーク・ザッカーバーグさんがメタバースの文脈でずっと語ってきた言葉だと思い出したといいます。

宮武さんは、AIでコンテンツが無限になり、ベースの知能がコモディティ化すると、逆に希少になるのはプレゼンスや本当に信頼できるかどうかではないかと考えます。

草野さんはこれを、死ぬときに何を残したいか、どれだけ誰かの頭の中に自分がいるかという話につなげます。限られた命の中で誰かに価値や存在感を示すことは、人間にしかできず、生きている間にしかできないといいます。

宮武さんは、プレゼンスの価値はより増すと応じ、スティーブ・ジョブズさんがジョニー・アイブさんを「精神的なパートナー」と呼んだのは、ある意味で一番の褒め言葉かもしれないと話しました。

草野さんが、一人企業よりチームのほうがプレゼンスを多く得られると言うと、宮武さんは次々と問いを重ねます。それは人でないといけないのか、犬ではだめなのか、AIではだめなのか、と。

草野さんは、AIはダメだと答えます。理由は、人は死ぬという儚さにあります。再現性がなく希少だからこそ、限られた人生の時間をその人に投下することに意味がある、という考えです。

宮武さんが、AIがその時一人しか選べないとしたらどうかと問うと、草野さんは「君は不死身だろ」と返します。

一方で宮武さんは、精神的パートナーは自分が思うものだとして、AIでもあり得ると答えます。AIが相手を精神的パートナーと思わないのは少し悲しいが、人間同士でも思いの度合いが違う関係は成立している、という見方です。

草野さんも、親友だと思う度合いが「9割と10割」で違うこともあると重ね、本人がパートナーだと思うならAIもありかもしれないと考えを改めました。

最後の話題として宮武さんが挙げたのは、AIエージェントがもたらす、これまで不可能だったコミュニケーションの形です。2年ほど前に番組で扱った「セカンドブレイン」の話に、ソーシャルな視点が欠けていたといいます。

AIが自分の記憶を補完する「自分のAIモデル」ができれば、その記憶を他の人やエージェントに見せたり、移したりできるようになります。宮武さんは、メンタルモデルをサービス化し、本を書く代わりにそのままダウンロードできるようにするといった可能性を挙げました。

さらにディストピア風に言えば、記憶を売買する市場ができ、ニューラリンクニューラリンク ── イーロン・マスク氏が創業した、脳とコンピューターをつなぐ脳埋め込み型デバイスを開発する企業。表記は一般にNeuralink的なデバイスやAR・VRと組み合わさって、記憶の再現がビジネスになる未来もあり得るといいます。宮武さんは、そうした時代は「来ると思います」と答えました。

草野さんは、脳に直接つながれたら人格が混乱しそうだとしつつ、「こういう経営者になりたいからこの人の記憶を入れる」ように、なりたい自分に近づく使い方はありそうだと話します。宮武さんが「meがweになるのか」と問うと、草野さんは、記憶をキュレーションするのは自分なのでmeのままでは、と返しました。

二人はアメリカ出張中、AIサービスを作る起業家から「付き合っている人の記憶にアクセスしたいか」と聞かれたことがあります。宮武さんは、あまりアクセスしたくないと答えたそうです。

草野さんも、ほとんどの人はしたくないのではと言い、したいと言われたら怖いと話します。

宮武さんは逆の立場から、好きな人にどれだけ好きかを伝えられる、楽しかった記憶を共有できるといった使い道もあると指摘します。それでも草野さんは、人間は分かり合えないから面白いのだと譲りませんでした。

出張中の会話では、「人生で一人だけ思考にアクセスできるなら誰を選ぶか」という質問も出たそうです。三人とも少し異常値の人を選び、その答えは次のとおりでした。

宮武さんは、自分のプロダクトのターゲット層の頭の中がわかれば、究極のPMF検証になるかもしれないとも話します。草野さんは今思えばイーロン・マスクさんもありだといい、自分には真似できない人との距離の詰め方を内側から知ってみたいと語りました。

宮武さんは、これは伝記やドキュメンタリーの置き換えであり、本人の視点そのものを取れる究極のドキュメンタリーとしてエンタメにもなると見ています。草野さんは、覗いてみたら意外と普通の人だったという結果もありうると笑います。

締めくくりに宮武さんは、AIをつくる際にどんな境界線が必要で、AIはそれを破るべきか、守るべきか、切り分けるべきかを、今後もっと考える必要があると話します。今は基本的なツールを人間が使っているから、切り分けるという単純な判断ができるだけだといいます。

草野さんは『セヴェランス』を引き合いに、元は同じ一人でも、職場の同僚とのケミストリーで役割や性格が変わり、分けると差が出てくると話します。宮武さんは、仕事用のエージェントが意味のわからないことを言い出したので削除する、という『セヴェランス』のような事態も起こり得ると笑います。

まとめ

今回のOff Topicは、AIエージェントが生活と仕事の深くまで入り込む未来を前に、データの所有、アイデンティティ、人間関係、記憶という複数の層で「境界線」を考える回でした。宮武さんは仕事と私生活でAIを単純に分けることに疑問を投げかけ、草野さんは人間の儚さや分かり合えなさにこそ価値があると語りました。

• 退職時は、会社の重要な情報は削除しつつ、個人のノウハウやスキルは残す形が落としどころになると宮武さんは見ている
• 人は相手ごとに異なるアイデンティティを持つため、AIは境界線マップを作り、ときに境界線を破れることも必要だと宮武さんは考える
• 労働が自動化されると人と繋がる欲求が残り、一人ユニコーンを求める人は減るかもしれないという見方が出た
• 草野さんは、限られた命の時間を誰かに投資することにこそプレゼンスの価値があると語った
• 他人の記憶へのアクセスは、伝記や究極のPMF検証になる一方、二人とも恋人の記憶は覗きたくないと話した