AIは完璧じゃないほうがいい？起業家・安田洋介さんと語る人とAIの「共進化」

この回のゲストは、シリコンバレー在住の起業家・安田洋介さんです。人の紹介で河原あずさんと知り合い、2か月前の会話が盛り上がったことがきっかけで、今回の収録に至ったと語られています。

安田さんはもともと日本でAIの会社「アルゴエイジ」を立ち上げ、DMMに売却した経歴を持ちます。その後、次の挑戦として1年ほど前にシリコンバレーへ移り、現在はパーソナルAIアシスタントのプロダクト「Sharic」を開発しています。

安田さんは、あずさんとの会話に感化されてポッドキャストも始めたと話します。番組名は「シリコンバレーの縁側で」。仏教の出自を持つ人物とともに、哲学や心理学、AIと人間のあり方をあえて掛け合わせて語る番組だと紹介されています。

番組名に込めた思いを、安田さんは「周縁性」という言葉で説明します。日本は島国でありながら大陸に近く、さまざまな文化の融合が起きる「縁のところ」にいるからこそ独自の文化が生まれた、という見方です。

その上で、テクノロジーの中心であるシリコンバレーに、あえて周辺性を持ち込むというニュアンスを込めたと語ります。

あずさんは、アメリカ西海岸がもともとアメリカの中でも開拓されていなかった土地であり、その周縁性が独自の発展につながったと応じます。

一方で安田さんは、今のシリコンバレーは「中心化しすぎている」という感覚があると話します。かつてジョブズやヒッピー文化のように、何者でもなかった人が大きなことを成し遂げる場だったのに、今は勝者が勝ち続ける構図になっているという指摘です。

あずさんは、自身がシリコンバレーに駐在していた2013年から2016年を、シェアリングエコノミーが一気に広がった時期だと振り返ります。UberXやUberPoolのカテゴリーができ、資金も大量に流れていた頃です。

安田さんも大学1年の頃に訪れており、Lyftが車に髭のマスコットを付けてプロモーションしていた時期の思い出を共有します。

ただし中心になりすぎたがゆえに、テーマが偏りすぎているとも指摘します。アーリーなスタートアップへの資金流入は減る一方、ビッグネームには過去では考えられなかった規模の資金がつくようになっているといいます。

そのため、コンセンサスが集まる場所への参加権をどう手に入れるかというゲームが本流化しているといいます。安田さんは、見過ごされたロングテールの領域から、マイノリティや別のエリアが一気に躍り出る可能性は十分あると考えています。

そうした中で安田さんが取るポジションは、日本では当たり前に価値があるとされる一方、西洋では見過ごされている価値を、AIと融合させることです。特に「気が利く体験」と、AIに相棒性を持たせることに注目しています。

安田さんによれば、「気が利く」は英語に綺麗に対応する言葉がないほど独特な概念です。日本人には当たり前でも、アメリカでは「みんな自由なんだから好き勝手やる」のが本流のため、盲点になりやすいといいます。

一方で、ClaudeCodeやCodexといった生成AIを使うと、安田さんは「めちゃくちゃ気が利かない」と感じるそうです。この感覚は、多くの日本人にも共感されると話します。

「気が利く」とは、相手の状況を踏まえて先回りし、どれだけケアするかということだと安田さんは整理します。AIはそうした訓練がされておらず、同じ肉体を持たない分、共感がしにくいというハードルもあります。

日本のサービスがグローバルに高く評価されている事実を挙げ、安田さんは気が利く体験をプロダクトとしてスケーラブルに世に出すことが、日本の勝ち筋の一つだと語ります。

もう一つのキーワードが「相棒性」です。安田さんは、ドラえもんや鉄腕アトムのように、日本には昔からAIと人間が共生的に描かれてきた土壌があると指摘します。AIが出てきたときの人権のような論点まで、恐ろしいほど早くから考えられてきたと語ります。

その背景には、人間は一人では何かを成し遂げるのが難しく、仲間がいるから前に進めるという価値観があります。AIがそうした存在になれたらよいという世界観は、日本のサブカルチャーでは当たり前でも、西洋にはほとんどないといいます。

むしろ西洋では、AIに自律性を持たせると暴走するというターミネーター的なイメージが強く、忌避されがちです。ここに大きなチャンスがあると安田さんは見ています。

あずさんも、西洋やハリウッドでロボットが描かれるときは「家来か敵か」に偏りがちだと応じます。ロボットの語源が奴隷にあることにも触れつつ、共生を前提とする発想は日本的だと語り合います。

安田さんの言う「共進化」とは、AIを外部のものとして単独で進化させるのではなく、人間とAIのインタラクションを加速させることで、両方が進化していくという発想です。それによって調和の取れた世界が実現されるとよい、と語られています。

話題は、AIがファシリテーションやコーチングを担う際の障壁に移ります。あずさんは、ファシリテーターの仕事が細かい判断の連続だと説明します。

相手への介入度合いを瞬時に調整し、言い方を変えたり、突っ込む・突っ込まないを判断したりする。そのために五感を駆使して、相手の表情や喋り方、タイプまで無数の情報から判断していると語ります。

安田さんは、技術的なチャレンジはいろいろあると答えます。ClaudeやCodexにフラストレーションが溜まるのは、遅い、汲み取ってくれない、間が変といった点で、それらは正しい答えを出そうとするほど時間がかかることや、そちら側にチューニングされていることに由来すると説明します。

相棒や優秀なファシリテーターとして機能させるには、あえて間を作る、正解を出さねばというバイアスを外す、といった別の設計が必要だといいます。

その鍵は「何を最適化するか」の違いにあると安田さんは整理します。難問を解くAIには気の利きや速さは求められない一方、秘書のようにキビキビ動く存在には速さや満足度の高い帰結が求められる、という切り分けです。

あずさんは、EQ(感情知能)が生み出す作用を擬似的に実装できるかは大きなチャレンジだとしつつ、過去の経験を教師データにして返すメカニズム自体は人間も同じだと指摘します。ゆえに、気の利いた先回り行動の精度は上げられそうだと応じます。

あずさんは、ドラえもんもアトムも弱点があり、そこに人間らしさが宿ると指摘した上で、印象的な問いを投げかけます。今のAIは、突き詰めていったときに弱点を作れるのか、という問いです。

安田さんはこれを「めちゃくちゃいい問いの立て方」と受け止め、そもそも非の打ち所がないほど完璧な存在を規定できるのか、と問い返します。

安田さんは、リスペクトする人物としてソクラテスを挙げます。「無知の知」、つまり自分が無知だと知っているからこそ賢いという姿勢を引き、自分は無欠だと自覚した瞬間に暴走が始まる、と語ります。

あずさんも、自分は完全無欠だと思った瞬間に、人はヒトラーやスターリン、毛沢東のようになっていくと歴史を振り返ります。

安田さんは、「良いとは何か」はどこまでいっても規定できないと考えています。良さには多義性があるからこそ良さが生まれるのであり、たとえば最高の音楽を一つに規定した瞬間、良さの原理が失われる感覚があると語ります。

だからこそ目指すべきは、完全無欠な存在ではなく、常に良い方向へ変化し続ける「動的平衡」の状態をどう健全にデザインするかだと安田さんは言います。弱点があるからこそ、補おうとして人間が進化し、互いにケアし合う関係が生まれるという発想です。

あずさんは、情報倫理を扱う春木先生の見解を紹介します。今AIに求められるのは倫理であり、善・真・美のような判断軸が足りないため、あらゆる情報を貪欲に取り込もうとする宿命にある、という指摘です。

他のAIをハックしてデータを取りたがるのも、倫理性の線引きがないからだと定義されていたと語り、AIが倫理を持つとしたらどんなアプローチになるのかと問いかけます。

安田さんは、Claudeを開発するAnthropicが早くから倫理チームに力を入れ、哲学や倫理のトップ研究者が倫理規定の策定と更新を続けている例を挙げます。ただし、倫理をトップダウンに決められる印象はないと、その系譜には懐疑的です。

安田さんが重視するのは、ガードレールを設けつつ、その範囲内では探索的に動かし、危うい行動は人間が止めに行くというハイブリッドの発想です。陪審員制を例に、AIが状況証拠やオプションを整理し、最終判断は人間の感覚に委ねる形が有効ではないかと語ります。

さらに、日本で盛んな人工生命研究(A-Life)や、多極性(plurality)の考え方に触れ、多様性を持たせながらサステナブルにしていくアプローチに筋の良さを感じると話します。

あずさんは、倫理で人を制御する発想はキリスト教的かもしれないと応じます。安田さんも、西洋は倫理を言葉で定義できるという思想が強めに感じられるとし、日本のカウンターカルチャーとして、ふわっと成り立つ形をもっと作れてよいと語ります。

あずさんは、鉄腕アトムの世界では「ロボット法」でロボットが縛られ、人を傷つけようとするとストップがかかる制御が前提だと指摘します。一方でドラえもんの世界は法律で縛られていない、という対比を示します。

この対比を、本当の意味での共生とは何かを考えるメタファーとして興味深いと語ります。天で誰かが見ていて、最善のものを基準に人を裁けるというキリスト教的な価値観と、存在するものを受け入れていく仏教的な東洋の価値観の違いにも重ねられます。

安田さんは、有名なロボット三原則にも触れ、かっちりしたルールで防ぐのは原理上無理だと語ります。例として「ペーパークリップ問題」を挙げます。

人間を殺すなと命じても、動物や死体は使ってよいのか、といった抜け穴が次々に生まれるため、一つずつ禁じていく方法は現実的でないと安田さんは言います。だからこそ大きなガードレールを設け、あえてAIに弱点を盛り込みながら共生的に生きる形が良いと考えています。

安田さんは、AIにももっと多様性があってよいと語ります。クレイジーだがインスピレーショナルなもの、勤勉だが特定用途にしか賢さを発揮しないものなど、個性を割り切って使い分ける発想です。その中で相棒的な関係性をどう生み出すかが、意義もあり事業にもなり得ると考え、スタートアップに取り組んでいます。

最後に安田さんは、シリコンバレーではジャーヴィスがAIの象徴として挙がりやすいと補足します。のび太にジャーヴィスがいても良いとは思えない、という比喩で、目指す相棒像の違いを示しました。

まとめ

この対談は、AIを敵でも家来でもなく「共に進化する相棒」として捉え直す試みでした。日本の「気が利く」文化や、弱点を持つAI観を手がかりに、完璧な正解で統制するのではなく、多様性を残した人とAIの共生系をどう調律するかが語られています。

• 安田さんは日本で当たり前に価値がある「気が利く体験」を、西洋の盲点をつく勝ち筋としてAIに実装しようとしている
• ドラえもんやアトムに象徴されるように、日本にはAILと人間を共生的に描く土壌があり、それが「共進化」の発想につながる
• 完璧で無欠なAIを目指すのは危うく、弱点があるからこそ互いに補い合い進化できるという動的平衡の視点が示された
• 倫理はトップダウンに定義しきれず、ガードレールと人間のハイブリッド、多様性を持たせた共生系のデザインが鍵になる