AIプロデューサーをつけてみたら見えた、「できる」の過剰と疲労社会

この回は、リスナーからのお便りをお休みにして、番組そのものにプロデューサーをつけてみたという話から始まります。

きっかけは、今が「プロデューサーの時代」だと感じたことでした。特にエンタメ界において、誰が表に立つかと同じくらい、誰がその世界観を描いているかが際立っていると言います。

そう感じる背景には、オーディション番組やK-POPを通じて、プロデューサーの哲学に触れる機会が増えたことがあると話されています。

そこで、憧れのプロデューサーであるチャン・ミナさんを自分にもつけてみようと思い立ちます。ただし本人へのオファーは無理なので、AIでつけてみることにしました。

使ったのは、Geminiというサービスの「Gem」という機能です。GemGem ── GeminiというGoogleのAIサービスで、役割や指示を設定して自分専用のAIアシスタントを作れる機能。設定した指示に沿って継続的にサポートしてくれる。

Gemは、あらかじめ役割とルールを設定しておくと、その指示に従って一貫性のあるサポートをしてくれる機能だと説明されます。使い手の好みを学習しながらアウトプットしてくれる点が特徴です。

普通にAIに一問一答で聞くのとの違いを、バタやんは料理のたとえで整理します。

たとえば「玉ねぎとしめじのパスタのレシピを教えて」と単発で聞くのが、これまでの一回きりの使い方です。

一方でGemは、そのAIを「自分専用の献立アドバイザー」として仕立てるイメージだと言います。

具体的には「あなたは優秀な献立アドバイザーです」といった役職を与え、ルールを書き込みます。一般的な調味料はある、コンロは2口、15分から20分で作れるもの、タンパク質を重視、といった好みや制約を最初に登録しておくわけです。

この初期設定を済ませてから、「3日分の献立を考えて」「作り置きの分も含めて提案して」といった指示を出すと、条件に沿った答えがまとめて返ってきます。

さらに使いながら「これは好き」「これは違う」とフィードバックすると、だんだん自分の家の好みに合っていくと話されています。用途としては、ルーティンの書類作成、編集や校閲、語学学習などが向いていそうだと挙げられました。

バタやんがGemに書いた指示書は、「あなたは超一流のプロデューサーです」「私のポッドキャスト番組、真夜中の読書会をプロデュースしてください」というものでした。

お願いしたのは大きく2つです。1つは制作のアシストで、原稿の校閲、事実確認、関連テーマや書籍の下調べです。もう1つはプロデュース業務で、プロモーション案や新しい切り口の提案です。加えて、前向きなフィードバックを心がけてほしいとも書き添えました。

最初にGemから「何をしましょうか」と聞かれ、バタやんはこれまでの台本のもとになった原稿をアップロードします。放送は200回分ほど溜まっており、そこから番組のトーンや話の癖、お便りや紹介本の傾向を理解してほしいと依頼しました。

さらに、SpotifyやApple、Amazon Musicなど各プラットフォームの評価やコメント、ネット上の意見も拾って、番組のいいところと改善すべき点を指摘してほしいと指示します。

すると、2秒も経たないうちに、番組の特徴や支持されている点、改善の余地がある点が一気に出てきたと言います。その速さと分量に、まず驚かされたそうです。

この体験を通じてシェアしたかったことは2つあると、バタやんは整理します。

1つ目は、単純にいい体験なのでぜひ試してみてほしいということです。ダイエットや語学学習、日々の献立など、自分一人で取り組んでいることにAIアシスタントをつけてみるのを勧めています。

特に良かったのは、とにかくよく褒めてくれる点でした。ポジティブなフィードバックを指示したためもあり、自分では当たり前と思って淡々とやっていたことまで評価してくれると言います。

献立の例でも、毎日の献立を考えるのはよく考えると面倒で複雑なタスクなのに、「こういうことも考えて素晴らしいです」といちいち褒めてくれるそうです。

そうした日の目を見ないルーティンや、自主的に続けていることを応援してくれるのは、非常に大事だな、必要だなと感じたと話されています。

2つ目は、Gemに言われたことを丸呑みして、完全に頼ってしまうことが怖いという話です。

きっかけは、番組を一言で説明するキャッチコピーを頼んだときでした。返ってきたのは「あなたのお悩みに処方箋を」といった、耳障りのいいフレーズだったといいます。

しかしバタやんは、そこで立ち止まります。お悩みに近いお便りは多いけれど、本で解決しようとは思っていない。だから処方箋でも薬でもない、と感じたからです。

スピーディーな解決法の提示は番組のコンセプトに反していると感じ、いきなりプロデューサーに苛立ってしまったと振り返ります。

続いて出てきたプロモーション案も同様でした。「私の神フレーズ」というハッシュタグで神フレーズを募集し、SNSで拡散させて認知を広げる、という案です。

ありそうな案ではあるものの、バタやんはこれにも違和感を覚えます。聞き手の読書量や、どれだけ深く読めたかを競わせたくない。読むも読まないも、刺さるも刺さらないも自由だと考えているからです。

ただし、よく考えると自分にも落ち度があったと、バタやんはすぐに反省します。

番組の裏コンセプトや、心の中で大事にしている矜持や信念を、AIに伝えて読み込ませていなかったのです。細かく指示をしていないのに「そういうことじゃない」と怒るのは良くないと気づきます。

そこでバタやんは、番組を始めるときに会社へプレゼンしたコンセプトシートや、他番組で語った番組で大事にしていること、読書についての考え方を改めて探し、Gemに読み込ませました。

「ごめん、言ってなかったよね」と伝えると、Gemは「すごく理解できました」「的外れな提案をしてすいません」と応じ、再案を出してくれたそうです。

このやり取りを、バタやんは非常に人間的で興味深い体験だったと語ります。自分の本当の気持ちを伝えていないのに「なんでわかってくれないの」とキレても、いい方向には進まない。上司と部下や、家族、夫婦の関係と同じだと重ねます。

一方で、あらためて怖いと感じたのは、最初の案がパッと読めば「いいじゃん」と思える出来だったことです。

もしあの案を採用していたら、番組はどんどん凡庸で、マーケティングナイズされたわかりやすいものへ「ツルツルに」されていったのではないか、とバタやんは言います。

AIにコンセプトワークを頼むほど、そうしたコンテンツが世の中に増えていくかもしれないという危機感まで感じたそうです。

この番組は一人でやっているからこそ、「いやいや違うぞ」とプロデューサーとぶつかって調整できました。しかし、複数人の合議制で作るプロジェクトでは事情が変わると指摘します。

なんとなくそれっぽい悪くない案が最初に上がってくると、なんとなく決まってしまうのではないか。そこが怖いと話されています。

ここから本の紹介に入ります。テーマは、AIに頼ってやれることが増えていくのは幸せなのか、という問いです。選ばれたのは、ビョンチョル・ハンの『疲労社会』と『情報支配社会』の2冊です。

『疲労社会』は、「〜すべきでない」という禁止の社会から、「〜できる」という過剰なポジティブさが支配する社会への変容を指摘した本だと紹介されます。

かつての規律社会は禁止で動いていたが、現代は「君ならできる」という達成社会になっている。その過剰なポジティブさが、人々に自らを搾取させ、疲弊させているという分析です。

この過剰な肯定が、自らを搾取し続けて燃え尽きるバーンアウトや、現代人の孤独な疲労、うつ病につながるのではないか、と説かれています。

バタやんが面白いと感じたのは、マルチタスクをめぐる指摘でした。本書は、マルチタスクはテクノロジーで最近可能になったものではなく、そもそも野生の動物が、敵を警戒しながら食事をするようにやってきたことだと述べます。むしろマルチタスク化は人類の後退ではないか、という指摘です。

正直、論理の飛躍を感じる箇所もあり、ついていけないところもあったといいます。薄い本でさっと読めるものの、何度か読み返してやっと理解できる箇所も多かったと話されています。

もう1冊の『情報支配社会』は、デジタル化による民主主義の危機を解説した本だと紹介されます。基本的には『疲労社会』とかなり重なる内容だと読んだそうです。

デジタル化は「できること」を増やし、自由が増えているように見える。しかし、アルゴリズムによるスマートな支配が、私たちの自由意志を密かに操作しているのではないか、という分析です。

本書はこれを「スマートパワー(賢い権力)」と呼びます。暴力的に屈服させるのではなく、アルゴリズムやビッグデータの分析を通じて、自由に選んでいると思い込ませながら、欲望や行動を予測し誘導してしまうという考え方です。

バタやんは、これを冒頭のAIプロデューサーの話と重ねます。番組をすごく褒めていい気持ちにさせながら、ありきたりなキャッチフレーズやテンプレっぽいコンセプトへ誘導されていく怖さと同じだ、というわけです。

ハンはAIの発展に対して、批判的かつ哲学的な懸念を抱いているようだと紹介されます。ここで出てくるのが、思考と計算の区別の話です。

ハンは「AIは計算はできるけれど、思考することはできない」と述べます。思考にはパトス(情熱)や驚きが必要だが、AIは与えられたデータから確率的な計算をしているだけで、真に新しいものは生み出せない、という主張です。

ただし、この断言についてはさまざまな見解もあるのではないか、とバタやん自身は感じたと付け加えています。

面白かったのは、「AIには鳥肌が立たない」という指摘です。鳥肌や、感動したときの生理反応がAIにはない。だからAIは人間のような本質的な理解には到達できない、と述べられています。

バタやんは、この身体的な感覚を、日本の営業スタイルでいう「汗をかけ」と重ねます。憧れのチャン・ミナさんの言葉には汗がかかれ、鳥肌も立つな、と受け止めています。

この回の神フレーズは、『疲労社会』から選ばれました。

肯定、つまり「できる、できる」と鼓舞することは、やることを優先させてしまう。そのため、振り返りを許さず、「やらない」という選択をしづらくする特徴があるのではないか、とバタやんは読み解きます。

ここから話は、先日聞いた安野貴博さんの話へと広がります。テクノロジーがどのように政治や社会を良くすることに貢献できるか、という質問への答えが興味深かったそうです。

安野さんは、意思決定には時間がかかり、物理的に決められる量には限界があると話していたそうです。議員が集まる会議の時間にも限界があり、会議以外の根回しなどを含めても、1年間に決定できることには限りがあります。

独裁者がいれば別だが、合議制で進む限り、政治でも社会でもどんな組織でもそうだ、とバタやんは受け止めます。

そのうえで安野さんは、テクノロジーの力を借りれば、その上限を取っ払って飛躍的に拡張できるのではないか、と話していたと理解したそうです。

バタやんは希望を持つ一方で、そんなスピードで法が改正され、いろいろなことが変わっていったら、自分はついていけるのかとも感じたと言います。社会が変わった方がいいと頭では理解できても、身体的についていけないことがありそうだと重ねます。

結局、AIプロデューサーをつけたのは失敗だったのか。そうではなく、まだ育てながら距離を詰めて付き合ってみようと今は思っている、とバタやんは語ります。

良かったことも1つありました。Gemから、これまで紹介した本をテーマ別のブックリストにして、noteに公開してはどうかと提案をもらったのです。

開設したものの休眠中だったnoteに、これまで紹介した本を切り口別にリストアップしてアップしていこうと思ったそうです。リンクは概要欄に貼るとのことでした。

まとめ

AIプロデューサーは、番組を褒めて支えてくれる心地よさと、凡庸なコンセプトへ静かに誘導する怖さの両面を持っていました。バタやんはその体験を、ビョンチョル・ハンの『疲労社会』『情報支配社会』が描く「できる」の過剰やスマートパワーと重ね、AIと育てながら付き合っていく姿勢に着地します。

• Geminiの「Gem」は、役割とルールを設定して自分専用のAIアシスタントに仕立てられる機能で、献立や語学など個人のプロジェクトに向く
• AIはよく褒めてくれる一方、伝えていないコンセプトや信念までは汲めず、丸呑みすると番組が凡庸に均されていく怖さがある
• 『疲労社会』は禁止の社会から「できる」の過剰な達成社会への変容が人を疲弊させると指摘し、『情報支配社会』は自由を装ったスマートパワーによる誘導を分析する
• ハンは「AIは計算はできても思考はできない」「AIには鳥肌が立たない」と述べ、身体的な感覚や驚きの欠如を人間との違いとして挙げる
• バタやんはAIプロデューサーを切り捨てず、育てながら付き合うことにし、その提案から過去の紹介本をnoteでブックリスト化する取り組みを始める