生成AIの環境負荷からClaude Code・量子化・TPUまで。リスナーの疑問に全部答える

この回は、イベント「PODCAST WEEKEND」の会場にある、おちつきAIのブースで公開収録されました。深掘り回でありながらビデオポッドキャスト回でもあり、前週の速報回に続く現地収録です。

この回のテーマは「おちつきAI目安箱返信回」です。番組は、エピソードの書き起こしをもとにAIキャラクターの「つきえちゃん」が回答する仕組み「おちつきAI RAG」を運営していて、その中にリスナーが落ち着かないAIトピックを投稿できる「目安箱」があります。

RAGRAG ── Retrieval-Augmented Generation（検索拡張生成）の略。AIが回答する前に外部のデータベースから関連情報を検索し、それを参照して答える仕組みですとは何かを問われたかねりんさんは、「参照するデータベースみたいなやつ」と答え、しぶちょーさんに「大体合ってる」と言われています。

目安箱には、番組内でも投稿に触れて回答すると告知していました。ところが実際にはほとんど触れておらず、会場に来たリスナーから「目安箱を見ていないのでは」と指摘されたことが、この回のきっかけです。

かねりんさんは、リアルで人と話して「人がいたんだ」と気づき反省したのだろうと茶化します。しぶちょーさんも、こんなに聞いてくれている人を無視していたのかと認め、目安箱の投稿に時間の許す限り回答していくと宣言しました。

最初の投稿は、落ち着かなさを示す「落ち着きスコア」が42のものです。スコアは100が最大で、高いほど落ち着いていない状態を表します。

かねりんさんは「真面目すぎん？」と反応しますが、しぶちょーさんは大事なテーマだとして、事前に調べてきた内容を紹介します。データセンターが膨大な電力を使っているという話は、よく耳にするものです。

しぶちょーさんによると、アメリカの全電力消費量のうち約4〜5%がデータセンターによるものだったのが、AIによって10%、さらに20%ぐらいまで上がると見込まれています。この数字にはAI以外のデータセンターも含まれていますが、押し上げているのはAIだろうという説明です。

電力だけでなく、データセンターは熱を出すため冷却に大量の水が必要で、周辺環境を壊すという話もあります。イーロン・マスク氏が、宇宙にデータセンターを作って太陽光発電で動かそうとしている話にも触れています。

それでもしぶちょーさんは、AIの環境負荷は確かに大きいと認めたうえで、見方を変えるよう促します。20%がデータセンターだとしても、残りの80%は他のことに使われているからです。

しぶちょーさんのいう動画視聴の電力には、テレビなどの端末の電力も、Netflixのデータセンターの電力も含まれます。かねりんさんは「AIの電力を気にするのに、ネトフリのデータセンターの電力は気にしないのか」とツッコみました。

しぶちょーさんは、AIで環境破壊や地球温暖化が進むという話は「2、3歩飛躍している論理」だとして、一歩落ち着いていいという結論を出しました。ただし、みんなが動画を生成し続けるような使い方なら話は別だとも付け加えています。

かねりんさんも「ネトフリを見るよりAIを使う方がメリットがあるのでは」とまとめ、この回答を「めちゃくちゃ良かった」と評価しています。

2つ目の投稿は、落ち着きスコア38のものです。冒頭には「最近BLの話がないので寂しい限りです」という一言も添えられていました。

しぶちょーさんは、質問の意図が少しわかりにくいと断ったうえで、「チャット画面ではなくAPI経由でAIを使ってサービスを提供するとき、回答の品質をどう上げているか」という問いだと解釈しました。おちつきAI RAGのつきえちゃんも、まさにその形で動いています。

しぶちょーさんが挙げたのはシステムプロンプトシステムプロンプト ── AIが毎回の回答の前に必ず読み込む指示文。役割や口調、回答のルールをあらかじめ設定しておくために使いますの設計です。「あなたはこういう専門家です」「こういう風に回答してください」といった役割を、あらかじめAIに組み込んでおく考え方です。

つきえちゃんにも、「あなたはつきえというキャラクターです」「こういう喋り方をします」という設定が入っています。最近追加された「かねりんモード」や「しぶちょーモード」では、かねりんさん風に「〜だがや」と話し出すような設定もされています。

かねりんさんが「プロンプトエンジニアが叫ばれなくなったのは、裏にそういうものが組み込まれるようになったからでは」と尋ねると、しぶちょーさんは「ちょっと違う」と答えます。そのうえで、今の主流として、プロンプトそのものをAIに考えさせる「メタプロンプティング」を紹介しました。

しぶちょーさんによると、この手順を踏むと思ったとおりの動かし方ができることが多いそうです。プロンプトはまだ大事だと考えている、とも話しています。

続く投稿は、おちつきAI RAGへの要望です。しぶちょーさんは、自分への要望なので読み上げだけにすると前置きしました。

しぶちょーさんはスマホでの動作を確認できていなかったと認め、大きなUI変更のときにスマホ対応がうまくできていなかったのだろうと説明しました。画面サイズに合わせて表示が変わる、いわゆるレスポンシブな設計になっていなかったのが原因のようです。

しぶちょーさんは、開発に使っているReplitReplit ── ブラウザ上でプログラムを書いて動かせる開発環境。AIエージェントに指示してアプリを作ったり修正したりできますにすぐ直してもらうと約束しました。収録当日に直すので、配信時には直っているはずだとしています。不具合や要望も目安箱に書けば直る、と呼びかけました。

次は「シャドーAIについて語ってほしい」という投稿です。こちらは翌週配信予定の深掘り回で1本まるごと扱っているため、そちらを聞いてほしいと案内しています。

しぶちょーさんは、最近もシャドーAIがSNSで話題になっていたと話します。不祥事ではないものの、どう対策すべきか答えが出ていないテーマだから問題になっている、という説明です。

落ち着きスコア22の投稿は、「こういうのは役に立ちそうでしょうか」という提案でした。URLが貼られていたため、URLを読めないつきえちゃんのところで放置されていたそうです。

記事の中身は、日本リスキリングコンソーシアムが「Google AI プロフェッショナル認定証」を1万人に無料提供するというニュースです。本来は有料の講座を7〜8時間ほど受けて取得するものですが、それを1万人限定で無料にするキャンペーンでした。

ただ、このキャンペーンはすでに終わっていました。かねりんさんは「シェアしてもらう時にはもう終わってる」と苦笑いしています。

しぶちょーさんの回答は「いいと思います」です。そのうえで、AI系の講座を選ぶときに見るべきポイントとして、かねりんさんが先回りして答えた「主催団体」を挙げました。

主催がGoogleで、パートナーに経済産業省や文部科学省が入っていることから、しぶちょーさんは「これが怪しいと言ったら全てを疑わなければいけなくなる」と判断しています。

日本リスキリングコンソーシアムは無料で登録でき、IoTやAI、IT系の学び直し講座を無料で受けられるそうです。しぶちょーさんは、国の補助金で回っていると思われるので、積極的に活用していいと勧めています。

一方で、しぶちょーさんは「転職に有利」という謳い文句には慎重です。認定証を持っているからといって有利になるわけではないとし、かねりんさんも「おまけのバッジみたいなもの」と受け止めました。講座の中身はちゃんと作り込まれていると思うので、興味があれば受けてみるとよい、という結論です。

次の投稿は、「有料でいいので、おじさんでもわかるClaude Code導入講座を開催してほしい」という要望です。

しぶちょーさんは、Claude Codeの講座はすでに無数にあるとしながらも、コミュニティで生放送のように一緒に導入する案を出しました。手順を示して導入してもらい、最後に10分ぐらいで作ったものを発表するイメージです。

かねりんさんは、コミュニティで生収録すると、あとで配信される本編を聞かなくなるのではと心配します。そこへ会場のリスナーから、前半を外に出し、後半はコミュニティ内で公開すればよいという意見が出ました。

YouTubeに詳しいリスナーからは、途中でブツッと切ると離脱されるので、ちゃんと完結させたほうがいいという助言もありました。しぶちょーさんは、この場でコアなリスナーの意見を集められることに感激しています。

話は、しぶちょーさんがかねりんさんに譲ったラズベリーパイラズベリーパイ ── 手のひらサイズの基板に部品を載せた小型コンピューター。安価で、電子工作や学習用、小さなサーバーとして広く使われていますへ移ります。モニターはマイクロHDMIでつなぎ、SDカードなど足りないものは自分で用意する必要があります。

しぶちょーさんによると、ラズベリーパイにOSを入れ、その中にClaude Codeを入れれば、あとはClaude Codeが何とかしてくれます。たとえばOpenClaudeのGitHubのURLを渡すと、許可を求められるので「イエス」と答えていくだけで勝手にインストールされるそうです。

かねりんさんは、ラズベリーパイの中なら漏えいの心配もなく「やりたい放題」だと喜びました。体系的に学びたい人には、以前番組で紹介した唐揚げ先生のKindle本も勧めています。

落ち着きスコア58の投稿は、Claude Codeの実行環境についての悩みです。

この投稿はつきえちゃん宛てだったため、しぶちょーさんはつきえちゃんの回答を読み上げました。回答が同意から入るのは、システムプロンプトでそう設定しているからだそうです。

しぶちょーさんも、この回答に賛成します。大きなマシンを入れて一気にいろいろやりたい気持ちはわかるとしつつ、まず小さな環境を用意し、限界がきたらパワーアップすればよいと話しました。

しぶちょーさんは、いきなり大きいものを買うと持て余しがちで、「これをやるかもしれない」と高いものを買ってしまいやすいと指摘します。かねりんさんは、自分はいきなり上級品を買ってすぐにやめるタイプだと認めていました。

ラズベリーパイも最近は値上がりしています。しぶちょーさんによると、ラズベリーパイ4や5なら十分で、Claude CodeやOpenClaudeを動かす程度なら問題なく、3でも動くと言われているそうです。

かねりんさんが譲り受けたのはラズベリーパイ4で、一度も開封していない新品です。しぶちょーさんは、半導体不足で手に入らなかった時期に、見つけたらすぐ2個買い込んでいたと明かしています。

Mac miniに上げるべき場面について、しぶちょーさんは、中で動かしたいソフトウェア次第だと答えました。Claude Codeはコーディングだけでなく、Pythonのプログラムを動かしたり、MCP経由で別のツールを操作したりします。たとえばCADを動かしたいなら、CADが入るPCが必要になります。

次に紹介されたのは、以前にも触れた投稿です。投稿者は番組で紹介されたObsidianObsidian ── 手元のPCにメモを保存し、メモ同士をリンクでつなげて管理できるノートアプリ。動作が軽いことで知られますを使い始めたそうで、「目安箱の投函が少ないのは、目安箱を読んでいないせいだと個人的には思います」という手厳しい意見も添えていました。

かねりんさんはObsidianを「紐付けるやつ」「ローカルのやつ」と思い出したものの、まだ入れていないと白状し、しぶちょーさんに「触ってください」と言われています。

続く投稿は、職場で生成AIを使った資料作りが大フィーバーしているという話です。

かねりんさんは、そういう人は多いと思うと共感します。AIにチェックさせた結果を「この通りやった方がいいのでは」とダメ出しリストのように渡されると、「お前はなんだ」という気持ちになるそうです。

しぶちょーさんも、メールの追伸に「AIに聞いたらこう言われました」と付けてくる人を「生成AI使い始めおじさんあるある」として挙げました。AIに聞くだけなら自分でもChatGPTに貼り付ければできる、というわけです。

しぶちょーさんの対処法は、押し付けてくる人に「あなたはどう考えるのか」を問うことです。AIの出力には突っ込みどころがあるはずなので、事細かに質問を返し、「ちゃんと見ないと面倒だ」と思わせる手もあるとしています。

かねりんさんは、下手な人間の考えより、AIのままの方がましなこともありそうだと指摘します。しぶちょーさんは「痛いところを突いている」と認め、言語化が苦手な人の文章ならAIの方がわかりやすいことは確かにあると話しました。

しぶちょーさんは、自分のアウトプットとして責任を持って出せるかどうかの感覚の違いだとまとめます。自分の思いと一致しているなら、AIの回答をそのまま出しても問題ないという立場です。

最後は、自分の考えを持たずAIの指示のまま動く人は、実質的に脳にAIチップを埋め込まれているのと同じだ、という冗談で締めくくられました。かねりんさんはそうした人たちを「植物AI人間」と呼んでいます。

次は、似た質問をまとめて扱う回答です。「Bonsaiが気になります」「1bit量子化とはどういうものか」「量子化とは何か」という投稿が寄せられていました。

しぶちょーさんによると、Bonsaiは4月に公開されたローカルLLMで、カリフォルニア大学によるものです。名前は日本風ですが日本製ではなく、「世界初の商用レベルの1bit大規模言語モデル」とされています。量子コンピューターとは別の話だ、とも断っています。

量子化の説明は、LLMのパラメーターから始まります。脳のシナプスのような場所に数字が入っていて、間違いを指摘されると数字が少しずつ更新され、正しいことを覚えていくのがAIの学習です。

かねりんさんが「100段階を10段階にするようなもの」と例えると、しぶちょーさんは「そんな感じ」と応じました。粒度を落としても意外と性能は下がらず、モデル自体が軽くなるのが量子化の利点です。

Bonsaiは、1bitにしながらそれなりの性能を発揮するように作られたモデルです。名前は日本の盆栽から来ていて、無駄なものを取って洗練させていく剪定のイメージだそうです。

しぶちょーさんによると、Bonsaiは80億（8ビリオン）パラメーターを持ちながら、重さは1GBほどで、iPhoneでも動きます。通常の8ビリオンモデルなら16GBほど必要ではないかとしつつ、その数字は「適当なことを言ったかもしれない」と断っています。

次の投稿は、「Google AI技術のTPUやTurboQuantについてわかりやすく解説してほしい」というものです。かねりんさんは「詳しい人からの質問」だと驚いていました。

しぶちょーさんによると、TurboQuantも4月に話題になったGoogleの量子化技術です。LLMの中にあるKVキャッシュKVキャッシュ ── LLMが文章を生成する際、すでに処理した部分の計算結果を保存しておく領域。長い文章ほど大きくなり、メモリを圧迫しますという部分を大きく圧縮したものだと説明しています。

KVキャッシュを詳しく理解するにはトランスフォーマーの知識が必要なため、しぶちょーさんは説明を控え、トランスフォーマーを扱う回で改めて取り上げると話しました。要点は、KVキャッシュを小さくしたことで、GPUのメモリであるVRAMが小さくても計算できるようになった、ということです。

TPUは「Tensor Processing Unit」の略で、Googleが開発したAI計算用のユニットです。GPUとは別物で、昔からあるものだそうです。

TPUは販売されておらず、GoogleがTPUを使える環境をレンタルしています。個人なら、GPUなどを無料で使えるGoogle ColaboratoryGoogle Colaboratory ── ブラウザ上でPythonを実行できるGoogleのサービス。機械学習の学習や実験に使われ、GPUやTPUを選んで使えますの中でTPUを選べるそうです。

AIのフレームワークとしては、PyTorchとTensorFlowが二大巨頭です。Googleが作ったTensorFlowにはTPUで計算する機能がふんだんに盛り込まれていて、自然にTPUを使えるとしています。

ここで収録時間が50分に達していましたが、残りも数分で終わるとして回答が続きます。

しぶちょーさんは、TurboQuantを実際には使っていないのでわからないと正直に答えています。MacBook Airの最小構成はメモリ8GBほどで、GPUもないとしながらも、軽いモデルが注目されている流れから、動く可能性は高いと見ています。

かねりんさんは、ローカルLLM対応をうたうパソコンや認定制度が出てきそうだと予想し、しぶちょーさんも「うさんくさいのもいっぱい出てきそう」と応じました。ラズベリーパイでローカルLLMを動かすのはメモリがきつく、動いても古いモデルで答えにならない回答が出てくるだろうとしています。

続いて、以前にも紹介した「AIを構成するGPUやメモリなどのハードウェアと、それを持つ企業の技術面での優劣を解説してほしい」という投稿が読まれました。しぶちょーさんは、まず並列計算を小学生と東大生の例えで説明します。

AIには小さく簡単な計算が大量にあるため、それを小学生にたくさん解かせているのがGPUのイメージだそうです。映像でも各画素を一気に計算したいので、1つずつ処理するCPUでは遅くなります。

かねりんさんが思い出したのは、CPU役が絵の具を1つずつ出して描き、GPU役が一気に絵を完成させるパフォーマンスです。しぶちょーさんは、あれが並列計算と逐次計算の違いだと説明し、ハードウェアの企業紹介は今後に回すとしました。

次は、「最近よく耳にするBtoAやAtoAという言葉が、わかっているようでわからない」という投稿です。「下ネタはない方がいいです」という一言も添えられていました。

BtoBやBtoCは知っていても、Aが何かは2人とも確信が持てません。かねりんさんが「AIのAでは」と推測し、しぶちょーさんは「Business to AI」「AI to AI」のような意味ではないかとしつつ、調べておくと答えています。

続いて、落ち着きスコア72と高めの「社内のRAGを組むときに、どこまでの範囲なら著作権違反にならないか」という投稿です。しぶちょーさんは、AIと法律は改めて取り上げたいテーマだとしました。

しぶちょーさんは今後の三大テーマとして「AIと哲学」「AIと法律」「AIとエロ」を挙げています。かねりんさんは、音楽や絵、声の肖像権など、AIと権利をめぐる発表が最近あったことにも触れました。

途中で「映像が熱で落ちたか」と慌てる場面もありましたが、収録は無事に続いていました。「社内にAIがあまり広がっていない」という悩みについては、翌週のシャドーAI回を聞いてほしいと案内しています。

しぶちょーさんの答えは明快で、Claudeで何でもできるので、Claudeを使えばよいというものです。

一方のかねりんさんは、Claudeの日本語は少し微妙だと感じていて、ChatGPTの日本語力が上がってきたと話します。リサーチから日本語、まとめ、レポートまで、ChatGPTが万能的にいいという評価です。

しぶちょーさんは、ディープリサーチならClaudeの方がいいと考えています。最終的に「自分のおすすめはClaude、かねりんさんはChatGPT」としたうえで、最近あまり話を聞かないGeminiからは乗り換えましょうと勧めました。

かねりんさんがGeminiを使わない理由は、資料を入れておける「プロジェクト」のような機能が見当たらないことです。ClaudeにもChatGPTにもGrokにもあるのに、とこぼしています。

GoogleのNotebookLMNotebookLM ── Googleが提供する、アップロードした資料をもとに要約や質問応答をしてくれるAIノートツール。資料を対話形式の音声にする機能もありますについても、かねりんさんはチャット欄が使いにくいと辛口です。しぶちょーさんは、要約やプレゼン作成、ポッドキャスト音声化、問題作成は結構いいと話しました。

しぶちょーさんは、3月に届いた投稿であることを踏まえ、Geminiは今は「だいぶ押されている」と見ています。かねりんさんは最近ClaudeとChatGPTを同時に走らせていて、しぶちょーさんもManusを含めて4つ走らせているそうです。

最後の投稿は、AIエージェントのManusManus ── タスクを渡すと調査や作業を自律的に進めるAIエージェントサービス。処理にはクレジットを消費しますについての悩みです。

ライトはクレジットの消費がとても少ないモードです。かねりんさんは、マックスでリサーチをしたら一瞬でクレジットがなくなったと振り返り、しぶちょーさんも一発で8000クレジットを使い切り、今月はまだ使えていないと明かしました。

しぶちょーさんは、損をしたくない気持ちが働いて結局マックスを選んでしまうと認め、自分でも「過剰だと思う」と話します。Claudeでも、節約になるSonnetではなくずっとOpusで聞いているそうです。

それでも結論としては、ライトはちょっとしたやり取りに使う程度で、ほとんど使い道はないとしています。かねりんさんも、デイリーのニュース検索をライトで回したら内容が薄くなったと話し、「安物買いの…」と締めました。

こうして目安箱の投稿にはすべて回答しましたが、しぶちょーさんによると、番組のお便りフォームに届いたお便りは、まだ1通も返していないそうです。複数の窓口がある状態を、今後は戦略を立てて1本に絞っていく方針です。

まとめ

PODCAST WEEKENDの会場で、しぶちょーさんとかねりんさんは、放置していた目安箱の投稿に一気に回答しました。環境負荷のようなマクロな不安から、Claude Codeの実行環境や量子化のような実践的な技術まで、どの回答も「まず一歩落ち着いて、小さく試す」という番組らしい姿勢で貫かれていました。

• 生成AIの電力消費は大きいものの、動画視聴など日常の消費も大きく、AIだけを恐れて使わないのは本質ではない
• API経由のAIの品質はシステムプロンプトの設計が鍵で、今はプロンプト自体をAIに考えさせて手直しするのが近道
• Claude Codeの実行環境は、ラズベリーパイなど小さな環境から始め、足りなくなったら上げていけばよい
• AIの答えを押し付けられたら「あなたはどう考えるのか」を問い、自分も責任を持って出せる形でAIを使う
• 1bit量子化のBonsaiやTurboQuantなど、AIを軽くする技術が進み、手元の端末でLLMを動かす可能性が広がっている