AIに一気に作らせるより「小分け」が大事な理由──トークン節約の実践術

Fable延長中に何を作るべきか

00:21 から再生する

前回「あと二日」と紹介されたFable文脈から、期間限定で使えるAIコーディング関連の環境・ツールを指していると思われます。番組内では「使える期間」があるものとして語られています。ですが、期間が延長されたとのことです。宗形さんはこれを「アディショナルタイムに突入」と表現しています。

Fableでできることとして、まず「計画を立てるのが非常に強い」と言われている点が挙げられます。そのため、この使える期間中に今後に生かせる土台を作る動きが多いのではないかと宗形さんは見ています。具体的には、今後もう少し性能の低いモデルでも再現できるような指示書を作る、AIのスキルを拡充する、といった使い方です。

トークン上限はなぜ来るのか

01:44 から再生する

そもそもトークン上限に達するかどうかは、基本的に入力トークンAIに送り込む文章の量。ユーザーからの命令だけでなく、過去の会話履歴も含まれます。と出力トークンAIが書き出す文章の量。プログラムを一から大量に書かせるほど増えていきます。の計算で決まると宗形さんは説明します。上限のHPのようなものが、このやりとりでどんどん減っていくイメージです。

出力トークンが増えるのは、プログラムなどを一からたくさん書かせるときです。一方、入力トークンが増えるのは、長い命令をするときだけではありません。会話のやりとりが伸びていくと、過去の会話履歴も含めてAIに毎回送られるためです。

会話を長引かせないことが一番効く

03:37 から再生する

トークン上限に行きづらくするコツとして、宗形さんが「一番効く」と挙げるのが、一つの会話を長引かせすぎないことです。「こういうサービスを一から十まで作って」と依頼すると、作り終えるまで会話を途切れさせることができず、依頼がどんどん膨大になっていきます。

さらに、会話が膨大になると別の問題も起きます。AIが覚えられるコンテキストAIが一度に保持できる文脈・記憶の容量。上限が決まっており、超えると古い情報が扱えなくなります。の量には上限があり、そこに達すると自動で圧縮がかかる仕組み（オートコンパクト会話が長くなり記憶の容量が上限に近づくと、過去のやりとりを自動で圧縮する機能。宗形さん自身「専門用語はわからない」と前置きしています。）があるためです。

その結果、「一瞬バカになる」、つまり一部の記憶を失ってしまうタイミングが生じます。だからこそ、ステップを踏んで会話を区切る進め方が有効だというわけです。

設計書から始めるステップ分割の進め方

05:46 から再生する

「会話を区切ると前のことを覚えていないのでは？」という不安があるかもしれません。しかし、Claude CodePCにインストールして使うAIコーディングツール。作られたファイルがローカルに保存されるため、新しい会話でもファイルを読み込んで状況を把握できます。書き起こしでは一度「Codex」と言いかけて訂正されています。のようにPCにインストールして使う形の場合、作られたファイルがそこに存在しています。新しい会話を始めても、AIがそのファイルを読めば「今このプログラムはこうなっている」と理解できるため、実はそれほど問題にならないと宗形さんは言います。

より確実に進めたい場合の手順として、宗形さんは次のような流れを紹介しています。

この進め方であれば、上限には達しづらいのではないかというのが宗形さんの見解です。実際、宗形さんはいつもこのやり方で作っており、20ドルプランでもあまり上限に来ないとのこと。今回のFableでは5プロジェクトほどを並行させたため5日目あたりで上限が来たそうですが、それでも会話を伸ばしすぎないこと、一つの目的を遂行させる会話を区切ることの効果を実感しています。

過去に作ったものを見直すという使い方

07:59 から再生する

宗形さん自身の今回のFableの使い方は、一から作るよりも、過去に作った自分のものを最適化することに重点を置いているそうです。もし過去に何か作ったものがあるなら、次のような依頼が有効だと紹介しています。

一方で、UIやユーザーの見た目を「もっと良くして」という依頼については、宗形さんの体感では「そこまで突出している感じではなかった」とのことです。どちらかといえば、難しい機能を順番を追って作ることや、仕組みの見直しといった領域が強いのではないかと述べています。

対策として、たとえば「この指示書に従って順番にやっていって」と指示書だけを明示してあげると、AIが最低限だけを見てくれるようになるかもしれない、とも補足しています。やりながら、いい塩梅を見つけてほしいというのが宗形さんのメッセージです。

まとめ

今回は抽象度の高い話が中心でしたが、要点はシンプルです。トークン上限は入力・出力トークンの積み重ねで来るため、一つの会話を長引かせないこと、そしてステップを区切って一つの目的ごとに進めることが節約につながります。会話を区切ってもファイルが残っていればAIは状況を把握できるので、心配しすぎる必要はありません。過去の制作物のセキュリティ監査やコスト最適化に使うのも有効な活用法です。

なお、番組の最後には翌日昼のChrome拡張機能（ブラウザ拡張機能）ウェビナーの告知がありました。ブラウザからすぐ呼び出せる機能を短時間で作れるようになる内容で、普段の情報収集の時短にコスパよくつながるとのことです。金曜昼12時開催ですが、Peatixから申し込めばアーカイブ動画が届く見込みとされています。