Question 1

架空の深夜ラジオアプリ「Nightwave」とはどのような作品か？

Accepted Answer

Hugging Faceのハッカソン（BuildSmallHackathon）で選ばれた、24時間動く架空の深夜ラジオ局アプリである 巨大なLLMではなく、SLM（小型モデル）のみを組み合わせて実装されている DJのトークや曲紹介だけでなく、リスナーが電話をかけてDJと会話できる仕組みが備わっている 出力が崩れた際のフォールバックなど、放送の安定性をアプリ側の仕組みで担保している

Question 2

日本語・ローカル環境への移植にあたり、どのようなモデル構成を採用したか？

Accepted Answer

クラウドサービスに頼らず、手元のMacローカル環境で動かす方針で再実装した DJの思考・発話生成（Brain）には「TinySwallow（1.5B）」の量子化モデルを採用した リスナーの音声認識（ASR）には「FastWhisper（Small）」を採用した DJの音声合成（Speak）には軽量な「Kokoro」の日本語ボイスを採用した

Question 3

リスナーからの電話応答における「トリガー検出」ではどのような課題と対策があったか？

Accepted Answer

AIへのメタな質問（「本物ですか？」など）に面白く答えるため、特定の質問を検知する仕組みが存在した 英語版の疑問詞を単純翻訳すると、「なんとなく」等の言葉に含まれる「何」に誤反応する誤爆が発生した 文末が「〜ですか」などの疑問文の形になっているかを判定するルールを追加して精度を改善した

Question 4

小型モデルの出力や音声合成（TTS）の連携においてどのような調整が必要だったか？

Accepted Answer

小型モデルが出力しがちな不要なリスト記号などを、音声合成に渡す前に除去する前処理を入れた 日本語の音声合成で単語ごとのタイムスタンプが取得できなかったため、句読点や文字数によるチャンク分割で字幕同期を実現した 流暢に話せる一方で、固有名詞などの読み間違いが発生しやすいという課題が確認された

Question 5

小型モデル（SLM）を活用したアプリケーション開発から得られた知見は何か？

Accepted Answer

小型モデルに全てを丸投げするのではなく、役割（責務）を限定して短い発話に専念させると良い体験が作れる 番組の進行管理やフォールバック処理はアプリ側のコード側でしっかりと制御することが重要である プロンプトの調整だけでなく、ルールベースの後処理など泥臭いエンジニアリングを組み合わせることが完成度を高める

Podcast振り返り

#6 AI深夜ラジオ局を日本語Localで動かしてみた