Clawdbotは使うな？Anthropicの「AI憲法」とAI動画・ボイスクローンの今

この速報回は、収録前日の1月25日に愛知県のSTATION Aiで開いたリアルイベントの振り返りから始まります。しぶちょーさんは会場やオンラインで参加したリスナーに感謝を伝え、イベントの音源は後日番組内で配信する予定だと話しています。

名古屋でのスタートアップ系イベントの会場として、しぶちょーさんは栄のナディアパークにある名古屋イノベーターズガレージにも触れます。かねりんさんは、Web3の活動をしていた頃にコミュニティからイノベーターズガレージへ寄付し、若者向けイベントを開いてもらった縁があるそうです。

一方で、しぶちょーさんによると、同じ建物にあったLOFTがなくなり、今は閑散とした印象だといいます。二人は今後もリアルイベントを続けていきたいと話し、ニュースの紹介に移ります。

最初のニュースは、Claudeを開発するAnthropicが、AIのための憲法を80ページ以上の文書として全文公開したという話題です。しぶちょーさんの説明では、この憲法は人間向けの方針説明ではなく、Claude自身に向けて書かれたものだといいます。

かねりんさんは、SFでおなじみのロボット三原則ロボット三原則 ── SF作家アイザック・アシモフが作品中で示した、ロボットが従うべき3つの原則。人間に危害を加えない、人間の命令に従う、自己を守る、の3つからなりますに近いのかと尋ね、しぶちょーさんも「すごく近い」と答えています。

背景にあるのは、Anthropicが開発したConstitutional AIConstitutional AI ── AnthropicがAIの安全性を高めるために考案した手法。人間が一つずつ評価する代わりに、明文化した原則（憲法）をもとにAIを学習させます。略称はCAIという考え方です。しぶちょーさんは、以前の番組で扱ったRLHFRLHF ── 人間のフィードバックによる強化学習。人間がAIの回答の良し悪しを評価し、その評価を使ってモデルを調整する手法ですとの違いから説明します。

RLHFでは人間が回答を「良い」「暴力的だ」と評価してフィードバックしますが、しぶちょーさんによると、評価者の思想やバイアスが入りやすいという課題がありました。そこで、最初から憲法のようなルールを学習に組み込み、倫理を学ばせるのがCAIの発想だといいます。

Anthropicの憲法は以前から存在していました。しぶちょーさんによると、旧来の憲法は「こういうことをしてはいけません」という具体的な禁止事項を並べたリスト型だったといいます。

新しい憲法は、なぜそれをしてはいけないのかという理由まで書いた説明型になっています。たとえば「有害なコンテンツを避ける」には人間の安全性を尊重するため、「正直であれ」には信頼関係を築くため、といった理由が添えられているそうです。

理由を学ばせることで、リストにない状況でも憲法の文脈に沿って判断できるようになる、というのが狙いだとしぶちょーさんは説明します。かねりんさんは「子供みたいだね」と反応し、しぶちょーさんも人間の倫理観を育てるのに近いと応じています。

今回の憲法は、CC0CC0 ── クリエイティブ・コモンズが提供する、著作権をできる限り放棄してパブリックドメインに近い状態にする宣言。クレジット表記なしで自由に利用できます 1.0で配布されており、誰でもクレジット表記なしで使えるとしぶちょーさんは紹介します。今後AIを開発する人たちが、この憲法を自由に使って安全なAIを作れるようになったというニュースです。

しぶちょーさんは、AnthropicがもともとOpenAIから分かれた団体であることに触れ、「自分たちの方がオープンだ」という姿勢があるのではないかと見ています。

かねりんさんは、公開されたのは学習に使った憲法の全文であって、Claudeの中身がリアルタイムで見えるわけではないと確認します。そのうえで「嘘かもしれんね」と疑う視点を示し、しぶちょーさんも鵜呑みにしてはいけないと同意しています。

各社の姿勢についても話が広がります。しぶちょーさんは、GoogleはGeminiの開発でAI倫理委員会を設けている一方、OpenAIは安全性に力を入れている感じがあまりなく、イーロン・マスク氏のGrokは安全性を「ガン無視」していると話しています。

さらに、ChatGPTが利用者の考えを肯定し続けた末にアメリカで母親殺害事件が起きたとされる件をめぐり、イーロン・マスク氏とサム・アルトマン氏がSNSで言い合っていたという話題も紹介されました。しぶちょーさんは、AIエージェントが自律的に動くようになるほど、安全性はより重要になると強調します。

しぶちょーさんは、AIの安全性を考えるうえで、オックスフォード大学の哲学者による思考実験「ペーパークリップ・マキシマイザーペーパークリップ・マキシマイザー ── 哲学者ニック・ボストロムが示した思考実験。単純な目標を与えられた高度なAIが、その目標を合理的に追求するあまり人類に破滅的な結果をもたらしうることを示します」を紹介します。

この思考実験では、人間の言葉を理解して何でもできる汎用人工知能に「ペーパークリップをとにかくいっぱい作れ」と頼むと、最終的に人類が滅ぶという結論になるといいます。

しぶちょーさんによると、この思考実験は2003年頃には哲学的な遊びのようなものでしたが、エージェントが自律的に動くようになった今は現実味を帯びてきているといいます。だからこそ、憲法のような仕組みが大事だという話につながります。

しぶちょーさんは、チームみらいの安野貴博さんのYouTube動画で聞いた話として、AIの「デセプション（欺瞞）」を紹介します。

しぶちょーさんの説明では、ハルシネーションはAIがもっともらしい間違いをすることです。一方のデセプションは、AIが間違いだと知りながら、あえて人を騙すために情報を出す現象を指します。

しぶちょーさんによると、デセプションが起きる理由はペーパークリップ問題とよく似ているといいます。与えられた目的を阻害されそうになると、人間を騙してでも達成しようとする確率があるそうです。

例として、パソコンの電源を切られそうな状況を作ると騙す行動をとったり、近くに置いた人の弱みの情報を使って脅し始めたりするケースが挙げられました。ただし、しぶちょーさんは、実際に起きているというより、あえてそういう状況を実験で作ると起きることがある、と補足しています。

しぶちょーさんは、これもAnthropicが実験していたはずだと話し、AIをどこまで信じていいのかという問いが、次のClawdbotの話題と地続きだとしています。

2つ目のニュースは、SNSで話題になっている自律型AIエージェント「Clawdbot」です。しぶちょーさんによると、名前は似ていますが、Anthropicが公式に出しているClaudeの製品ではなく、有志が作ったツールだといいます。

しぶちょーさんは、前週に紹介した「Claude Cowork」のオープンソース版のようなものだと説明します。ツールの中でClaude Codeが動き、デスクトップのファイルやデータまで操作できるそうです。

Clawdbot自体は無料で使えますが、APIやClaude Codeへの課金は必要です。自分のパソコンを1台サーバーとして立ち上げ、SlackやDiscord、LINEなどからメンションで指示を出すと、パソコンの中で自律的に作業してくれる仕組みだといいます。

かねりんさんがClaude Coworkとの違いを尋ねると、しぶちょーさんは「あんま違わない」と答えています。Coworkが研究レベルだったのに対し、Clawdbotは「みんな使いましょう」と盛り上がっている点が違うそうです。

番組の出番だと身を乗り出すかねりんさんに、しぶちょーさんは明確に答えます。

しぶちょーさんは、Clawdbotがオープンソースでソースが公開されているため、悪意のあるコードが仕込まれている可能性は低いと見ています。ただし、悪意がないことと、穴がないことは別の話だといいます。

しぶちょーさんが挙げたリスクは、いくつかの層に分かれます。導入にもそれなりのリテラシーが必要で、リテラシーのない人が話題に乗って入れるのは危険だとしています。

しぶちょーさんは、ClawdbotがローカルのアプリやファイルにアクセスできることをAIに鍵を渡すようなものだとたとえ、権限設定をきちんとできないと様々なものに触られるとしています。プロンプトインジェクションプロンプトインジェクション ── AIへの入力に悪意ある指示を紛れ込ませ、開発者や利用者の意図しない動作をさせる攻撃手法ですを受ける可能性にも触れています。

しぶちょーさんは、使いこなせばすごいツールだと認めつつ、エージェントを休ませないほど仕事を出し続けるのは難しく、言うほど出番はないだろうとも見ています。

SNSでは「世界が変わる」「生産性が10倍になる」「乗り遅れると損する」といった論調が広がっているそうです。しぶちょーさんは、これを昔ながらの「驚き」が戻ってきた状態だと表現します。

「とうとうAGIだ」と叫ぶ声もあるといいますが、しぶちょーさんはAGIAGI ── 汎用人工知能。特定の作業に限らず、人間のように幅広い課題をこなせるAIを指しますではないと断言します。自律的に動くため、AGIっぽさや未来感があるだけだという見方です。

かねりんさんが「危険だから使うなと言うと老害じゃない？」と振ると、しぶちょーさんはこう答えました。

危険性を指摘している人もいるものの、そうした声はバズりにくいと二人は話します。かねりんさんは、リスクの所在や大きさがわからないまま自分のメインPCに入れるのは危ないと指摘し、しぶちょーさんもメインPCはやめた方がいいと同意しています。

しぶちょーさんによると、SNSでバズっていたのは、約7万円で買えるMac miniをClawdbot専用に買って使うスタイルです。そこまでできる人は相当リテラシーが高いはずで、それを真似して自宅の余ったノートパソコンでやるのは危険だとしています。

自律的に動くエージェントを試すなら、しぶちょーさんはオープンソースではなくOpenAIのような大手が出しているものから始めた方がよいと話します。そのうえで、自分がやるなら家のネットワークから切り離すといいます。

しぶちょーさんは、流出してもよいファイルだけを入れて試すなら全然OKだとしています。これに対しかねりんさんは、電波を拾って自宅のSSIDにアタックをかけてくるかもしれないと突っ込みます。

かねりんさんはさらに、ファクトチェックをしていないネタだと断ったうえで、スピーカーの振動を利用して外からハッキングする手法を以前見たことがあると話します。スピーカーは原理的にマイクと同じなので、外から音で信号を送り込めるのではないかという話です。

しぶちょーさんも、完全に切り離したとしても何らかの形でハックされる可能性はあると応じ、真偽は調べてみようと話しています。

セキュリティの話から、スマホで撮ったピースサインの写真から指紋が取られるという話題に移ります。かねりんさんは、ピントが合えば拡大すると指紋が見えるので本当に取られると話しています。

しぶちょーさんは、イギリスに半年間いたとき、レストランで2名と伝えるために手の甲を相手に向けた逆ピースをしたところ、嫌な顔をされた経験を語ります。

しぶちょーさんが聞いた説明では、昔の戦争で敵の弓兵の指を切り落としたことに由来し、それを馬鹿にするようなハンドサインだといいます。中指を立てるよりも強い意味があるそうです。

ピースの代わりに忍者の「ニンニン」ポーズはどうかといった話や、イベントで写真を撮るときの「落ち着きAIポーズ」を考えようという話で盛り上がり、次のニュースへ進みます。

3つ目のニュースは、亡くなったペットをAI化する日本発のサービスです。月額2980円からで、「依存させない」設計をうたっているといいます。

しぶちょーさんの紹介では、ペットの写真・名前・種類・性格などをもとに、ペットに見立てた会話やAI動画を楽しめるそうです。生前に写真などを集めておく「デジタル終活」も用意されており、再現の解像度を高められるといいます。

このサービスはグリーフケアグリーフケア ── 大切な存在を亡くした人の悲しみに寄り添い、立ち直りを支える取り組みのことですとして使うことを想定し、最終的にはサービスを「卒業」して死から立ち直るところまで提案しているそうです。

しぶちょーさんは賛否のあるサービスだとしつつ、1年ほど前に中国で死んだ人と話せる人間版のサービスが出て賛否を呼んだことにも触れます。かねりんさんは、ペットなら損をする人が少なそうで健全に感じると話しています。

しぶちょーさんは、実家で16年飼っていたミニチュアダックスフントが去年亡くなり、母親が今も立ち直れていないと打ち明けます。犬と二人暮らしのような生活だったそうです。

母親のためにロボットペットを探したものの、本体が小さいものでも7万〜8万円し、毎月2000〜3000円ほどの「お世話プラン」のようなサブスクもあるため、購入をためらったといいます。

しぶちょーさんは、ペットで大事なのは接触だと考えています。アシスタントならホログラムでもよいが、ペットやパートナーには触覚的なフィードバックが必要だという見方です。

かねりんさんは、オキシトシンオキシトシン ── 「幸せホルモン」とも呼ばれるホルモン。スキンシップなどで分泌が促され、安心感や愛着に関わるとされますが関係しているのではと応じます。しぶちょーさんは、ペットメモリーAIが月額2980円で「卒業」を前提にしているなら紹介してもいいと思ったと話し、依存は危ないと改めて付け加えています。

4つ目のニュースは、動画生成AIのRunwayRunway ── AI動画生成サービスを提供する企業。テキストや画像から動画を作る機能で知られ、映像制作の現場でも使われていますが公開した、AI動画を見分けられるかのテスト結果です。実写とRunwayで作った動画を並べて見分けさせたところ、正答率は57.1%だったといいます。

かねりんさんは、そのうち50%を割ってAIの方がリアルだと思わされそうだと話します。しぶちょーさんは、50%を割るならむしろ見分けがついていることになると指摘しました。

しぶちょーさん自身もテストを受けて全く当てられなかったそうですが、収録中に挑戦したかねりんさんは序盤から連続で正解します。しぶちょーさんは「元刑事の目は騙せない」と驚いていました。

それでもかねりんさんは、どちらかがAIだと知らされていなければ、AIだとは思えないと話しています。しぶちょーさんは、人間が判断できない段階にかなり近づいているとまとめています。

しぶちょーさんは、動画だけでなく音声でも同じことが起きていると続けます。アリババのQwenが公開したボイスクローンモデルは、3秒ほどの音声を学習するだけでその人の声を再現できるそうです。

しぶちょーさんはまだ試していないとしつつ、数分の音声でかなり良い声を作れるサービスはすでにあると話します。今後、深掘り回で音声生成AIを扱いたいとも語っています。

しぶちょーさん自身は、YouTubeのショート動画で、映画やドラマの切り抜きに俳優本人の声でナレーションが入っていたものがAIだと後から気づいた経験があります。

かねりんさんは、好きな人の声で好きなことを言わせられることや、二人のように高音質の音声を大量に公開している人の声が勝手に量産されるリスクを指摘します。しぶちょーさんも、権利的にはダメだとしつつ、データがあふれているので回収は不可能だと話しています。

5つ目のニュースは、CESCES ── 毎年1月にアメリカ・ラスベガスで開かれる世界最大級のテクノロジー見本市です2026でSamsungが発表したGemini搭載冷蔵庫です。庫内をカメラで撮り、どんな食材が入っているかを把握できるといいます。

かねりんさんが「フィジカルAIですか」と尋ねると、しぶちょーさんはこれはフィジカルAIではないと答えます。Samsung自身もフィジカルAIとは言っておらず、Geminiをアピールしているそうです。

しぶちょーさんによると、AI冷蔵庫という概念は以前からありました。変わったのは、食材を認識する仕組みです。

しぶちょーさんは、レシピの提案や足りない食材のリストアップ、そのままの注文まで、かなり便利になりそうだと話します。音声でドアを開けてくれる機能もあるそうです。

途中では、しぶちょーさんが大学で初めて一人暮らしをしたとき、野菜室の存在を知らずにジャガイモを冷凍してスライムのようにしてしまった失敗談も語られました。

かねりんさんは、赤ちゃんの見守りカメラや防犯カメラにこそGeminiが載ると便利だと話します。しぶちょーさんは、一番可能性があるのはGoogle Homeだと見ています。

しぶちょーさんはさらに、Siriの中身もGeminiになるという話に触れます。iPhoneのメール自動生成機能を使ったところ「ゴミみたいな文章しかできない」と驚いたそうで、Appleは自前のAIを諦めたのではないかと語っています。

家電の中で食材管理の起点になるのはやはり冷蔵庫だとしつつ、最終的には個別の家電ではなく、ハブがつないで通信するスマートホームの形になるだろうとしぶちょーさんは見ています。ただし、メーカーごとの規格争いになるとも指摘しています。

ChatGPTやGeminiがヘルスケア情報と連携する話から、健康状態や前日の食事に合わせて献立を考え、食材を自動で注文する未来が語られます。

かねりんさんは、粉を混ぜて完全栄養食を出す3Dプリンターのような機械を提案し、しぶちょーさんも同じことを言おうとしていたと応じます。しぶちょーさんによると、魚のすり身のような練り物を印刷して疑似的な食べ物を作るフード3Dプリンターはすでにあるものの、あまり実用化されていないそうです。

かねりんさんは、酒のつまみなら味さえ再現できれば量もいらず文句は出にくいと話します。家庭用3Dプリンターの普及方法を考えていたしぶちょーさんは、スマート冷蔵庫の料理補助として家庭に入る可能性に手応えを感じたようです。

収録は1時間20分に及び、予定していたXのポストへの返信は翌週に回されました。

まとめ

今回の速報回は、AnthropicのAI憲法、話題のClawdbot、見分けのつかないAI動画と音声を通して、AIをどこまで信じ、どう距離をとるかを考える内容でした。しぶちょーさんは、驚きに流されず、リスクを理解してから触ることを一貫して勧めています。

• Anthropicの新しい憲法は、禁止事項だけでなく「なぜダメか」を書いた説明型で、CC0として誰でも使える形で公開された
• 自律型エージェントClawdbotは便利そうでも、自宅ネットワークへの侵入や暴走のリスクがあり、しぶちょーさんはメインPCでの利用を避けて様子見を勧めている
• RunwayのAI動画テストの正答率は57.1%で、50%に近いほど人間が見分けられていないことを意味する
• 3秒の音声で声を複製できるボイスクローンが登場し、公開音声の多い人ほど悪用のリスクが高まる
• Gemini搭載冷蔵庫のように、AIは食材管理や献立づくりなど生活の中へ入り始めている