AnthropicがAI開発の一時停止を提唱。再帰的自己改善の3つの未来シナリオとClaude Codeの実感

今回の1本目のニュースは、Anthropicが「AI開発の世界的な一時停止」を提唱し、AIがAIを開発する時代に危機感を示した、というものです。Anthropicの研究所が出したコラムのような文章に書かれた提言で、業界で話題になっているとしぶちょーさんは紹介します。

かねりんさんは「既視感あるニュース」と反応します。しぶちょーさんによると、以前イーロン・マスク氏がOpenAIに対して「半年間AIの開発を止めてくれ」と呼びかけた署名活動とは性質が違うといいます。

しぶちょーさんの見立てでは、マスク氏の署名活動は、建前こそ「加速する前に安全性を検証すべき」というものでしたが、実際にはOpenAIに独走されたくない思いや、OpenAIへの対抗心が大きかったといいます。

今回のAnthropicの提言が異質なのは、世界のトップを走る当事者が、自分たちの開発も含めて減速を考えている点です。しぶちょーさんは、その姿勢を「アクセルじゃなくてブレーキ」という言葉で表現しています。

Anthropicの提言の中心にあるのは、AI自身がAIの開発を担う再帰的自己改善再帰的自己改善 ── 英語でrecursive self-improvement。AIが自分自身や後継のAIを設計・改良し、その改良されたAIがさらに改良を進めるというループで性能を高めていく考え方ですという研究分野です。しぶちょーさんは、この技術が完璧ではないにせよ、成り立ちそうな雰囲気が出てきたと説明します。

しぶちょーさんは、まさにその点が懸念だと応じます。この技術を使って各社が性能争いを始めれば、人間がコントロールできる範囲を超えてAIが暴走するリスクが高い、というのがAnthropicの問題意識です。

Anthropic自身も、社内のシステムのコードの8割以上をAIに書かせているといいます。ClaudeでClaudeを作り、Claude Code自体もClaudeを使って3ヶ月ほどで作ったという話は有名だと、しぶちょーさんは付け加えます。

しぶちょーさんによると、AnthropicはAIによる未来のシナリオを3パターン示しています。

1つ目は、電力や半導体の数といった物理的な制約で、AIの性能に上限が来てしまうシナリオです。かねりんさんは「ありそう」と反応しますが、Anthropicはこの可能性は低いと見ているといいます。

2つ目は、今の延長線上で開発が進み、大部分の開発をAIが担い、一部の人間が方向性を決めるシナリオです。今まで1万人や10万人でやっていたことが100人や10人でできるようになり、個人に最適化された世界になっていく、というもので、Anthropicはこれが一番可能性が高いと見ているそうです。

Anthropicが懸念しているのは3つ目のシナリオです。完全な再帰的自己改善が成り立ち、AIが自分の後継モデルを設計して改良するようになると、開発速度は計算資源の制約だけで決まるようになります。

だからこそ、トレンドの一番上にいるAnthropic自身が減速という選択肢を持つべきだ、というのが提言の趣旨です。ただしAnthropicだけでは成り立たず、他社も同じ考えで一時停止する必要がある、と表明したといいます。

かねりんさんは、足並みを揃えると言いながら裏で開発を続ける国が出てくるのではないかと懸念します。中国だけが強力なAIを持つくらいなら、まだアメリカのほうがましではないか、という見方です。

しぶちょーさんは、中国とAnthropicの差がどれくらいあるかは正直見えないとしつつ、大きなモデルの性能差は結構あると答えます。AI開発で重要な計算資源の面で、中国はGPUなどの制約を受けているためです。

中国は軽いモデルに力を入れているものの、AnthropicのMythosMythos ── Anthropicの最上位クラスとされるAIモデルの名称。番組内ではフラッグシップの高性能モデルの例として挙げられていますのようなフラッグシップ級は、その技術だけでは難しいのではないか、としぶちょーさんは見ています。

しぶちょーさんによると、中国は蒸留蒸留 ── 大きなAIモデルの出力を使って小さなモデルを学習させ、性能を近づける手法。他社モデルの無断利用は規約違反などの問題になりますのような手法で性能を上げてきた流れもありますが、それでオリジナルは超えられず、安く似たものを作れるにとどまるといいます。結局、AnthropicやOpenAIがキーを握っているのが今の実態だという整理です。

かねりんさんは、一番安全性を重視しているまともなAnthropicだけがブレーキを踏み、危ういところが開発を進めれば、かえって危険になるのではないかと疑問を投げかけます。

しぶちょーさんは、Anthropicが本当にまともなのか疑っている人もいると紹介します。ベンチャーキャピタリストのビル・ガーリー氏が人気番組『All-In Podcast』に出演し、Anthropicは世界を牛耳ろうとしている、という趣旨を語ったといいます。

ガーリー氏の見方として紹介されたのは、技術で世界をリードしながら自分たちの活動に最も批判的な発言をするAnthropicの曖昧さです。宗教団体や哲学者の団体との対話が増えるなかで、AIに詳しくない団体がAnthropicの示す規則に沿ってしまうのではないか、という構造の指摘です。

しぶちょーさんも、陰謀論的な部分はあるものの、なくはないと同意します。一社で牛耳り、正義の味方のポジションを取っているからこそ、もし悪意があれば誰も止められない、という点は確かにそうだと話しています。

二人の感想としては、イーロン・マスク氏が大きなことをやってくれる期待もあり、サム・アルトマン氏も黙っていないだろう、という競争への期待で締めくくられます。

話題はClaude Codeに移ります。しぶちょーさんによると、最近「Claude Codeの性能が劣化した」としてOpenAIのCodexCodex ── OpenAIが提供するコーディング支援エージェント。Claude Codeと同様に、自分のパソコン上のファイルに対して指示を出して作業させられますに乗り換える動きがニュースになり、Claude側でシステムの不具合もあったといいます。

かねりんさんはちょうどClaude Codeにハマっている時期で、「これすげえ」と使っていたため違いは感じなかったと話します。しぶちょーさん自身も劣化はそれほど感じなかったものの、サブとしてCodexを使えるようにしておくほうがいいと勧めます。

しぶちょーさんのおすすめは、VS Codeに両方を入れ、Claude Codeに作業させた後で、同じファイルをCodexにチェックさせるやり方です。同時に作業させると事故が起きるため、順番に使うのがポイントです。

かねりんさんは前回の収録後すぐにClaude Codeを始め、「うわすげえ」となっている状態だと話します。しぶちょーさんも、Claudeのウェブ版とは一線を画す使いやすさだと応じます。

しぶちょーさんは「使い方おかしい」と驚きつつ、話題ごとに並列で作業させること自体はありだと認めます。かねりんさんは100ドルプランの上限に当たって200ドルプランに上げ、土曜日1日で週リミットの30%を超えたといいます。

一方のしぶちょーさんは、夜だけCADの3Dモデル設計ソフトをClaudeで動かし、プレゼン作成もさせていましたが、3日続けても上限には当たらなかったそうです。

かねりんさんは、メール、Discord、LINEなどに散らばった連絡をすべて把握し、リマインドやタスクを整理して1日のサマリーを出させる仕組みを作ろうとしています。しぶちょーさんも、メール、Discord、LINE、Chatwork、Teams、Slackと連絡手段がばらばらで覚えていられないため、「見張り番」を作りたいと乗り気です。

かねりんさんは、Claudeの中の人たちをXでフォローし始めた矢先に開発減速のニュースが出て、「偽善者みたいなことを言い出した」と感じたと笑います。しぶちょーさんは、減速とは言いつつも、Mythosの要素を用いたモデルが今月中に公開されると言われていると補足します。

しぶちょーさんは、結局後から全部AIができるようになるので「何も作れないよな」と感じるといいます。ツールを開発した人たちやAIベンチャーが、すごい速さで淘汰されているからです。

かねりんさんは、意味のないものを作っても仕方がないので「何が意味あるか」を考える段階だと話し、せっかく作っても3ヶ月ほどで賞味期限が来てしまうと続けます。

しぶちょーさんは先週の金曜日、設計工学会で「設計におけるAIエージェントの活用の可能性」というテーマの90分のセミナーを行いました。大学の先生や企業の人が集まる場です。

会場の約45人に課金している人を尋ねたところ、手を挙げたのは3人ほどでした。使っているツールも、Copilotや無料版のChatGPTが中心だったといいます。

しぶちょーさんは、業務利用とプライベート利用を分けて尋ねています。使ったことがある人はほぼ全員でしたが、日常的に使う人、業務で使う人と絞るほど手は減り、課金している人はごくわずかでした。

ただし関心は高く、講演後の飲み会ではその場でツールを入れて使っていたそうです。しぶちょーさんは「情報に触れていない」ことが原因だと見ており、講演の最後には「AI学びたいならこちら」とこの番組を紹介したといいます。

かねりんさんは、課金して使うことに高いハードルがあると受け止めます。しぶちょーさんは、無料でも結構できるため「払わなくても十分」となるペイウォールがあるのだろうと話します。

かねりんさん自身も、しぶちょーさんから10回ほど勧められてようやくClaude Codeを始めたといいます。きっかけはイベント会場で、しぶちょーさんがVS Code上で直前まで改善作業をしている画面を2秒ほど見たことでした。

かねりんさんが周囲に勧めると「エンジニアじゃないし使いこなせない」と言われるそうです。しぶちょーさんは、コードが書けないからこそ、書けないなりのお作法を学べばちゃんと作れるようになると応じます。

しぶちょーさんは今後、深掘り回や岐阜でのセミナーでClaude Code講座を行う予定で、そのカリキュラム作りの「実験体」としてかねりんさんを使うつもりだと話しています。

2本目のニュースは、寺院向け専門誌『月刊住職』6月号が「AIに戒名を作らせて何が問題か」という特集を掲載し、Xで話題になっているというものです。リスナーからDMで取り上げてほしいと依頼があったそうです。

戒名戒名 ── 仏教で、亡くなった人に授けられる仏弟子としての名前。宗派によって付け方や考え方が異なりますをAIで作らせた結果わかった問題や、僧侶でなければわからない理由を扱う特集で、見出しのキャッチーさがSNSで広まったとしぶちょーさんは見ています。雑誌は6月1日に発売され、価格は1冊2000円ほどだといいます。

二人とも中身は読めておらず、しぶちょーさんは流派ごとに考え方が違うのだろう、と控えめに受け止めています。かねりんさんは、古い業界の人が書いているだけなのか、発見があるのか気になると話し、しぶちょーさんは近くの大きな書店で立ち読みして、次回レビューしたいと話しています。

しぶちょーさんによると、すでにAIを使うお坊さんもいます。法話でAIに聞いた内容を話すという人もいるそうです。

しぶちょーさんが紹介したのは、1月のAIイベント「アイガラ」の共同運営者で、「Web3僧侶」として活動するヒロシさんです。ヒロシさんはお経をAIに読ませ、いろいろな解釈をAIから得ているといいます。

お経は捉え方次第で意味が変わるため、新しい文脈を見つける道具としてAIが役立つ、という考え方です。ヒロシさんは、祈りに反応してお寺が光るといったテクノロジーの演出で、宗教に興味を持つ人を増やせないかとも話していたそうです。

反発はないのかと尋ねたところ、それはお寺ごとの考え方次第だという答えだったといいます。しぶちょーさんは、来る人からの反発より、お坊さん同士の「それはナンセンスだ」という声のほうがありそうだと見ています。

3本目のニュースは、Googleが開発するマルチモーダルのオープンウェイトモデル「Gemma 4 12B」の登場です。メモリ16GBのノートパソコンでも動作し、一回り大きいGemma 4 26Bより性能が高いのに必要なメモリが少ない、という点が話題になっています。

しぶちょーさんは、以前番組で紹介したLM StudioLM Studio ── パソコン上でAIモデルを動かすためのソフトウェア。インターネットにつながずにローカルで大規模言語モデルを試せますにGemma 4 12Bを入れ、メモリ16GBのM4 MacBook Airで試しました。時間はかかるものの動いたといいます。

しぶちょーさんのアフロのアイコン画像を読ませたところ、外部につながらずにパソコンの中だけで内容を説明してくれたそうです。

かねりんさんは、ローカルLLMの使い道を改めて尋ねます。しぶちょーさんは、今すぐローカルLLMで大きなことができるわけではないとしたうえで、将来への備えとして重要だと答えます。

大きなモデルがどんどん高くなる一方で、タスクによってはローカルモデルの性能で十分なものがあります。しぶちょーさんは、使い放題のClaude Codeが突然従量課金になったらどうするか、とかねりんさんに問いかけます。

しぶちょーさんによると、Claude Codeでもすでに一部機能の従量課金が告知されており、少しずつ従量課金へシフトしているといいます。そうなれば一部のタスクをローカルで処理させる流れが来るため、今のうちにローカルモデルを触っておく価値がある、という考えです。

二人は、いきなり全面的に従量課金にすれば反発が大きいこと、Codexのような競合がいることが大事だという点でも一致しています。

かねりんさんが、スクリーンショットの文字起こしにローカルのマルチモーダルモデルを使えるかと尋ねると、しぶちょーさんは、単純な文字起こしならPythonのOCRなど既存のツールのほうが正確で早いと答えます。

4本目のニュースは、Microsoftの開発者向けカンファレンス「Microsoft Build 2026」で、AIエージェント前提の新デバイスが発表されたというものです。6月頭にシアトルで開かれ、SNSで紹介してほしいというコメントが寄せられていたそうです。

しぶちょーさんが紹介したのは「Project Solara」です。据え置き型の時計のようなものと、スマホを小さくしたようなポータブル型の2種類で、エージェントがそこにいる前提で、言葉やカメラ映像で指示を出してタスクを処理させる設計だといいます。

かねりんさんはあまり響かない様子で、驚きポイントを尋ねます。しぶちょーさんも「あんまりない」と認め、Googleの発表と比べてパッとせず、マニアックな発表が多い中で一番わかりやすいものを選んだと明かします。

一方でしぶちょーさんは、専用デバイスとしての扱いには可能性を感じたといいます。医療現場で看護師が薬や患者のタグを読ませて登録を指示するデモがあり、専用端末なら軽く、それしかできないことがセキュリティ面でも利点になると話しています。

しぶちょーさんによると、今はみんなが次世代デバイスを模索し、「スマホの次」を取ろうとしている状況です。挙がったのは、メガネ型、ピン型、スマホの小型版、時計型などです。

目線操作のデバイスも、体を動かせない人向けにはすでに実用化されていますが、次世代デバイスと言えるかは何とも言いがたい、としぶちょーさんは話します。

それでも、ソフトウェア開発はAIに代替されるからとハードウェアに移る人は多く、変わったデバイスがたくさん登場するだろう、としぶちょーさんは見ています。ロボットに注目する人もいれば、物理的なハードに注目する人もいるといいます。

しぶちょーさんが例に挙げたのが、画面付きマイコンボードM5StackM5Stack ── 小型の画面付きマイコンボード。センサーや部品を組み合わせて、手軽に電子工作やIoT機器の開発ができますに体を付けて話せるようにした「スタックちゃん」です。2〜3年前に個人の開発から始まり、最近は正式に製品化されました。

AI界隈の人がこぞって買ってバズっているものの、しぶちょーさんは人気すぎて新しいものを買えなかったそうです。価格は2万円ちょっとで、初代は開発が難しく動かすのに苦労した記憶があるといいます。

しぶちょーさんは、ハードウェアとAIを掛け合わせながら開発していくのも面白いと話しますが、直近は45万円ほどのメガネ型デバイスを優先するため、スタックちゃんは再販を待つつもりです。

お金を使いすぎてクレジットカードの上限に達し、番組の公式ツール「おちつきAI RAG」のAPI費用が払えず止まるかもしれない、という話も出ます。かねりんさんは、専用のカードで上限を設定しておけば使いすぎを防げる、という使い方の知恵として受け止めています。

目安箱の投函も新しいお便りもなかったため、かねりんさんは4月8日に届いた古いお便りを読み上げます。

しぶちょーさんは、ホームページには別の根本的な指摘もあったと明かします。「おちつき」のアルファベットの綴りが、番組の公式サイトとおちつきAI RAGで違っていたのです。

番組の公式サイトは「ochituki」、おちつきAI RAGは「ochitsuki」で、二人の間で綴りの認識が割れていました。ドメインの問題なので変更はできず、しぶちょーさんは「落ち着き感の違い」と笑いに変えています。

色合いについてしぶちょーさんは、ManusManus ── AIエージェント型のサービス。指示に沿ってリサーチやWebサイト制作などを自動で進めてくれますが、利用にはクレジットを消費しますで作ったサイトをGitHubに上げ、Claude Codeでローカルで改善してから戻す方法を提案します。こうすればManusのクレジットを使わずにサイトを更新できるといいます。

Claudeに一からWebページを作らせるとデザインが微妙だった、というかねりんさんに、しぶちょーさんは「使い方が悪い」と答えます。skillやclaude.mdの設定次第で、公開されているデザイン用の初期設定を入れればいけてるデザインになるそうです。

もう1通のお便りは、Webサイト制作ツールについての質問です。

しぶちょーさんはLovableは触っていないと断ったうえで、ReplitReplit ── ブラウザ上でコードを書き、実行・公開までできる開発プラットフォーム。AIエージェントによるアプリ作成やデプロイにも対応していますを推します。

設計工学会のデモとして、8人ほどのAIエージェントが議論して形を作るアプリを作り、参加者のスマホで使えるようReplitにデプロイして配布したそうです。PodcastMixerというイベントのサイトもReplitで作ったといいます。

Replitは100ドルなどを現金でチャージし、消費額がドルで表示されるので精神的なダメージはあるものの、実際は1タスク0点何ドル程度だといいます。英語のUIしかない点には慣れが必要だそうです。

しぶちょーさんは、最近はCodexやClaude Codeでも十分にサイトを作れるという話が出ており、Claude Designも登場したと紹介します。

ホームページがいけていないと思ったら、まずウェブ版のClaude Designでデザインさせ、書き出したHTMLをローカルに入れてClaude Codeで作り込むと、いいデザインの状態から進められるといいます。

結論として、しぶちょーさんは目的次第だと答えています。手っ取り早くWebページを作りたいならReplitに課金してそのデザインツールと進めるのが早く、Claude Codeも学びたいならClaude Codeで作るのがよいといいます。

ただ、すぐ公開したい場合は、サーバーを立てる手間を考えると、最終的なデプロイ先としてReplitやManusがあったほうがいい、としぶちょーさんは付け加えています。

エンディング後のアフタートークで、かねりんさんは、みんながClaude Codeでここまでできると思うと視点が変わる、と話します。

しぶちょーさんは、会社ではClaude Codeのようなエージェントツールが使えないため、購入品の表に「1980円」と数字を打ち込むようなExcel作業を自分でしていると明かします。セキュリティ上仕方ないとしつつ、知っているからこそのもどかしさがあるといいます。

会社で使えるのはCopilotだけで、しぶちょーさんは「使いこなせていないだけだと信じている」としつつ、今のところ回答にその威力を感じられないと話しています。

二人はG検定の話題に移ります。しぶちょーさんは頭痛もあり、全12回ほどの対策シリーズを考えていたものの、要点を押さえる凝縮版にしたいと話します。

かねりんさんからは、リスナーは各自で対策を進め、合格した人だけが集まるオフ会を10月頃に開く案が出ます。合格発表は受験の2週間後ぐらいで日付が明確でないため、発表後の日程で決めることになりました。

かねりんさんが不合格ならオフ会に来られないのでは、という話から、「AI素人」という肩書きにクレームが入っている話になります。

しぶちょーさんによると、かねりんさんはITには詳しいもののAIは知らないという立場で、「素人」という言葉がパソコンの電源の入れ方もわからないようなIT素人を連想させるところにギャップがあるといいます。

まとめ

今回の速報回では、Anthropicによる一時停止の提言を入り口に、AIがAIを作る未来への危機感と、それでも加速する現場の実感が並んで語られました。専門家でもAIに課金している人はごくわずかという現実と、Claude Codeで働き方が変わりつつあるかねりんさんの姿の対比が、この回の中心にあります。

• Anthropicは、完全な再帰的自己改善が成り立つとAIの制御を失うおそれがあるとして、各社そろっての減速・一時停止の必要性を表明した
• Anthropicが一社で影響力を持つことには、陰謀論めいた批判もあるが、構造的には起こり得ると二人は受け止めている
• 設計工学会の会場では約45人中、AIに課金しているのは約3人で、関心はあっても情報やきっかけが不足している
• Gemma 4 12Bのような軽量モデルの登場で、ローカルLLMは将来の従量課金への備えとして触っておく価値が高まっている
• Webサイト制作は目的次第で、手早く公開するならReplit、学びながら作るならClaude DesignとClaude Codeの組み合わせが勧められた