Anthropicはなぜ国防総省を拒んだのか。ダリオ・アモデイの安全最優先とClaude躍進の理由

この回のおちつきAIラジオは、毎月10日ごろに科学系ポッドキャスターが共通テーマで語る企画「科学系ポッドキャストの日」への参加回です。しぶちょーさんによると、この企画は3年以上続いています。

科学系ポッドキャストの日は、毎月ホスト番組が共通テーマを決めます。今回のホストは佐々木亮さんの「宇宙話」で、毎日更新を続けて4月上旬ごろに2000回を迎えるそうです。その記念も兼ねて、しぶちょーさんが参加を立候補しました。

共通テーマは「社会」で、AI、GPS、スマホなど社会を変えた科学が題材です。しぶちょーさんは、ChatGPTの登場で社会がガラッと変わったのは言うまでもなく、しかも今まさに変わっている最中だと話します。

そこで今回は「AIが社会をどう変えたか」ではなく、社会を変えていくプレイヤー、つまり誰が変えていくのかに焦点を当てると宣言しました。

途中では、おちつきAIラジオのリスナーが着実に増え、3年半以上続くしぶちょーさんの「ものづくりのラジオ」に追いつきそうだという話で盛り上がります。二人は来年には「AIで社会と言えばおちつきAI」と言われるくらいになりたいと笑い合いました。

しぶちょーさんが今回選んだプレイヤーは、Claudeを開発するAnthropicです。ChatGPTでAI活用の時代を作ったのは間違いなくOpenAIの功績だとしつつ、今勢いがあるのはAnthropicだと話します。

ただし今回は、Anthropicの技術ではなく、思想や社会への向き合い方を深掘りする回だと位置づけられています。

しぶちょーさんの紹介によると、Anthropicは信頼できるAIシステムの研究開発と商用提供を同時に進めるアメリカのAI企業です。設立目的には、高度なAIの責任ある開発と維持、そして人類の長期的な利益が掲げられています。

Anthropicの規模について、しぶちょーさんは次の数字を挙げました。本拠地はサンフランシスコです。

主力のClaudeは、Opus 4.6、Sonnet 4.6、Haiku 4.5の3モデルがあります。ブラウザで使うチャットに加え、コーディングに特化したClaude CodeClaude Code ── Anthropicが提供する、ターミナルなどから使えるコーディング支援ツール。AIがコードの読み書きや実行を担いますや、デスクトップを直接操作できるClaude Coworkなど、新しい使い方のツールも続々出ているといいます。

最近の話題として、Claude Coworkの登場で「Anthropicショック」が起き、SaaS系企業の株価が大きく下がったことも紹介されました。専用ツールが要らなくなるのではと見られたためですが、しぶちょーさんは、DeepSeekショックと同じく一時的なもので、株価は戻ったと思うと話しています。

しぶちょーさんは、Anthropicの最大の特徴を、社会的な意義を非常に強く唱える会社であることだと説明します。本人の言葉では「正義の味方感がある」会社です。

その姿勢を支える取り組みとして、しぶちょーさんは3つを挙げました。

解釈可能性解釈可能性 ── AIの内部（ブラックボックス）でどのような計算や判断が行われているかを、人間が理解・追跡できるようにする研究分野ですについて、かねりんさんが「ブラックボックスじゃないように」と受けると、しぶちょーさんは脳みそを開けて中身を確かめるような研究だと例えました。

かねりんさんは「安全第一なんて、みんな言ってるんじゃないの」と疑問を投げかけます。しぶちょーさんはAnthropicの安全重視を非常に珍しいとし、それこそがAnthropicが生まれた背景だと答えました。

しぶちょーさんによれば、Anthropicは、ほかのAI企業が「安全は大事」と口だけで言っていると感じた人たちが作った会社です。もともとはOpenAIを抜けたエンジニアが新たに立ち上げたもので、分社化ではありません。

OpenAIの内部に亀裂が入った転換期は、MicrosoftからOpenAIが10億ドルの出資を受けたときだといいます。それまで非営利団体だったOpenAIは、出資者に利益を返すために、非営利の本体の下に営利の組織を置く形へと変わりました。

しぶちょーさんは、この形を「枠だけ確保して取り繕っただけで、事実上その瞬間に営利団体になった」と見ています。

サム・アルトマンさんは、安全性・研究・スタートアップの3つのバランスを取るにはお金が必要だと語っていたそうです。しかしその説明が、のちにAnthropicを作る側には信用できなかったとしぶちょーさんは話します。

しぶちょーさんは、OpenAIが非営利で作られた理由をさかのぼります。きっかけはGoogleでした。GoogleだけがAI開発を握れば、安全性を無視して営利の方向に進み、世界をおかしくしてしまうのではないかという懸念があったといいます。

汎用人工知能は個人の利益ではなく人類全体の利益にすべきだという名目で、イーロン・マスクさん、サム・アルトマンさん、イリア・サツキヴァーイリア・サツキヴァー ── OpenAIの元チーフサイエンティスト。現在は安全な超知能の実現を目指す新会社「SSI」を率いる世界的なAI研究者ですさんが発起人となり、イーロン・マスクさんが1億ドルを寄付してOpenAIが立ち上がりました。

しぶちょーさんは、この3人は結局全員仲違いしていると付け加えます。サツキヴァーさんについては、サム・アルトマンさんを一度OpenAIから追い出した首謀者であり、アルトマンさんが数週間後に戻ったあと、居場所をなくして去ったと紹介しました。

OpenAIの成り立ちから営利化までの流れは、しぶちょーさんの説明を整理すると次のようになります。

この営利化の構造に強い不満を抱いたのが、のちにAnthropicのCEOとなるダリオ・アモデイダリオ・アモデイ ── Claudeを開発するAI企業Anthropicの共同創設者兼CEO。OpenAIで研究部門の要職を務めたのち独立しましたさんです。かねりんさんは「名前はあんまり聞かんな」と言いつつ、サツキヴァーさんのほうが小豆バーみたいで覚えやすいと笑います。

しぶちょーさんによると、ダリオさんは当時のOpenAIが性能を追いすぎ、安全が後回しにされつつあると感じていました。サム・アルトマンさんに相談しても口のうまさで流されてしまい、うんざりし始めていたそうです。

決定的だったのは、アルトマンさんの「安全性・研究・スピードの3つをバランスさせる」という言葉でした。ダリオさんはこの言葉に強烈な違和感を覚えたといいます。

しぶちょーさんは、ダリオさんがスケーリング則スケーリング則 ── AIモデルの計算資源やデータ量、パラメータの規模を大きくするほど、予測可能に性能が向上するという法則ですを発見した一人だと紹介します。モデルを大きくすれば性能が上がるという、しぶちょーさん曰く「札束で殴ろうぜ」という話です。

能力が爆発的に上がることを知っていたからこそ、ダリオさんは安全は後から足すものではなく最初から核に据えるものだと考えました。それがOpenAIではできないと判断し、退社してAnthropicを立ち上げたといいます。

しぶちょーさんは、ダリオさんの経歴にも注目します。ダリオさんはもともと物理学の博士で、機械学習の専門家ではありませんでした。脳神経科学に近い、信号が伝播する仕組みの研究はしていたそうです。

最初の勤務先は中国の検索エンジン企業Baiduです。著名な研究者のアンドリューさんに誘われ、シリコンバレーのAI研究チームに入りました。大学時代に書いたコードを見た人が優秀なプログラマーだと判断し、採用を後押ししたといいます。

その後Baiduから技術者が大量に流出したタイミングでダリオさんも抜け、OpenAIの発起会となった「伝説の夕食会」にも参加しました。ただ、そこで誘われながらもGoogleを選びます。AI研究にはお金が要るため、資本のある大企業が安定した選択肢だったからです。

しぶちょーさんによると、Googleでは承認プロセスが遅く、やりたい研究がうまく進まなかったそうです。一方で、Googleで安全性に関わる研究に取り組むなかで、AIの安全が第一だと強く意識するようになりました。

ダリオさんがAnthropicを立ち上げるまでの歩みは、次のように整理できます。

安全を重視するようになったきっかけについて、しぶちょーさんは自身の予想も入っていると断ったうえで、安全を軽視して進化だけを促すと人間が制御できない領域に行くという見通しが立ったのではないかと話しています。

かねりんさんが「Anthropicも営利じゃん」と突っ込むと、しぶちょーさんは、Anthropicは普通の企業とは違う特殊なくくりだと答えます。日本で近いものは公益法人ですが、厳密には違うそうです。

そのくくりがPBCPBC ── Public Benefit Corporationの略。株主の利益だけでなく、定款に定めた公益目的も同等に考慮して意思決定することが法的に保護された米国の会社形態ですです。しぶちょーさんは詳しくはわからないと断りつつ、利益を追求しながら、定款に書かれた公益目的も同様に考慮することが法的に保護されている会社だと説明しました。

もちろん給料は出す必要があり、ボランティアではありません。しぶちょーさんが強調するのは、利益を追求すると安全を優先できないというトレードオフです。

性能勝負で利益を求めれば泥沼になり、安全を優先していては勝てません。PBCという枠は、その勝負から降りて安全を優先できるための仕組みだというのが、しぶちょーさんの説明です。

かねりんさんは、利益を最大化しなくてよいと決めたAnthropicが、結局は資本主義の競争でも勝っていることに驚きます。

しぶちょーさんは、安全を意識したままスケールする方針が当たっていることに加え、集中の絞り込みがうまいと分析します。Claudeは画像生成や動画生成をやらず、コーディングと文章生成に特化しているといいます。

そのうえで、コーディングツールが人とどう親和するか、使い勝手を作り込み続けているため、刺さる人には刺さるとしぶちょーさんは見ています。

ただし、利益が本当に出ているかは微妙だとも付け加えます。開発費や電力消費は不明で、多額の投資を受けているため、末端ユーザーは本来より安く使えている可能性もあるそうです。

しぶちょーさんは、Anthropicがいなかったら恐ろしい世界になっていたかもしれないと話し、かねりんさんも「安全度外視の札束の殴り合い」になっていただろうと応じました。

しぶちょーさんが、Anthropicが最近巻き込まれた問題として挙げたのが、米国防総省との対立です。SNSもニュースも見ていないかねりんさんは初耳でした。

しぶちょーさんによると、ClaudeはAnthropicの安全性が信用され、国の機密環境で唯一使用が許可されたAIモデルでした。2025年7月ごろ、軍事AIとしての契約を獲得していたといいます。

ところが2025年秋、国防総省は「全ての合法的な用途に関して無制限のアクセス」を求めて契約の更新を要求します。Anthropicが定めていた使用制限をなくし、法律さえ犯さなければ何をしてもよいという内容でした。

しぶちょーさんが挙げた国の狙いは、アメリカ国民への大規模な国内監視と、敵を自動で追尾して攻撃するような完全自律型兵器への活用です。Anthropicは、今の技術では安全性を確保できないとして、こうした用途には使わないよう求めていました。

2026年2月、国防総省はダリオさんに最後通告を出しましたが、Anthropicは断りました。その結果、Anthropicはアメリカ国内でリスクのある企業に指定されます。しぶちょーさんは、Huaweiのスマホと同じ扱いだと説明し、国内企業への適用は史上初だといいます。

Anthropicはこの指定を違法な報復だとして提訴し、差し止めの仮処分が認められたといいます。一方でトランプ大統領や国防総省内部からは敵対的な発言が続き、GoogleやOpenAI、Microsoftの従業員がAnthropicを支持する状況が続いているそうです。

Anthropicと対照的だったのがOpenAIです。しぶちょーさんによると、OpenAIはAnthropicが飲まなかった条件をそのまま受け入れ、スッと入れ替わる形で国防総省の契約を取りました。

OpenAIの判断は大炎上し、サム・アルトマンさんも急ぎすぎたと反省を示したそうです。アルトマンさんは、法律の範囲で禁止されていることは守っているから大丈夫だと説明していますが、法律の専門家からは契約に穴が多いと批判されているといいます。

しぶちょーさんは、雑誌などで書かれている総括を次のように紹介しました。

この結果、ChatGPTの削除（アンインストール）が約300%急増し、Anthropicは無料アプリのダウンロード数で1位に浮上してChatGPTを追い抜いたそうです。最近のAnthropicの勢いには、この追い風もあるといいます。

しぶちょーさん自身は、さまざまなニュースをまとめて話しているため必ずしも正しいとは限らず、OpenAIの判断が間違っていると強く言うつもりはないと断っています。そのうえで、注目すべきはAnthropicの突き抜け方だと語りました。

しぶちょーさんは、ここで今回の共通テーマ「社会」に話を戻します。AIの話は、便利になるという技術の話ではなく、政治も混じる社会の話だというのが、しぶちょーさんの受け止めです。

AIの影響が大きいからこそ安全を重視する人もいれば、今こそ金儲けだと性能に走る力も働くと、しぶちょーさんは話します。そうした思想の戦いの中でAIが進化している、そしてこの話はまだ決着していないというのがしぶちょーさんの見方です。

かねりんさんは、ダリオさんがなぜそこまで安全にこだわるのかを知りたがります。しぶちょーさんは、ダリオさんがAIに人類を滅ぼすリスクを感じていると書かれていたと答えました。

AIの発展の速さも感じているからこそ、安全性を構造に組み込みながら開発しなければならないという考えです。しぶちょーさんは、自律兵器へのAI活用もダリオさんにとっては人類を滅ぼすリスクの一つなのだろうと推測しています。

話を聞いたかねりんさんは、ChatGPTを解約してAnthropicのプランを上げようかと言い出します。しぶちょーさんは、自身はClaudeを最上位のMaxプランで使っていると話しました。

二人の使い分けは、文章はClaude、画像はGeminiやChatGPTという形です。かねりんさんは、画像はChatGPTが一番よく、情報をまとめて最終評価させるのもなんだかんだChatGPTだといいます。

しぶちょーさんは最近ChatGPTをあまり使っていないとしつつ、生成AIの始まりから触ってきた「ホーム感」があると語りました。Geminiは挙動が微妙なことがあり、Claudeは画像生成はできないが安定しているという評価です。

かねりんさんがClaudeがしょっちゅう止まると不満を漏らすと、しぶちょーさんは100ドルのプランを勧めます。

しぶちょーさん自身も、Anthropicを応援したい気持ちが課金の後押しになったといいます。お布施とはいえ、払った分だけClaudeを多く使えて日常生活が便利になるので、応援しがいも課金しがいもある会社だとまとめました。

しぶちょーさんは、軍事の話はセンシティブだとしつつ、今後も情報が出てくるため、OpenAIの行方も含めて動向に注目すべきだといいます。そのうえで、知っておいてほしいこととして、技術だけでなく社会的な意義や思想が重要になっている点を挙げました。

かねりんさんは、日本のSakana AIのような企業も、いずれ国民監視や犯罪捜査への利用を求められるのではと問いかけます。しぶちょーさんは、今の規模ではそこまでの性能は出ないだろうとしつつ、日本でもAI関連の法令が出てきており、世界は安全を意識する方向に動いていると話しました。

イーロン・マスクさんがOpenAIに開発の半年停止を求めたことについては、二人とも本当に安全が目的だったのかと首をかしげます。さらにしぶちょーさんは、倫理観の薄いダークホースとしてGrokの存在も挙げました。

しぶちょーさんは、Xの投稿が自動翻訳されるようになったことを紹介します。海外の人の投稿が日本語で読め、逆に日本人の投稿も海外に届くため、OpenAIの関係者にフォローされる日本の人が増えたりしているそうです。そこにはGrokが入っているといいます。

かねりんさんは、ジャンルごとに複数のアカウントを使い分けると、フォロワーが少なくてもエンゲージメントが高いと話します。アカウントごとに見える世界が違い、エコーチェンバーにはまり込みすぎずに済むという実感も語りました。

しぶちょーさんはXのアカウントは1つですが、ThreadsやLinkedIn、mixi2、Blueskyにも番組の更新を投稿し続けています。かねりんさんもmixi2でコーヒー好きのコミュニティ（1100人以上）や日本茶好きのコミュニティ（500人以上）を主催しているそうです。

しぶちょーさんは、社会とAIというテーマで、自分たちが守るべきものを持ちながらAIを開発する会社としてAnthropicを紹介したと振り返ります。

しぶちょーさんは、ある意味ではサム・アルトマンさんもぶれていないと付け加えます。かねりんさんは、イーロン・マスクさんも含め、突き抜けた人たちが先端を走っていると受け止め、日本からも突き抜けたいと話しました。

エンディングでは、二人が出演するリアルイベントが告知されました。

Podcast Weekendはポッドキャストの物販が中心で、同時開催のPodcast Expoの登壇を見るにはチケットが必要です。二人はブースで物販をしつつ公開収録もしたいと話し、ブースを手伝うボランティアスタッフを募集しました。応募は番組公式サイトの問い合わせフォームかお便りボックスで、可能な日と時間を書いてほしいとのことです。

PodcastMixer2.0にはおちつきAIラジオも、しぶちょーさんのものづくりのラジオも登壇します。チケットは数に限りがあるため、残っていれば早めに申し込んでほしいと呼びかけました。

収録後、二人はイベントのグッズ準備や、おちつきAIらしさの出し方について話します。かねりんさんは、以前しぶちょーさんが話していたG検定のセミナーの開始時期を気にかけました。

試験は9月で、全12回想定のため3ヶ月あれば間に合う計算です。ただ、しぶちょーさんは5月は毎週イベントが入っているため難しいと話し、かねりんさんは隔週で始めて途中から毎週にする案を出しました。

まとめ

この回は、「社会」というテーマのもと、Anthropicが安全最優先の信念から生まれ、その信念を米国防総省との対立でも貫いた経緯をたどりました。しぶちょーさんは、AIが技術だけでなく、社会や思想の問題として進化していると語っています。

• AnthropicはOpenAIの営利化と安全の後回しに反発したダリオ・アモデイさんらが立ち上げた
• ダリオさんは安全を他の要素と天秤にかけず、最初から核に据えるべきだと考えた
• PBCという会社形態により、利益だけでなく公益を優先した意思決定ができる
• 国防総省の無制限アクセス要求を拒否したAnthropicと、法的な境界線で妥協したOpenAIの違いが話題になった
• 画像生成をやらずコーディングと文章に集中する姿勢も、Claudeが支持される理由として挙げられた