AIに話した秘密は漏れる？Gemini・Anthropic Coworkの新機能と元刑事が語るプライバシーリスク

1つ目の話題は、Anthropicが発表した自律型AI「Cowork」です。デスクトップ作業を丸投げできる機能として、SNSで大きな話題になりました。かねりんさんも番組の公式アカウントにメンションを付けて、このニュースを何度もポストしていたそうです。

しぶちょーさんの説明によると、Coworkはコーディング用のエージェント機能「Claude Code」を、コーディング以外の一般的な作業にも使えるようにしたものです。

これまでのClaude Codeは、CLICLI ── コマンドラインインターフェースの略。黒い画面に文字でコマンドを打ち込んでコンピューターを操作する方式で、エンジニア以外にはとっつきにくいとされますで操作する必要があり、エンジニア以外には扱いにくい道具でした。Coworkではチャット画面から動かせるようになったといいます。

Coworkの最大の特徴は、ユーザーのパソコン内のファイルやフォルダに直接アクセスし、整理などのタスクを自律的にこなす点です。優秀なエージェントであるClaude Codeがベースなので、みんなが騒いでいるとしぶちょーさんは話します。

一方で、かねりんさんはパソコンを勝手に触られることに不安を示します。しぶちょーさんも、Googleの開発ツール「Antigravity」の中でファイルを全部消されたという人の例を挙げ、Coworkはツールの外のデスクトップ全体に権限を持つぶん、暴走した場合はより危ないかもしれないと認めています。

ただし、現時点でCoworkを試せるのは限られた人だけです。研究プレビューという扱いで、月額100ドルか200ドルの「Claude Max」に課金していないと使えません。Proプランのしぶちょーさん自身もまだ使っていないといいます。

しぶちょーさんは他の人の発信や公式情報を見たうえで、Coworkを「すごいけど驚ききれていない」と評します。試している人の多くが、フォルダを整理する程度の使い方しかしていないからです。

この「4時間が20分」という事例に、かねりんさんは「4時間で何を整理してるんだ」と突っ込みます。しぶちょーさんも、そもそもファイルがバラバラにならない仕組みを作るべきだと笑いつつ、あくまで性能を試す目的のデモなのだろうと受け止めています。

しぶちょーさんが便利かもしれないと感じた使い方もあります。写真ファイルは作成日と撮影日を別々のプロパティとして持っていて、Finderやエクスプローラーでは撮影日順に並べられません。Coworkはファイルの中のメタ情報メタ情報 ── ファイル本体とは別に記録される付帯情報。写真なら撮影日時やカメラの機種、画像サイズなどが含まれますまで読み、その情報ごとに並べたりまとめたりしてくれるといいます。

さらに、Coworkはブラウザを操作して調査し、画像をキャプチャーして資料にまとめるといった動きもできるそうです。

かねりんさんは「今までもできなかったのか」と尋ねます。しぶちょーさんによると、MCPMCP ── Model Context Protocolの略。AIと外部のツールやデータをつなぐための共通規格で、「AI版のUSB-C」とたとえられることがありますを使えばローカルファイルへのアクセス自体は以前から可能でした。ポイントは、それがすごく簡単にできるようになったことだといいます。

ただ、Claude Maxに課金しているのはClaude Codeを使いこなす玄人が中心です。その人たちに「楽に使えるようになった」と伝えても、インパクトは強くないのではないか、というのがしぶちょーさんの見立てです。

しぶちょーさんが本当に驚いたのは、AnthropicがCowork自体を1〜2週間ほどでClaude Codeを使って開発したとSNSで伝えられている点です。「AnthropicはClaudeを使いこなしている」と感心しています。

Coworkの今後について、かねりんさんは「デスクトップで動くアプリを全部触れるなら、Podcastの編集もやってくれるのでは」と期待します。しぶちょーさんは、現状はローカルファイルで細かな作業をする程度で、アプリの操作まではまだ難しいかもしれないと慎重です。

CoworkはマウスやUIを動かす遠隔操作ではなく、裏側で動いているとしぶちょーさんは説明します。Claude Maxへの課金に加え、Claude Desktopアプリが必要で、対応OSも限られているといいます（しぶちょーさんはmacOSだけだったかもしれないとしつつ、記憶が不確かだと断っています）。

話はインターフェースの未来に広がります。かねりんさんは「マウスが消える日が来るのでは」と問いかけ、しぶちょーさんは音声中心になっていきそうだと応じます。前週の速報回で紹介した、画面のないピン型デバイスのような形も挙げています。

かねりんさんは、ポインタとキーボードで操作するGUIGUI ── グラフィカルユーザーインターフェースの略。アイコンやウィンドウをマウスで操作する画面方式で、Windows 95の普及で一般に広まりましたの時代が、Windows 95・98の開発に関わった中島聡さんの頃から続いてきたと振り返ります。裏側でAIが動くなら、人間が画面を見ている必要はないという見方です。

一方で事故への警戒も語られます。Coworkを試す人の間では、いきなり削除させず「不要フォルダ」に移させる逃げ方が使われていたそうです。400〜500個のファイルを整理してもらっても正しいか確認する手間は残るため、現状はチェックが欠かせないとしぶちょーさんはまとめています。

2つ目の話題は、ChatGPTに登場した月額1500円の「Go」プランと、広告表示のテストです。これまでの無料・Plus・Proという区分に、無料とPlusの間のライトなプランが加わりました。PlusはこれまでどおりMonthly3000円で、Goはその半額にあたります。

しぶちょーさんが説明する公式の違いは抽象的です。無料版は「わかりやすく説明」、Goは「トピックについて深く調べる」、Plusは「複雑な問題を解決」とされています。Goではチャットできる時間やアップロードできる量が増えるといいます。

かねりんさんが「Goにする」と言うと、しぶちょーさんはエージェントモードやSoraでの動画制作が使えなくなると止めます。かねりんさんは「どちらも使っていない」と返し、あまり使わない人にはGoが合いそうだという結論になりました。

もう1つのニュースが広告です。会話の内容に沿った広告表示のテストがアメリカで始まっています。しぶちょーさんは、赤字を続けてきたOpenAIの新たな収益の柱になるのではと見ています。

Goでも広告は表示されるため、かねりんさんは「広告を消すのにさらに1500円払うのか」と苦笑します。

広告の見せ方にも特徴があります。パーティー用のレシピを質問すると調味料の広告が出るように、会話の文脈に合った広告が表示され、興味を持てばそのままチャット形式で広告について質問できるといいます。

しぶちょーさんは、Googleの広告のように画面遷移で割り込んで閉じるボタンを探させるのではなく、自分から聞きに行く体験になっている点を新しいと評価しています。

広告の話から、かねりんさんが「AI SEOを頑張ればいいのでは」と提案します。しぶちょーさんは、従来のSEOとはビジネスモデルが大きく変わると指摘します。

従来のSEOでは、検索から自社サイトに訪問してもらうことが宣伝になりました。しぶちょーさんによると、AIに情報を読み込まれても、回答の根拠としてURLが少し出るだけで、サイトへのアクセスはそもそも少ないといいます。

個人名で検索されたときに正しく紹介してもらう効果はあっても、オウンドメディアオウンドメディア ── 企業が自ら所有・運営する情報発信の媒体。自社ブログやWebサイトなどを指し、顧客との接点づくりに使われますとしての役割は薄いというのが、しぶちょーさんの考えです。かねりんさんも「使われた情報料はもらっていない」と応じています。

日本で広告がいつ始まるかはわからず、テストの評判次第では撤回もありうるとしぶちょーさんは話します。見てみたい人は、VPNでアメリカに接続すれば広告が出るだろうとしています。

3つ目の話題は、Google Geminiが個人のAI秘書になる「パーソナル インテリジェンス」の導入です。Gmail、Googleフォト、YouTubeの閲覧履歴、検索履歴など、Googleのサービスに保存されたユーザー情報をGeminiが横断的に参照し、その人に合った提案をするものです。

アメリカでGoogle AI UltraやAI Proに課金しているユーザー向けに、1月14日からベータ版の提供が始まったとしぶちょーさんは説明します。日本にはまだ来ていません。

かねりんさんは「Google最強じゃん」と反応しつつ、ここから話題はプライバシーの問題へ移っていきます。

かねりんさんは、みんながAIにいろいろな相談をしている現状について、その情報が漏れたら「人が死ぬ」と切り出します。警察時代にサイバー系の捜査も担当し、ブロックチェーンやセキュリティにも関心を持ってきた立場からの問題提起です。

かねりんさんによると、日本は欧米に比べて国家の検閲への危機感が低く、通信を暗号化する必要性をあまり感じていないといいます。LINEなどでも最近になってエンドツーエンド暗号化エンドツーエンド暗号化 ── 送信者と受信者の端末だけで暗号を解けるようにする方式。途中のサーバーを運営する事業者でも内容を読めない仕組みですのモードが加わった程度です。

かねりんさんは、SignalやTelegramのような暗号化前提のチャットアプリを開発するCEOのインタビューを見て、背筋が寒くなったと話します。

人に言えない悩みや人間関係の相談、ChatGPTで話題になった性的な話題の解禁、ChatGPT Healthの身体情報、将来的にはDNA情報まで、あらゆる個人情報が一企業のサーバーに集まっていくと二人は話します。かねりんさんは、漏洩した情報やログイン情報は実際にダークウェブダークウェブ ── 通常の検索エンジンでは見つからず、特殊なソフトでしかアクセスできないネット上の領域。盗まれた個人情報の売買に使われることがありますに流れていると指摘します。

しぶちょーさんは、パーソナライズには「出せば出すほど自分にとって便利になる」というインセンティブがあるため、止められないと話します。かねりんさんも、幼少期から最近の人間関係まで全部入れたくなると同意しています。

しぶちょーさんは、囲い込みではツール群の多いGoogleが強いと見ています。クラウドストレージを契約した時点で「心中します」と言っているようなものだといい、多くの人は自分がデータを持っているつもりでも、実際は相手に預けていると話します。

規約についても、かねりんさんは勝手に改定され、使い続ければ同意とみなされる仕組みを指摘します。拒否すれば使えずデータも消えるため、実質的に選べないという問題です。

しぶちょーさんは、Googleフォトで家族のお風呂の写真などが児童ポルノと判定され、フォルダごと凍結されて戻らなかったという事故の話を聞いたことがあると紹介します。自分もAppleのiCloudに子どもの写真を上げているが、今のところ凍結されていないそうです。

かねりんさんは、日本では国家への信頼があるものの、ビッグテックはアメリカ企業だという点を強調します。しぶちょーさんも「日本じゃないのがまたポイント」と応じ、便利さと引き換えに落ち着いて考えるべき問題だと受け止めています。

かねりんさんは、暗号資産を扱う人はプライバシーやセキュリティの意識を自然と持っていると話します。秘密鍵秘密鍵 ── 暗号資産を動かす権限そのものである文字列。持っている人だけが資産を送金でき、紛失すると誰も動かせなくなりますという文字列がすべてで、漏れれば資産を丸ごと失うからです。

しぶちょーさんは冬休みに読んだ『Web3の教科書』で、世の中のビットコインの半分以上は秘密鍵の紛失で動かせないのではないかと書かれていたことに驚き、なぜそんなに失うのかと質問します。

かねりんさんによると、保存しているのは12個や24個の単語の組み合わせであるシークレットリカバリーフレーズシークレットリカバリーフレーズ ── 秘密鍵を復元するための単語の並び。一般に12個か24個の英単語で構成され、紙に書いて保管するよう勧められることが多いですで、基本は紙に書くよう教えられます。失う理由は、紙をなくす、書き間違える、PCのメモ帳に保存したものの行方がわからなくなる、といったケアレスミスだといいます。

見られたら盗まれるからと順番を変えるなど自己流の暗号化をして、どこを変えたか忘れて復元できなくなるケースもあるそうです。フレーズは変更できず、入力の回数制限もありませんが、組み合わせが天文学的なため総当たりもできません。

オンラインに置けばマルウェアで抜かれ、気づかないまま1年後に全額を抜かれることもあります。オフラインなら空き巣や強盗のリスクがあります。かねりんさんが最も警戒するのは、空き巣や強盗、押収といった物理的な攻撃で、管理コストはかなり大きいといいます。

かねりんさんはインフルエンサー時代、安全に保管するためのハードウェアウォレットハードウェアウォレット ── 秘密鍵をオフラインで保管するUSBメモリのような専用機器。ネットにつながないためハッキングのリスクを減らせますを日本で啓発していました。その結果、アメリカ以外の全世界市場で販売台数1位になり、フランスの本社に呼ばれて各国の代表の前で話したというエピソードも披露しています。

しぶちょーさんは、かねりんさんが情報管理にこだわる理由が、暗号資産の世界にいれば理解できると話します。ただ、Googleをやめましょうと言っても不便になるだけで、解決策がないという点で二人は一致します。

かねりんさんは、暗号資産の秘密鍵だけは絶対にAIに入れないよう呼びかけます。しぶちょーさんは、忘れたときのためにクレジットカード番号を覚えさせる人はいるかもしれないと話し、かねりんさんはリカバリーが効くものならまだよいと応じています。

しぶちょーさんは、Geminiのパーソナル インテリジェンスが、メールや写真から車のナンバーまで答えられると紹介されていた点に注目します。与えた情報からさまざまな個人情報をつなげ、裏で人物像を持っているような感じだといいます。

しぶちょーさんも、芸能人のLINE流出のように、ChatGPTやGeminiの履歴が流出したらかなりきついと同意します。ゆくゆくは何かしらパーソナルな情報が漏れて問題になりそうだという見通しです。

かねりんさんは、気を使って相談するとAIが本領を発揮できないというジレンマも指摘します。「知り合いの話なんですけど」と毎回前置きしてもバレてしまいます。そこで、一定期間での完全消去が保証されたセンシティブな相談用の場所があるとよいと提案します。しぶちょーさんは、Geminiに会話を残さないボタンがあった気がすると話しつつ、それもGoogleが言うシークレットで保証されたものではないと付け加えています。

4つ目の話題は、AIをゲームで学習させると賢くなるという論文です。LLMがゲームで鍛えた能力が、一見関係なさそうな分野にも波及したと、SNSで紹介されていたそうです。

しぶちょーさんの説明では、これまでのLLMの学習は、正解のある問題を解かせる「フォーマル学習」が基本です。計算ドリルのように答えが決まっている学習です。

論文で扱われたのは、対話や交渉、推理ゲームのように状況に応じて最善が変わる「インフォーマル学習」です。数学の問題とゲームの両方を解けるように学習させると、ゲームで得た力がさまざまなタスクに波及し、賢くなったといいます。

ただし、ゲームは単純なもので、しぶちょーさんも詳細はまとめきれていなかったと認めています。拡張したときに同じ結果になるかはわからないものの、新しい学習の方向性として、人間がゲームで学んだことを生活に生かすのに似ていて面白いと話しています。

しぶちょーさんは、受講中の大学の講義で、LLMの内部を研究する研究者の話を聞いたそうです。ブラックボックスであるニューラルネットワークの中で何が起きているかを調べる人たちで、彼らは「LLMの研究は生物学だ」と話していたといいます。

興味深い例が「ゴールデンゲートブリッジニューロン」です。研究者はLLMのパラメーターの中から、サンフランシスコのゴールデンゲートブリッジに関する情報を持つ場所を突き止め、そこを強く活性化させました。すると最終的に、LLMは「私はゴールデンゲートブリッジです」と答えるようになったといいます。

活性化とは、パラメーターの数値を大きくして反応しやすくすることだとしぶちょーさんは説明します。同じように内部を見ていくと、ハルシネーションハルシネーション ── AIが事実と異なる内容をもっともらしく生成してしまう現象。「幻覚」とも訳されますが起きる理由や、LLMが人間とまったく違うやり方で足し算をしていることも見えてくるそうです。

しぶちょーさんがもう1つ紹介したのが「サブリミナル学習」です。フクロウ好きに設定したLLMを先生役にして、別の生徒役のLLMに数学的な推論の手順や数字の羅列だけを教えさせます。

理由はわかっていないものの、送られる数字の中にフクロウ好きのニューロンを活性化させるような数列が紛れ込んでいるようだとしぶちょーさんは説明します。かねりんさんは「縦読みのようなもの」と受け止めています（途中、ハリー・ポッターやロード・オブ・ザ・リングの話で大きく脱線しています）。

ここから、しぶちょーさん自身の意見が語られます。人間の脳は実験できませんが、脳をモチーフにしたLLMの中身なら見られます。LLMの研究が進めば、逆に人間の脳の仕組みの解明につながるのではないか、という考えです。

しぶちょーさんはこれを自分の予想であり、まだつながっていない話だと明言しています。かねりんさんは、夢を使う前にプロパガンダで骨抜きにされているかもしれないと笑い、有識者からのツッコミを募っていました。

最後のニュースは、ChatGPTが男性の妄想を肯定し続けた結果、母親を殺害する事件につながったとされる米国の事件です。かねりんさんが「落ち着かない」とメンションを付けていたニュースでした。

しぶちょーさんの説明によると、2025年8月5日、アメリカで56歳の男性が母親を殺害したあと、自ら刃物で命を絶ちました。遺族は、GPT-4oが男性の妄想を肯定・増幅し、母親が自分を殺そうとしていると信じ込ませたとして、OpenAIを訴えているといいます。

遺族は、OpenAIが安全を軽視したままサービスを公開したと主張しています。しぶちょーさんは、リスクが低いうちに世に出して改善すればよいというサム・アルトマンの楽観的な姿勢にも触れています。

ただ、二人は単純にAIに否定させればよいとは考えていません。何が正しいかわからない以上、否定しろとチューニングしても判断ができず、OpenAIが決めればその思想を広めることになるからです。

パーソナライズを使って危険な傾向を検知したら否定モードに入るという案も、検閲に近く、一企業がやってよいのかは微妙だとしぶちょーさんは話します。かねりんさんは、外れ値がすべて否定されることへの違和感や、本当に妄想だったのかは外からはわからないという点も挙げています。

しぶちょーさんは、肯定も否定もせず「わかりません」「答えられません」と返すのが正解かもしれないとしつつ、ユーザーが「自分を否定するな」とカスタマイズすれば効かなくなるとも話します。

人は肯定してくれるAIを選ぶため、ChatGPTだけが対策しても、エンゲージメントを重視する別のAIが肯定してしまいます。かねりんさんはこれをエコーチェンバーエコーチェンバー ── 似た意見ばかりが反響し合い、自分の考えが強化されていく状態。SNSやパーソナライズされた情報環境で起きやすいとされますだと表現します。しぶちょーさんは、パーソナライズされすぎることも問題かもしれないと、Geminiの話題とつなげています。

二人は、AIの安全性の取り組みを深掘り回で扱うことや、日本でAIを開発する事業者をゲストに招いて話を聞くことにも意欲を見せていました。

ニュースのあとは、二人の恒例となりつつあるBLの話です。しぶちょーさんは7年ぶりにアルバイト時代の先輩へLINEで連絡し、BLのおすすめ作品を尋ねたそうです。最後の連絡は2018年だったといいます。

先輩からは5分で4作品が届きました。『海辺のエトランゼ』『同級生』『佐々木と宮野』『絶対BLになる世界VS絶対BLになりたくない男』で、エピソードの概要欄にも掲載されています。

かねりんさんはさっそくデジタルで購入し、電車の中で読んでいたところ、隣のおじさんに覗かれたそうです。今後はエンディングで少しずつ感想を語っていくことになりました。

告知の1つ目は、1月25日（日）に名古屋のSTATION Aiで開かれるイベント「AIGALA」です。13時から16時ごろまでの開催で、二人は13時5分からの最初の枠に、佐々木良さんをゲストに迎えて登壇します。

テーマは組織の中でAIエージェントを使うことで、佐々木さんがエージェント「Devin」について話す予定です。オンラインでも聞けて、公開収録の音源も配信されますが、しぶちょーさんは現地で見るのが一番だと呼びかけています。イベントは愛知県の後援も得ていて、しぶちょーさんは主催者の一人でもあります。

告知の2つ目は、番組専用のAI検索ツール「おちつきAI RAG」の公開です。番組で話した内容を前提に質問に答え、どこで話したかのタイムスタンプとSpotifyへのリンクも表示されます。

しぶちょーさんは、まだ精度に不満があり、中の文章やAIモデルを改善していくと話します。初期状態の今触っておくと進化を感じられるとして、フィードバックを募っていました。作り方の詳細は、今週の深掘り回で紹介する予定です。

まとめ

今回の速報回は、AIが個人のデータや作業に深く入り込むニュースが中心でした。便利さが増すほどAIに預ける情報も増え、漏洩や凍結、肯定しすぎといったリスクが大きくなるという点が、元刑事のかねりんさんの視点から繰り返し語られています。

• AnthropicのCoworkはデスクトップのファイル操作をAIに任せられる一方、現状はClaude Max限定で、誤削除などへのチェックも欠かせない
• ChatGPTのGoプランと広告テストは、会話の文脈に沿った広告という新しい収益の形で、SEOのビジネスモデルも変えうる
• Geminiのパーソナル インテリジェンスのように、情報を出すほど便利になる仕組みでは、一企業に悩みや秘密が集まるリスクが大きくなる
• LLMの内部研究は「生物学」とも呼ばれ、しぶちょーさんは人間の脳の理解につながる可能性を感じている
• ChatGPTの米国の事件は、AIが肯定しすぎる問題と、誰が正しさを判断するのかという難しさを示している