香港40億円ディープフェイク詐欺から北朝鮮なりすまし労働者まで、AI犯罪の手口と防ぎ方

この回のテーマは「AI犯罪の最前線」です。しぶちょーさんはまず、AnthropicのClaudeの一部モデル（ミトスやFable5）が国によって禁止されたという話題を挙げ、安全保障やセキュリティの話として聞くと、多くの人は他人事に感じるのではないかと問いかけます。

しぶちょーさんによると、実際のAIの危険性は、個人が巻き込まれる可能性のあるところまで来ています。AI犯罪にはサイバーテロのようなSF的なイメージがありますが、身近な詐欺として被害が増えているといいます。

しぶちょーさんが紹介した数字では、2025年の世界の金融詐欺の被害総額は4420億ドル、約66兆円にのぼります。AI関連の詐欺被害は2024年比で54%ほど増え、AIを使った詐欺は従来型より4.5倍ほど利益がいいとされています。

しぶちょーさんは、AIによって「誰でも詐欺ができる」パッケージ化、つまり犯罪の産業化が進んでいると見ています。そこで、どんな犯罪が実際に起きたかを知っておくだけでも防御になると考え、種類ごとに集めた事例を元刑事のかねりんさんと一緒に見ていく構成にしたと話します。

最初の事例は、被害総額が最大級とされる香港のディープフェイク会議詐欺です。イギリスのエンジニアリング大手の香港支社で、財務担当者のもとに本社のCFOを名乗るメールが届き、ビデオ会議に招かれました。

会議にはCFOと、財務担当者が知っている複数の同僚が出席していました。その場で急ぎの送金を頼まれ、担当者は送金してしまいます。ところがCFOも同僚も全員、AIで作られたディープフェイクでした。

しぶちょーさんは、ウェブ会議ツールの画質がある程度粗いことも、偽物に気づきにくい理由だったと見ています。担当者は15回に分けて5つの口座へ送金し、被害総額は40億円にのぼりました。2024年1月の事件で、後から本社に確認して発覚しましたが、資金は回収できておらず、逮捕者も出ていないといいます。

かねりんさんは、会社の財務責任者から会議で命じられたら送ってしまうと受け止めます。しぶちょーさんは、この事件を「新手の地面師地面師 ── 他人の土地の所有者になりすまし、偽の書類などで売買代金をだまし取る詐欺師。大がかりななりすましで大金をだまし取る手口の代表例です」のようだと表現しました。

二人は、「今日は寝不足で」「回線が悪くて」と言われれば、声や映像の違和感もそのまま受け入れてしまうと話します。偽メールも表示名を偽装できるため、狙われた人の関係者を装えば信じ込ませる手は打てるといいます。かねりんさんはこれをソーシャルエンジニアリングソーシャルエンジニアリング ── システムへの不正侵入ではなく、権威や緊急性を装って人の心理的な隙を突き、情報を盗んだり送金させたりする手法だと整理しました。

元刑事のかねりんさんは「送金した担当者が一人芝居を打っているのでは」「グルでは」と疑う視点も示し、しぶちょーさんは「さすが刑事の視点」と笑って受け止めています。

同じ手口を撃退できた例として、しぶちょーさんはフェラーリの事例を紹介します。2024年7月、フェラーリの幹部のスマホにWhatsAppでCEOを名乗るメッセージが届き、進行中の大型案件についてNDAへのサインを求められました。

その後かかってきた電話は、声も訛りもCEO本人そっくりでした。ただ幹部は、話の内容に引っかかる部分があり、わずかに機械音声っぽさも感じたといいます。

そこで幹部は、数日前にCEOとやりとりしていたことを思い出し、「あなたが私に勧めてくれた本のタイトルは何でしたっけ？」と尋ねました。電話の相手は答えられず、偽物と判断して被害を防げたそうです。

しぶちょーさんは、防いだのは最新のセキュリティシステムではなく、たった一つの質問だった点を強調します。かねりんさんは「撃退の報告も本人の自供だから嘘かもしれない」と刑事らしく疑ってみせ、二人の間で「刑事かねりん」の掛け合いになりました。

しぶちょーさんは、香港とフェラーリの2つの事例を比べると、違いは「距離感」にあると指摘します。フェラーリのCEOと幹部は本を勧め合うほど近い関係でしたが、香港の会社のCFOと財務担当者は、プライベートでやりとりする仲ではなかったのではないかと見ています。

この見方から、しぶちょーさんは「詐欺をする側は関係値の少ないところを狙いたくなる」と考えます。関係の薄い偉い人から急に連絡が来たら、詐欺を疑ったほうがいいというのがしぶちょーさんの結論です。

かねりんさんは、そうした確認をする社員を評価できる会社かどうかのチェックにもなると返します。しぶちょーさんは、企業の中には、クリックしてはいけない緊急会議メールを送って引っかかった社員に教育を受けさせる抜き打ちテストがあると紹介しました。

二人はその発展形として、社長の音声クローンで社員に偽電話をかけ、引っかかるかを試すサービスもありうると話を広げます。かねりんさんは「ビジネスチャンス」と面白がっています。

電話詐欺の定番であるオレオレ詐欺にも、同じ技術が使われています。しぶちょーさんが紹介したのはアメリカ・フロリダの事件で、音声クローン音声クローン ── 数秒程度の短い音声から、声質や話すテンポ、抑揚までをAIで再現する技術で娘になりすました電話が親にかかってきました。

電話では、娘の声が泣きながら「事故を起こして妊婦をはねてしまった」と訴え、すぐに男に代わって示談金の振り込みを求めました。親は1万5000ドルを支払いましたが、娘は無事で、事故も逮捕もありませんでした。

声のクローンは、娘がSNSに投稿していた音声から作られていたといいます。かねりんさんが「数秒でいけるんでしょ？」と聞くと、しぶちょーさんは3秒ほどあればできると答えています。

かねりんさんは以前の回で、しぶちょーさんのAI音声と本人の声を聞き分けられなかった経験があり、自分も絶対に引っかかる気がすると話します。しぶちょーさんも、子どもの声ならだまされるかもしれないと認めています。

しぶちょーさんによると、音声クローンは誘拐を装う手口にも使われています。アメリカ・アリゾナの事件では「ママ助けて」という合成音声で身代金を求められましたが、親がパニックにならず娘本人に無事を確認したため、振り込まずに済んだそうです。

しぶちょーさんは、対策はオレオレ詐欺と同じく「ちゃんと確認すること」だとしたうえで、狙われる対象がお年寄りではなく現役世代の親に向いている点を強調します。若い人ほど自分が詐欺の対象になると思っておらず、ガードが甘くなりやすいといいます。日本ではまだこうした事例はないとされていますが、危険だとしぶちょーさんは話します。

根本的な解決策として、かねりんさんはマルチシグマルチシグ ── 暗号資産の送金などで、複数の鍵による承認がそろわないと実行できない仕組み。1人の判断だけでお金を動かせないようにできますの考え方を挙げます。夫婦で鍵を分けて持つ、1日では振り込めず3日かけて段階的に承認する、といった仕組みです。

しぶちょーさんは、即日振り込みたい人が困ることや、規制するとAmazonギフト券など別の払い方へ詐欺が移ることを懸念します。それでも二人は、冷静になれる瞬間を作れるかが重要だという点で一致しました。元刑事のかねりんさんは、詐欺犯は相談や確認をさせないよう絶対に電話を切らせないと説明しています。

しぶちょーさんが感心したのは、日本のコンビニの対策です。Amazonギフト券やAppleのポイントカードを買わせ、裏のコードを送らせる詐欺では、「ウイルスに感染した、解除にはカードのコードが必要」という筋書きがよく使われるといいます。

そこでコンビニには、「ウイルスにかかった場合」向けのように見えるカードがあらかじめ置いてあり、それを持ってきた客は詐欺にかかっているとして店員が止める仕組みがあるそうです。

かねりんさんは、コンビニ側にメリットがない取り組みなので、警察庁などが主導したのではないかと推測し、しぶちょーさんも国経由だろうと応じています。しぶちょーさん自身も、この種の詐欺メッセージを受け取ったことがあるそうです。

ギフトカード詐欺のメッセージは、LINEなどが乗っ取られた人のアカウントから友人に一斉に送られることが多いといいます。かねりんさんも、警察の同僚のアカウントが乗っ取られていた気がすると振り返ります。

かねりんさんは、Web3の世界ではXのアカウント乗っ取りが死活問題で、SMSによる二段階認証をかけていてもSIMスワッピングSIMスワッピング ── 携帯電話会社をだますなどして他人の電話番号を自分のSIMに移し、SMS認証を突破する乗っ取り手口で抜かれることがあったと話します。そのため、USBのような物理キーで二段階認証をかけるのが「最強」というのが常識だったそうです。

一方でかねりんさんは、セキュリティをやりすぎると、物理キーやウォレットの鍵を自分でなくすリスクのほうが高くなると指摘します。大して狙われないなら「ほどよくやっておけ」というのが、かねりんさんの考えです。

次の話題は、専門知識がなくても犯罪者になれる「犯罪の産業化」です。取り上げたのは2024年に日本で起きた事件で、題材はランサムウェアランサムウェア ── 感染したコンピュータのデータを勝手に暗号化し、元に戻す代わりに身代金を要求する悪意のあるソフトウェアです。

しぶちょーさんによると、身代金を払えば解除されることもありますが、追加で要求されたり、カモとして何度も狙われたりすることもあります。日本の大企業でもランサムウェア対策が大きな話題になっているといいます。

この事件で逮捕されたのは、川崎市に住む25歳の男性です。ITの専門家ではありませんでしたが、生成AIを使って約6時間でランサムウェアを自作し、知人に送りました。知人の環境では作動しなかったものの、2024年5月に逮捕されています。

動機は「楽に稼ぎたかった」だったそうです。しぶちょーさんは、ITに詳しくない人がこれを実行できたのは「こうすれば稼げる」という情報があったからで、犯罪がパッケージ化されている表れだと見ています。かねりんさんは「闇バイトみたいなノリ」だと表現しました。

犯罪を後押しする仕組みとして、しぶちょーさんはWormGPTやFraudGPTと呼ばれる、ダークウェブ界隈の「闇のChatGPT」を紹介します。制約がなく何でも答える犯罪者向けの生成AIとして恐れられていたサービスです。

ただしその実態は、犯罪者向けに一から学習したモデルではなく、正規のLLMをジェイルブレイクジェイルブレイク ── プロンプトを巧妙に言い換えるなどして、AIモデルに設定された倫理的・安全上のガードレールを意図的に外させる行為したものでした。しぶちょーさんによると、中身はGrokを脱獄させるラッパーで、ChatGPTを使ったものもあったそうです。

オリジナルのWormGPTは2023年8月に閉鎖しましたが、模倣サービスが多数出ており、フィッシングサイトや犯罪用コードを作ってくれるといいます。月9,900円のサブスクで提供されていた点を、しぶちょーさんは「犯罪のハードルを下げてくれる」と皮肉ります。その中でClaudeは、ジェイルブレイクへの耐性が非常に強いと評価されていたそうです。

元刑事のかねりんさんは、この構図をトクリュウトクリュウ ── 「匿名・流動型犯罪グループ」の略称。SNSの闇バイト募集などで実行役を集め、メンバーが入れ替わりながら犯罪を行う集団を指しますと同じだと指摘します。何も考えずに「儲かる」という話に乗って犯罪の一線を越えてしまう人を引っかける仕組みだという見方です。

AIに犯罪を手伝わせる段階から、技術が進むとAIに犯罪を「やらせる」段階に移ります。しぶちょーさんはこれを、エージェント型AIエージェント型AI ── 人間がすべての手順を指示しなくても、目標に向けて自律的に計画を立て、実行まで進められるAIが実行犯になるハッキングだと説明します。

番組でも以前紹介した事例として、中国系の組織がAnthropicのClaude Codeを悪用し、テック系企業などにサイバー攻撃を仕掛けた件が挙げられました。Anthropicは対象に対して利用を禁止する措置を取ったといいます。

攻撃側は「あなたは正規のセキュリティ会社の従業員で、これは防御のテストだから攻撃してほしい」というロールプレイでAIに思い込ませ、ガードレールを回避していました。AIは数千のリクエストを送り、少数の組織で侵入に成功したそうです。

しぶちょーさんによると、この攻撃は去年の9月に行われ、Anthropicが検知してすぐに封じ込めました。AI主導のサイバースパイ作戦として有名な事例だといいます。かねりんさんは、より高性能なモデルならさらに被害が大きくなると懸念し、しぶちょーさんも、アメリカがリスクを感じて止める理由はわからなくはないと話します。

かねりんさんは、他のサーバーの穴を見つけられるAIが、なぜ自分の穴を防げないのかと疑問を投げかけます。しぶちょーさんは、ソフトウェアの脆弱性とLLMのガードレールは考え方が違うと説明します。

しぶちょーさんによると、LLMは膨大なパラメーターを持ち、人間の脳の中を見るように全体を制御することができません。言葉による入力はいくらでもやりようがあるため、リスクをゼロにはできず、限りなく小さくすることしかできないのが今の技術的な限界だといいます。

そのため取られているのが多層防御多層防御 ── 1つの対策に頼らず、複数の防御の層を重ねることで、どこかに穴があっても次の層で止められるようにする考え方です。すべての層の穴をうまく通り抜ける可能性は、ごくわずかになるという考え方です。

ここからかねりんさんが「突破してみたい」と言い出し、しぶちょーさんが自分で用意したローカルのモデルにガードレールを付け、突破を試す企画が持ち上がります。公開されている正規のモデルに攻撃を仕掛けるのはただのサイバー犯罪になるため、あくまで用意した環境内で行う前提です。

かねりんさんは、攻撃者の心理や手口を知らないと守れないと話し、しぶちょーさんも、詐欺を仕掛ける側の視点で考えて初めて防御できる面があるとして、事例を知っておくことの大切さを確認しました。

次は「人気と民意の偽装」、再生数をAIで稼ぐ犯罪です。アメリカのマイケル・スミスという男性が、再生されるたびにアーティストにお金が入る音楽配信サービスを悪用しました。

同じ曲を1人でリピートすると不正検知に引っかかるため、男性はAIで数十万曲を作らせ、複数のアカウントで配信しました。さらに数千のボットアカウントを作って再生させ、1曲あたりの再生数を低く抑えつつ、全体で大量の再生数を稼いだといいます。

男性はこれを4年以上続け、確定額で800万ドル、詐欺総額では1000万ドル超を稼いだとされます。すでに捕まっており、裁判中で、今年の7月29日に判決が出る予定だそうです。

しぶちょーさんは、Xの収益化でも似たことができそうだと話し、スマホを100台並べて再生数を稼ぐ中国系のショート動画も引き合いに出します。かねりんさんは、偽フォロワーやいいねを売るサービスとも近いと指摘しました。しぶちょーさんは、聴かれない曲だけがサーバーに溜まっていくのは、配信プラットフォームにとって一番嫌なことだろうと話しています。

最後の事例は、経歴と労働者の偽装です。アメリカ・アリゾナ州のクリスティーナ・チャップマンという女性の自宅には、パソコンが10台ほど並んでいました。そのパソコンを北朝鮮のIT労働者が遠隔操作し、アメリカ企業で働いていたといいます。

北朝鮮側は、出社不要のIT企業に対して、AIで偽の履歴書と顔写真を作り、面接もリアルタイムのディープフェイクで容姿を偽りました。こうして偽のアメリカ人の身分で、正社員として採用されていました。

支給されたPCがアメリカにあるため、企業側からは国内で働いているように見えます。チャップマンはPCを預かり、アメリカ人として働いている体裁を作る仲介役で、300社を超える企業に労働者を送り込んでいたとされます。

約1700万ドルが北朝鮮側に流れ、兵器開発の資金になったと言われています。チャップマンは禁錮8年6ヶ月の刑を受けたそうです。

かねりんさんは冗談めかしてこう言いますが、しぶちょーさんに稼いだお金が兵器開発に使われたと返され、「兵器はダメです」と引き下がります。しぶちょーさんは、履歴書も面接もSNSも偽装できる時代に、リモートワークという今の働き方の隙を突いた新時代の犯罪だとまとめました。

話の流れで、二人はビデオポッドキャストで少しずつディープフェイクで顔を変えていく案や、「二人ともディープフェイクです、気づきますか？」というディープフェイク回をやりたいと盛り上がっています。

事例を紹介し終えたしぶちょーさんは、どの犯罪も、声や顔、経歴、再生数といった「本物であることを証明しにくいもの」をAIが代替して詐欺になっていると総括します。

かねりんさんは、イノベーター理論イノベーター理論 ── 新しい技術や商品が社会に広まる過程を、早く採用する人から最後まで採用しない人まで5つの層に分けて説明する理論。最後の層はラガードと呼ばれますを引き合いに、これまでは新技術に遅れても笑って済んだが、AIについては最後まで触らない人が犯罪被害で損をすると話します。

しぶちょーさんも、テックの集まりでさえAIを無料版でしか触っていない人が多く、いまだにハルシネーションの話ばかりされることに危機感を覚えたといいます。半年でAIの性能は大きく変わるのに、初期の印象で止まっている人が多いという見方です。

かねりんさんは、しぶちょーさんのAI音声を見分けられなかった経験から「自分は見分けがつかない」と認識できたと振り返ります。しぶちょーさんは、有料版でしっかり使い込むことを勧め、その投資が自分の予想を超えるAIの能力を知る近道だと話します。

二人は、ショート動画の制作がAIでできると知ったかねりんさんの変化や、Claude Codeを勧めたら主婦の知人まで使い始めた話も紹介しました。ただ、しぶちょーさんは、職場でAIエージェントを使えず手作業を続けるつらさにも触れています。

おすすめのツールとして、かねりんさんはClaude CodeとVSCodeを挙げます。しぶちょーさんは、最近はCodexの評価が高く、性能が上とする声もあると話し、ChatGPTを契約していればCodexを同じように使えると補足しました。

しぶちょーさんによると、からあげ先生がClaudeを解約してCodexに移ったという話もあり、200ドルプランを使うかねりんさんは驚きます。一方でしぶちょーさんは、こうした流行は行ったり来たりするものだと見ています。

Codex人気の背景として、しぶちょーさんは、外部ツールからClaude Codeを呼び出す利用を従量課金にするとAnthropicが発表し、直前で延期した騒動を挙げます。これでAnthropicを嫌いになった人が多く、Codexに乗り換えた人もいたといいます。当面は併用がよいというのがしぶちょーさんの考えです。

VSCodeについてしぶちょーさんは、使えるようになればCursorやAnticlarityでも同じように使えるので、学習コストを考えても「エディターの王様」を押さえておくとよいと話しています。

雑談は、番組で予告していたG検定受験企画に移ります。しぶちょーさんは、速報回と深掘り回に加えて週3本目のコンテンツを用意するのが難しく、特にスライド準備が重いと打ち明けます。間違えられない内容もあるため、AIで資料を作っても品質面で悩むそうです。

しぶちょーさんが本当に心配しているのは、すでに予習を始めているリスナーではなく、配信が始まらない限り勉強を始めそうにないかねりんさんだといいます。スタートは深掘り回を使って切るかもしれないと話しました。

G検定について、しぶちょーさんは、AIの歴史や過去のモデル、数式など、Claude Codeを使ううえで直接は必要ない知識も多いと率直に語ります。それでも体系的に学ぶことで、AIの解像度が上がり落ち着ける部分があるとして勧めています。

かねりんさんは、刑事時代に弁護士や裁判官が読むような判例の本を読み込み、誰もやったことのない罪名で事件を立てることに燃えていたと振り返ります。実務にすぐ生かせる勉強なら燃えるというかねりんさんに対し、しぶちょーさんは、G検定も間接的には使うための勉強になると答えました。

締めくくりに、しぶちょーさんは結論として、AIに何ができるかを知らなければ犯罪に巻き込まれるかもしれないので、AIを触ってほしいと話します。同時に犯罪への入り口のハードルも下がっているため、悪いことに使わないよう注意を促しました。

しぶちょーさんは、エージェントが倫理を持って動いているとはいえ、気づかないうちにやってはいけないことをしている場合もあると指摘します。かねりんさんは、試したいことは番組のコミュニティ内のジェイルブレイクゲームでやろうと呼びかけ、しぶちょーさんが作ると約束しました。

収録は1時間40分を超え、二人は「毎回1時間以内に」と言いながら長くなることを笑いつつ、それでも再生数が伸びていることに手応えを語っています。

まとめ

この回では、ディープフェイク会議や音声クローン、犯罪用AI、AIエージェントによる攻撃、再生数や経歴の偽装まで、AIが「本物らしさ」を代替する形で広がる犯罪が紹介されました。二人の結論は、手口を知り、AIを実際に触って何ができるかを体感することが、最大の防御になるというものです。

• 香港では全員ディープフェイクの会議で40億円がだまし取られ、フェラーリでは本のタイトルを尋ねる一言で偽CEOを見抜いた
• 関係の薄い偉い人から急な連絡が来たら詐欺を疑い、電話を切って確認する時間を作ることが大切
• AIは新しい犯罪を生んだというより、ランサムウェア作成や月額課金の犯罪用AIのように犯罪のハードルを下げている
• LLMのガードレールは完全には防げず、多層防御でリスクを小さくするしかない
• AIを触らず古い印象のままでいる人ほど、精巧な偽装に気づけず被害に遭いやすい