AI画像は見分けられない。OpenAIとMetaの警告とディープフェイク詐欺への備え

2026年10月15日、アメリカのボストンで司法会議の証拠規則諮問委員会が開かれ、OpenAIやMetaなどの要職者が議論に参加しました。そこで、AI画像は良くなる一方で、それを検出する科学的な方法が今後存在するとは思わない、という発言が出たと報じられています。

各社は透かし技術を使っていますが、方式が企業ごとに違い、すべてを確実に見抜く共通の方法はないとされています。Metaの担当者も、最新モデルの生成物は人間には見分けられないと述べたといいます。

CEOセオさんは、AIを作っている当の企業が「見極める方法はない」と言うことに強い怖さを感じています。怖さの中心は、偽物が増えることだけでなく、本物であることを証明できなくなる点にあります。

委員会では、証拠のルールも検討されています。提出された証拠を偽物だと主張する側がまず一定の根拠を示し、根拠が出されたら提出側が本物の可能性が高いことを示す、という順番です。

CEOセオさんはこのルールの狙いを、本物が疑われること自体がリスクなので、偽物と言うならきちんと根拠を出させることだと説明しています。

一方で、法廷でのディープフェイクへの異議はまだ少なく、連邦判事931人のうち異議を経験したのは15人だけだそうです。ただしこれは偽造が確認された数ではないため、CEOセオさんは、すでに起きていても見えていないだけかもしれないと見ています。

法廷では少数でも、身近なところでは有名人のなりすましや、ディープフェイクで会社が騙されて送金した事件がすでに起きている、とCEOセオさんは指摘します。

CEOセオさんは、これからは「信用」がビジネスで非常に重要になると話します。これまでは写真や音声が証拠になっていましたが、それが揺らぐと、入手のプロセスや出どころ、経緯が求められるようになると考えられています。

CEOセオさんは、日本人に馴染みのある例として内容証明内容証明 ── いつ、誰が、誰に、どんな内容の文書を送ったかを郵便局が証明する日本郵便のサービス。トラブル時の証拠として使われますを挙げます。中身だけでなく、いつどこで誰が出したかを記録しておくことが重要になる、という考え方です。

実際にOpenAIは生成画像にC2PAC2PA ── コンテンツの作成者や編集履歴などの来歴情報を記録するための技術標準。画像や動画の出どころを確かめやすくする目的で作られましたの来歴情報を記録し、GoogleはSynthIDSynthID ── Googleが開発した、AI生成コンテンツに人の目にはわからない透かしを埋め込む技術という透かし技術を持っています。

ただしOpenAI自身も、来歴情報はスクリーンショットやファイル変換で消えることがあると認めています。つまり、透かしやC2PAの印がないからといって本物だとは言えません。

CEOセオさんがさらに問題視するのは、本物を偽物だと言われたときに、本物を証明するためのコストがかかることです。犯罪者側は安く偽物を作れる一方で、守る側にお金と時間の負担がのしかかります。

CEOセオさんは、銀行や保険、EC、人事など防御する側の企業でも確認作業のコストが増えると見ています。大規模なサイバー攻撃と同じ構図で、AIが悪い方に完全に使われてしまっている状況だと述べています。

AIが絡む犯罪は統計にも表れ始めています。CEOセオさんによると、アメリカでは2025年のネット犯罪被害の届け出額が3兆3000億円に達し、前年比26%増えました。

そのうちAI関連の届け出は2万2000件、被害は約1500億円です。AI関係の投資詐欺が約1000億円、AI関連のビジネスメール詐欺が約50億円とされています。

FBIは、被害者がAIによる被害だと気づいていないケースも多く、実害はもっと大きいと見ているそうです。全体の4%という数字も、実際にはもっと高い可能性があります。

日本でも、2025年の特殊詐欺の被害額は1400億円を突破して過去最悪になりました。SNS型の投資詐欺は1200億円、SNS型ロマンス詐欺は550億円で、詐欺全体では3200億円、前年比63%増だといいます。

CEOセオさんは、自分が詐欺に遭っていなくても、ネットを見ていれば詐欺っぽいものが大量にあるとわかると話します。地雷を踏むか踏まないかのような状況で、詐欺が蔓延していると表現しています。

子どもの被害も深刻です。性的ディープフェイクの相談は2025年1月から9月で約79件あり、小学生4件、中学生41件、高校生25件、半数は同じ学校の児童生徒が関与していたといいます。

企業の事例としては、イギリスのエンジニアリング大手で、偽のCFOらがビデオ会議に参加し、15回で合計40億円を振り込ませた事件が紹介されました。日本の事例として「はてなが警視庁を名乗る相手に騙されて10億円を振り込んだ」という件にも触れています。

さらに、国防総省が爆発したという偽画像が拡散し、S&P500が一時0.3%下がった例もあります。CEOセオさんは、株価すら操作されてしまうと指摘しています。

CEOセオさんは、詐欺に騙されるパターンを4つに分けて紹介しています。

なりすましでは、経営者や上司に加えて、家族や知人の声で騙す手口もあるそうです。ほかにも、実在しない恋人にお金を払わせるロマンス詐欺、採用面談でAIの人物が出てくる例、顔認証や声の認証を突破してオフィスやコールセンターに入り込む例が挙げられています。

証拠の偽造では、ECやフリマで「壊れていた」と嘘をつく返金詐欺や、経費精算、裁判所への証拠の偽造などが行われているといいます。

本物の否認については、報道や内部告発を無力化し、本物をひっくり返してしまうAIの使い方だとCEOセオさんは説明します。

社会の攪乱の例として、CEOセオさんはフランスやイタリアのミラノで店が壊される騒動を挙げます。過去の映像や作られた映像が出回り、SNSでバズると、現地を見ていない人はそれを信じ、誰の仕業かといった想像が広がっていきます。

性的ディープフェイクも、同級生の間や芸能人を対象に問題になっています。鳥取県は未成年のAI加工画像の作成・提供に過料過料 ── 行政上の義務違反に科される金銭的な制裁。刑罰である罰金とは異なり、前科にはなりませんを科す条例を2026年7月に施行したそうです。

CEOセオさんは、偽の不祥事動画のように、嘘でも広がれば真実のように思われてしまう現状を懸念しています。

SNSでは影響力があったり数が取れたりするものが真実とされる傾向があり、「騙したもん勝ち」の空気がAIで加速するだろう、とCEOセオさんは見ています。

そこで個人に求められるのは、SNSの悪い噂や変なニュース、災害情報などにすぐに反射しないことです。いったん流しておき、後から根拠やプロセスを確かめてから投稿や意見表明をするべきだと話しています。

CEOセオさんが挙げる守り方は、大きく4つあります。発信源での証明、ICチップによる本人確認、制度づくり、そして人による歯止めです。

日本でもこれからICチップによる本人確認が進むことになっており、顔写真や住所を見て判断するのではなく、チップの中身でチェックすることが重要だとCEOセオさんは話します。

CEOセオさんの会社も、AI生成画像が誰かの権利を侵害していないかをチェックする「StopFake」というサービスを1年以上かけて開発しているそうです。

CEOセオさんは、生成AIが止まることはもうないので、自分たちでどう守るかが重要だと話します。表の論調は「見抜ける技術を急げ」ですが、見極めが難しくなる前提で行動しなければならない、という立場です。

そのためCEOセオさんは、小学校ぐらいから「ネットにあるものはすべてが本物ではない」「むしろ疑ってかかる」と教えるべきだと提案しています。

大人も例外ではありません。CEOセオさんは、大人も生成AIに質問や相談、議論をして答えを信じてしまっていると指摘します。ハルシネーションハルシネーション ── AIが事実と異なる内容を、もっともらしく生成してしまう現象もあり、さらに悪用する人もいる前提で扱う必要があるといいます。

まとめ

AI画像を科学的に見分けられなくなると、偽物が増えるだけでなく、本物を証明するコストを守る側が背負うことになります。CEOセオさんは、来歴の確認や第三者の目、教育を通じて、見抜けない前提で守る姿勢が必要だと話しています。

• OpenAIやMetaの担当者が、AI画像を検出する科学的方法は今後もないとの見方を示した
• 来歴情報や透かしは消えることがあり、印がないから本物とは言えない
• 攻撃側は安く偽物を作れる一方、守る側には証明と確認のコストがかかる
• 日米ともに詐欺被害は急増しており、AI関連の実害は統計以上の可能性がある
• すぐに反射せず、発信源やICチップ、制度、第三者の目で守ることが重要になる