8700万人のデータが動かした選挙 ケンブリッジ・アナリティカ事件が示した世論操作の構図

デジタル民主主義の闇とされる事件

00:00 から再生する

Meta編も後半に入り、尾原さんはこの回で「デジタル民主主義の闇」と呼べる事件を取り上げると切り出します。

一見すると「え、マジ？」という陰謀論めいた話に聞こえますが、限りなく事実に基づいた話だと前置きします。

テーマは、Facebookのプライベートデータをうまくハックする形で、イギリスのEU離脱や前回のトランプ選挙にまで影響を与えたとされる事件です。それがケンブリッジ・アナリティカ事件だと尾原さんは説明します。

さらに尾原さんは、この事件が今のプライバシーやAIの規制議論の文脈につながっている点も押さえたいと話します。

事件が起きたのは2016年、クリントン陣営とトランプ陣営が争った大統領選のときでした。最大で8700万人分のユーザーデータが、本人の同意なしに不正に収集されたとされます。

そして「いいね」などの行動から性格を推定し、「こういう性格ならこうすれば投票が変わるのでは」と気づかないうちに行動を変えられていた、という点が問題の核心です。

けんすうさんは、身近な例に置き換えて理解を確かめます。

尾原さんはこれを肯定します。

友人経由で広がった8700万人のデータ

03:47 から再生する

データ収集の発端になったのは、This Is Your Digital Lifeという性格診断アプリでした。簡単な質問に答えるだけで性格がわかるという、SNSでバズりやすいタイプのアプリです。

直接このアプリに接触したのは約27万人でした。しかし、彼らがアプリを使うためにFacebookとの連携に同意したことが、拡大の起点になります。

当時のFacebookでは、連携に同意したユーザーの友達の個人データにもアクセスできる仕組みでした。その結果、27万人の同意から最大8700万人分のデータが集まったとされます。

尾原さんによれば、当時のFacebookはとにかく早く開発することを重視する文化があり、ここまでデータが抜かれることをあまり想定していなかったといいます。

収集された情報は、友達が何にいいねしたか、公開プロフィール、誕生日、居住地、投稿内容にとどまりませんでした。場合によっては非公開メッセージも含まれていたとされます。

マイクロターゲティングとダークポスト

07:08 から再生する

ただデータが抜かれただけなら大きな影響には至りません。問題は、そのデータをもとにEU離脱の投票やトランプへの投票に影響を与えたとされる手法です。

そこで鍵になるのが、マイクロターゲティングとダークポストです。

尾原さんは、ネットビジネスで使われるターゲティングの考え方から説明します。年齢や性別、職業などの属性で分けるのがデモグラフィック、心理特性で分けるのがサイコグラフィックです。

ケンブリッジ・アナリティカ社は、いいねや投稿内容から心理を推定し、「こういう心理タイプならクリントンを嫌いになる」「EU離脱に賛成する」といった誘導を行ったとされます。

その土台になったのが、心理学で知られるビッグファイブでした。

この5因子でプロファイリングし、タイプごとに行動をどう変えるかを設計していたと尾原さんは話します。

もう1つの手法がダークポストです。通常のFacebookの投稿は友達や公開範囲の全員に見えますが、広告として出すとターゲット以外には見えません。

つまり、自分にはよく出てくる投稿でも他人には見えないため、ばれにくく、本人にはそれが主流の意見のように見えてしまいます。

尾原さんはこれをフィルターバブルと結び付けます。プラットフォームは滞在時間を延ばすためにアルゴリズムを自然にチューニングしていくため、人によって見える世界が偏っていくのです。

雑談の中で、けんすうさんには犬が泳ぐ動画ばかりが表示されるという話も出て、身近な例として語られます。

問題は、こうした偏りが広告として意図的に使われると、FacebookやGoogle自身も気づかないうちに人が動かされてしまう点です。

行動を変えるための巧妙な設計

13:42 から再生する

尾原さんは、この手法がいかに巧妙だったかを具体例で示します。

大統領選は州ごとに結果が決まるため、僅差で全体の勝敗を左右するスイングステートにピンポイントで当てることが重要でした。

さらにビッグファイブでの推定を組み合わせます。たとえば協調性が低く内向的な人には「クリントンは明らかに勝っているから行かなくてもいいのでは」という勝利確定風のダークポストを増やす、という手法です。

関心を掛け合わせる例も挙がります。完璧主義タイプの人には「銃はアメリカの歴史の誇りだ」と語りかけ、それを支えているのはトランプだと結び付けることで、投票行動につなげる、といった具合です。

けんすうさんは、候補者の中心的な政策ではなく、効きそうな相手にピンポイントで情報を届けるやり方だと整理します。

尾原さんは、これは行動経済学を大規模に実践したものだと位置づけます。

現状維持を望む心理、損失を避けたい心理といった認知バイアスをタイプ別に活用し、人の行動を変える集積として、大統領選の結果に影響した可能性があると語られます。

では、それは証明されているのか。けんすうさんの問いに、尾原さんは慎重に答えます。

ダークポストによって一定比率の人が意思決定を変えたという追調査は出ているといいます。一方で、実際の大統領選では得票総数ではクリントンが上回っていました。

それでも、間接選挙のためスイングステートでの僅差の勝利が積み重なり、トランプの当選につながりました。直接的な証明はされていないものの、態度と行動の変容が起きたのは現実だと尾原さんは述べます。

軍事的背景をもつ会社という側面

19:17 から再生する

ここから先は「信じるか信じないか」の領域だと断りつつ、尾原さんはケンブリッジ・アナリティカ社の背景に触れます。追調査では軍事的な背景が次々に出てきたといいます。

同社の源流は、1990年に設立された行動ダイナミクス研究所でした。テレビ制作や広告業界の経験から、行動経済学や集団行動心理学を集め、当初はアフガニスタン戦争やイラク戦争などでの意見誘導に関わる組織だったとされます。

親会社にあたるSCLは、クーデターの扇動もできると主張していたとされ、1994年以降はイタリア、ウクライナ、インド、インドネシア、台湾など25カ国以上の政治や選挙キャンペーンに関わっていたといいます。

意見の集積場所がマスメディアからSNSへ移っていく中で、2013年に子会社としてケンブリッジ・アナリティカ社が設立されました。

さらに尾原さんは、トランプ政権で首席戦略官を務めたスティーブ・バノンが、この会社の副社長だったと指摘します。

ただし、同社が選挙管理や情報操作をどこまで実際に行ったかは両論あると尾原さんは補足します。確かなのは、最大8700万人分のデータが本人の同意なしに収集され、投票行動を変える動きが起きたことだと念を押します。

けんすうさんは、この手法が外国勢力にも使われうる点を挙げます。

尾原さんはこれを鋭い視点だと受け止めます。自国内では罰せられるリスクがある一方、他国のSNS世論であれば操作しやすく、諜報戦や認知戦に悪用されかねないと語ります。

事件後に打たれた防止策と規制

23:05 から再生する

尾原さんは、こうした手法が日本のゲーミフィケーションの領域では無意識に使う技に近い点も指摘します。だからこそ、悪用への線引きが問われます。

事件後、Facebookはまず外部連携の仕組みを強く制限しました。ユーザーの同意があるものにしかデータを開示せず、どの情報が共有されるかを明示したうえで同意を取る形が当たり前になりました。

もう1つ大きな変化として、政治に関する宣伝がとても出しにくくなったと尾原さんは話します。これだけの規模の出来事が起きたからだと理解しておいてほしいと呼びかけます。

けんすうさんは、テレビ時代なら特定の政党だけに有利な放送は起こりにくかったが、SNSでは広告や投稿を使ってさまざまな勢力ができてしまうため、防ぎにくいと指摘します。

この事件はFacebookの信頼失墜につながりますが、真相に迫ったのは内部告発でした。ケンブリッジ・アナリティカ社の元リサーチディレクターやFacebook内部の人間の告発が起き、外部の記者の取材で連鎖的に事実が明るみに出ていきます。

その影響でFacebookの株価は急落しました。数日間で時価総額が1000億ドル以上、およそ10兆円が失われ、2018年の1年間で株価の4分の1ほどを失ったとされます。

Facebookは対処として、プライバシー設定の変更に加え、約26%の怪しいアプリを削除する大鉈を振るいました。SNS上では「デリートFacebook」のハッシュタグも広がったといいます。

GDPRとAI時代の感情操作リスク

27:45 から再生する

影響は企業から国へと飛び火します。海外サイトで見かける、クッキー情報の共有可否を尋ねるポップアップも、この事件がきっかけだと尾原さんは説明します。

その背景にあるのが、EUの一般データ保護規則GDPRです。

デジタルが政治判断にまで影響を及ぼすことは民主主義の危機であり、だからこそ個人が自分のデータを扱えるよう明示的な確認を求める、と尾原さんは意義を語ります。

GDPRでは、プライバシーデータをユーザーのいる国に置くことなどを求め、違反した場合は最大でグローバル年間収益の4%を罰金として科すとしています。

実際にFacebookは、EUのユーザーデータを適切な方法なしに米国内へ転送していたと認定され、2023年に12億ユーロ、当時のレートでおよそ2000億円の罰金を科されました。

そして議論はAIの時代へと進みます。今度はAIが知らないうちに人の意見を変えるのではないか、という懸念です。

尾原さんによれば、AIの規制議論では、暴走や大量殺戮兵器の製造と同じレベルで、人が気づかないうちに感情を操作するリスクが重視されているといいます。これはパーシエーションと呼ばれ、EUのAIアクトにもしっかり盛り込まれているとのことです。

尾原さんは、AIに毎日相談することが当たり前になり、個人データをプラットフォームに預けていく時代だからこそ、心理を第三者に操作されないことが民主主義の根幹に関わると強調します。

最後に2人は、これがMeta社だけの問題ではなく、SNSやテクノロジー全般に通じる話だと確認します。尾原さんは書籍「戦争広告代理店」やドラマ「マッドメン」を、けんすうさんは「独裁者のデザイン」を挙げ、感情操作の歴史を知ることが操られない力になると話しました。

まとめ

ケンブリッジ・アナリティカ事件は、1つの性格診断アプリから8700万人分のデータが集まり、選挙結果にまで影響したとされる出来事でした。SNSの便利さの裏側にある世論操作の構図と、そこから生まれた規制の流れを知ることが、AI時代に自分の判断を守る第一歩になります。