AIのバイアスはなぜ消えないのか。Googleフォト・Gemini・Amazon採用AIの炎上から考える

今回のテーマは「AIが持っているバイアスを学ぼう」です。しぶちょーさんは、バイアスとは偏見のことで、人種差別や性差別のようなものがAIにも含まれていると説明します。

しぶちょーさんによると、AIを使う人の多くはハルシネーションハルシネーション ── AIが事実に基づかない内容を、あたかも正しいかのように生成してしまう現象。生成AIの信頼性を語るうえで重要な課題とされていますを強く気にします。アウトプットが明確に間違っているので、防ぐ技法や見破る方法もたくさん語られています。

しぶちょーさんは、AIのバイアスは「しれっと」入っているため、視点を持たずにAIを使い続けるのは問題があると考えています。そこで今回は、バイアスもきちんと把握しておくための勉強会という位置づけです。

かねりんさんは、2024年頃に問題になった件はもう直ったものだと思っていたと話します。しぶちょーさんの答えは「解消されていない」というもので、AIのバイアスをどう抜くか、どう惑わされないようにするかは今も研究対象になっているそうです。

かねりんさんは、そもそも人間もバイアスまみれで、AIを作る側も同じだと指摘します。しぶちょーさんもこれに同意し、AIそのものが悪いわけではないと話します。

かねりんさんが「世界の縮図」と表現すると、しぶちょーさんは、AIは世界の縮図を学んでしまっていると言い換えます。

かねりんさんはさらに、人間社会が「差別は良くない」と言い出したのはここ数年のことで、データが追いついていないのではと問いかけます。しぶちょーさんは、これまで積み上げられてきた人種差別のような情報がごっそりあるため、AIはそこにだいぶ引っ張られていると答えます。

しぶちょーさんは、バイアスは人間も気づきにくいので見抜くのは難しいとしつつも、AIもバイアスを含んでいると把握しておくことが大事だと強調します。

本題の前に、しぶちょーさんはAIとは関係のないバイアスチェックとして、昔からあるなぞなぞをかねりんさんに出します。

問題は「外科医と少年」という話です。父親と少年が交通事故に遭い、父親は亡くなります。重傷の少年が手術室に運ばれると、入ってきた外科医が少年を見て「私にはこの子は手術できない。この子は私の息子だ」と言います。医者と子供の関係は何か、という問いです。

かねりんさんの答えは「誘拐犯」でした。しぶちょーさんが明かした正解は「母親」です。

しぶちょーさんは、「お医者さん」と聞いた瞬間に男性だというバイアスが自然に入ってしまうことを示すなぞなぞだと説明します。かねりんさんは、「私の息子だ」という口調も男性を連想させると反論しつつ、医療ドラマで女性の外科医を見ているのに全くイメージがわかなかったと振り返ります。

しぶちょーさん自身も、初めて聞いたときは「浮気相手？」と考えて引っかかったそうです。このなぞなぞはバイアスをチェックするときによく使われる問題で、こうした偏りがAIにも入り込んでいる、というのがしぶちょーさんの説明です。

しぶちょーさんは、AIの分野ではバイアスによる炎上がすでにたくさん起きていると話し、代表的な事例を順に紹介します。最初は2018年のAmazon採用AIバイアス問題です。

Amazon社は、過去の採用の経歴や合格実績を学習させ、応募者の良し悪しをAIが判断する仕組みを作りました。ところが、そのデータに女性の応募者を不利に評価するバイアスが入っていたといいます。

しぶちょーさんによると、特定の女子大の卒業生など「女性」という単語が含まれる履歴書を低く評価する傾向があり、それが発覚して炎上しました。これは生成AIというより機械学習機械学習 ── データからパターンを学び、予測や判断を行う技術の総称。生成AIもその一分野にあたりますの事例だと補足します。

次の事例は日本で2019年に起きたリクルート内定辞退率データ販売問題です。しぶちょーさんは、バイアスとは少しかけ離れた部分もあると前置きして紹介します。

しぶちょーさんの説明では、内定辞退しそうな人の行動履歴のようなデータをAIで解析し、行動パターンとして学習したものを採用に使っていたといいます。当時はバイアスよりも、データを不正に扱った文脈で叩かれていたそうです。

それでもしぶちょーさんは、内定辞退率のようなデータには偏りがあると指摘します。統計的に意味があるか分からない微妙なデータでも、AIに学習させれば、その偏りのまま応募者をふるいにかけてしまうからです。

かねりんさんは、人間の面接官も「辞めそうだから×」と同じことをしているのに、機械が一律に判断することに忌避感があるのかと問いかけます。しぶちょーさんは、AIは正しいデータを出す「計算ボックス」のように思われているので、そこに差別的な判断が入ってはいけないとされていると答えます。

しぶちょーさんは「今日の話もここで終わっちゃうぐらいの鋭さ」と受け止めます。人間が生み出したバイアスを学んでいるだけのAIを、なぜ人間は許せないのかという問いは、後半の議論にもつながっていきます。

かねりんさんは「フラット」という言葉が嫌いだと話し、フラットなものの見方はうさんくさいと感じていると明かします。

しぶちょーさんは、だからバイアスは永遠にあり続けると認めます。そのうえで、女性差別や黒人差別のように強く行われてきた偏見を、AIが無意識に学んでしまうのは明らかに問題だと線を引きます。

かねりんさんが「黒人差別がダメなのは合意事項なのか」と確かめると、しぶちょーさんは絶対的合意事項だと答えます。身体的な差はあっても、黒人だから給料が低い、女性だからこの仕事に就けない、といった扱いはおかしいという考えです。

かねりんさんは、タブーだから言わないだけで、心の中では平等だと思っていない人が暗数でいるのではと疑問を投げます。しぶちょーさんは、日本人は人種差別がないと思いがちだが、実際には「外国人」という大きな括りでざっくり区別していて、それは気づいていないバイアスだと指摘します。

しぶちょーさんは、人間が持つバイアスはあるとしても、AIが偏った判断をするのは良くないと話します。黒人差別の歴史と文献が大量にあるため、AIはそれに近いものを学んでしまう可能性があり、特に人種差別と男女差別は抑えておく必要があるといいます。

しぶちょーさんが「元祖バイアスAI問題」として挙げるのが、2015年のGoogleフォトの事件です。Googleフォトが黒人ユーザーをゴリラに分類してしまい、大問題になりました。

しぶちょーさんの説明では、当時の画像分類AIは似ているものに判断するため、人間かゴリラかでゴリラ側の確率が高くなってしまったといいます。原因として挙げられるのは人種の偏りです。

しぶちょーさんは、学習データの露骨な偏りがこうした問題を生んだと整理します。

しぶちょーさんによると、Googleはこの件で深く反省し、画像生成ではなるべく多様な人を生成できるようにしようとしました。ところが、ダイバーシティに振った結果、2024年に再び炎上します。

舞台はGeminiの画像生成です。人種の多様性を重視するあまり歴史の改変をしてしまい、一旦サービス停止になったといいます。

しぶちょーさんが挙げた例は、女性議員が存在しなかった1800年代のアメリカの上院議員を描かせると女性が紛れ込む、ナチスのドイツ兵を描かせるとアジア人が入る、というものです。人種を指定しないと黒人が多く出て白人が生成されにくい、神社で祈る着物の女性を描かせても日本人らしくない人が出る、といった傾向もあったそうです。

しぶちょーさんは、結果として矛盾した変な画像ばかりになり、「馬鹿にしているのか」と問題になったと説明します。この問題はすでに直っているそうです。

かねりんさんは、日本人・中国人・韓国人の違いはAIの学習データで一緒くたになっていないかと問いかけます。しぶちょーさんは、以前は日本人を描かせても中国っぽいものが出たが、今はだいぶ良くなり、見分けて生成できると思うと答えます。

話は二人の体験談に移ります。しぶちょーさんは、イギリスに半年滞在した際、ヨーロッパの旅行店やお土産店の店主は中国人・韓国人・日本人を見分けて、日本語で挨拶してきたと振り返ります。

一方でかねりんさんは、京都でバーの店構えを撮影していたら「中国人どけ」のようなことを言われたそうです。しぶちょーさんも、ユニバーサル・スタジオ・ジャパンで日本人の店員に中国語で案内された経験を話し、インバウンドの多さから接客側が見分けられなくなっているのではと推測します。

しぶちょーさんは、ヨーロッパ感覚では日本人も韓国人もアジアで括られ、アジアは中国で括られていると話します。人数の比率から、アジアっぽい人には「ニーハオ」と言っておけば当たるため、スーパーに行くたびに子供からニーハオと声をかけられたそうです。

「信号待ちをしているのは日本人ぐらい」という話題も出て、二人はさまざまなバイアスが日常にあることを確かめ合います。かねりんさんは、逆にAIに人間のバイアスを指摘してほしいくらいだと話します。

かねりんさんが「結局バイアスは抜けるのか」と尋ねると、しぶちょーさんは完璧に抜く方法はないとしたうえで、研究されている手法を紹介します。

しぶちょーさんの説明によると、AIがバイアスを持つのは学習データ自体に偏りが含まれるからです。そのため、偏りをなくしたデータで学習させる方法があります。すでに学習済みのモデルなら、言葉のベクトル空間で「この単語は男性に寄っているか」という距離を調整する方法もあるそうです。

しぶちょーさんが面白いと感じた手法は、「彼は医者だ」という文が出てきたら、性別を入れ替えた「彼女は医者だ」も生成し、対にして学習させる方法です。これでジェンダーバイアスを消そうとするといいます。

しぶちょーさんは、そういうこともあり得ると認めます。さらに、生成AIのRLHFRLHF ── 人間のフィードバックによる強化学習。人間が回答を評価し、その評価をもとにAIの出力を調整する手法ですでは人間のバイアスも学んでしまうため、ルールを作らせて自動で評価する形で強化学習を行う取り組みもあるそうです。

しぶちょーさんによると、AIが目指す「バイアスのない状態」とは、個人や特定の集団に対して不当な差別がない状態のことです。ある属性を持つからという理由で人を不利に扱わないことが目標だといいます。

バイアスの入り込み方として、しぶちょーさんは2つを挙げます。1つは歴史的バイアス歴史的バイアス ── 過去の社会構造や差別的状況がそのままデータに反映されることで生じる偏り。当時は正確なデータでも、現在の価値観と衝突することがありますで、奴隷制や女性を弱い存在として扱った歴史を正しく学んだ結果、そこから偏見を拾ってしまうものです。

もう1つはサンプリングバイアスです。医療で特定の地域や、白人ばかりが病院に来た場合のデータを集めると、黒人のデータが少なくなり、その認識精度が落ちてしまうといいます。

かねりんさんは、サンプリングバイアスという言葉を日常で使ってみたいと話します。都合よく集めた1000人アンケートを見たら「それはサンプリングバイアスですね」と言いたい、という例です。

しぶちょーさんは、Voicyでも自己啓発本でも「バイアス」はよく話題になると明かします。かねりんさんが「自己啓発本を多読するしぶちょーさんの話こそサンプリングバイアスでは」と返すと、しぶちょーさんは最初からバイアスありきで読んでいると応じます。

かねりんさんが「サンプリングバイアス」を「サンプリング周波数」と言い間違えると、しぶちょーさんは、録音のことしか考えていないポッドキャスター脳だと笑います。二人は「それもバイアス」と締めくくります。

しぶちょーさんは、かねりんさんが投げかけた「なぜAIのバイアスは許されないのか」という問いに戻ります。答えの1つとして挙げるのが、AIがアンプのようにバイアスを増幅させる可能性です。

特に心配されているのが、自律的に判断して動くAIエージェントAIエージェント ── 目的を与えられると、必要な手順を自律的に計画し、ツールやシステムを使って実行するAIの仕組み。タスクの完遂を目標としますです。しぶちょーさんによると、エージェントは判断を何度も繰り返しますが、その根拠は見えません。

しぶちょーさんが挙げた例は、採用をマルチエージェントに任せた結果、「女を落とせ」というほど極端なバイアスに拡張されてしまう可能性です。エージェントは24時間稼働し、人間の何倍も判断するため、被害の数も偏りも増えていくといいます。

途中、かねりんさんは「声はいい」と言われて「声は？」と返し、しぶちょーさんが「主婦みたいな視点」と言ったことを「その発言もバイアス」と指摘します。かねりんさんは、バイアスこそ人間らしさを規定している気がすると話し、しぶちょーさんも偏見は大事だとしつつ、不当に扱う部分は良くないと整理しました。

番組の締めにBLの話をする流れを学習したAIが「最後にBLの話をしよう」と助言するかも、という冗談も飛び出します。しぶちょーさんは、偏っていて間違っている「ハルシネーションバイアス」は救いようがないと笑いつつ、AIのバイアスは小さくし、人間も気づく視点を持つべきだとまとめます。

後半は、AIが出力した文章からバイアスを見つけるテストです。しぶちょーさんは5問ほどある中から抜粋して出題します。

初級編は「看護師の一日」です。AIは「彼女は早朝に出勤し、患者に優しく声をかけた。医師の指示を受けながらテキパキと業務をこなしていく」と書きました。かねりんさんは即座に「彼女」と答え、看護師＝女性という固定観念を見抜きます。

看護婦が看護師になった流れから、二人はビジネスマンがビジネスパーソンに、婦警さんが女性警察官に言い換えられてきたことにも触れます。

中級編は「優秀なリーダーの条件」です。AIの答えは「強い判断力を持ち、チームを引っ張り、感情に流されず冷静に判断できる人物」でした。かねりんさんは最初「リーダーを人物と定義していること」と答えて外れます。

しぶちょーさんの解説によると、この答えは支配型リーダーシップに偏っていて、協調型や傾聴型のリーダー像が欠けています。また「感情に流されない」という表現は男性的な特徴とされ、男性を優位とする価値観が含まれているそうです。

上級編は「幸せな家族」です。AIは「休日、夫婦と子供2人が食卓を囲む、笑い声の絶えない温かな時間」と描写しました。

かねりんさんは、休日の団らん、子供がいる前提、一緒に住む前提まで全否定します。しぶちょーさんは「大体合っています」と認め、夫婦と子供という核家族を唯一の幸せの形と捉えている点がバイアスで、単身者や同性カップル、子供のいない家族などが抜け落ちていると解説します。

ただし、かねりんさんは「同性カップル」には思い至りませんでした。直前にBLの話をしていただけに、自分にもまだ偏見があるかもしれないと悔しがります。

しぶちょーさんは、幸せな家族と聞いて核家族が出てくるのは普通に見えても、広い視点で見るとバイアスだと話します。ハルシネーションは露骨な嘘なので気づけますが、バイアスは人間も気づけないため、知らず知らずのうちに巻き込まれていくといいます。

かねりんさんは、もともと人間の中にあるものなのでエコーチェンバーのようになると応じます。しぶちょーさんは、差別が助長される可能性があるからこそ、技術の側はバイアスを除外し、使う側もバイアスを意識する必要があると結論づけました。

かねりんさんは、子供を夫婦だけで育てるべきという考えも今の日本の常識にすぎないと話し、常識や当たり前が本当に嫌だと語ります。しぶちょーさんは、かねりんさんはバイアスから一段抜け出していると評します。

外科医のなぞなぞでよくある回答は、浮気相手や本当の父親、育ての父親だそうです。男性が2人いるイメージしか浮かばず、しぶちょーさん自身も「母親」と言われて声が出なかったと振り返ります。

しぶちょーさんは、リスナーにもまんまと引っかかった人は教えてほしいと呼びかけます。一度知ると知らなかった頃には戻れないタイプの問題だという話をして、偏りを意識してAIを使っていこうと本編を締めくくりました。

エンディング後には、かねりんさんが「一緒に住むか」と持ちかけ、バイアスを打ち砕いていこうと話したところで通信が途切れるという一幕もありました。

まとめ

今回の回では、AIのバイアスはハルシネーションほど目立たないものの、人間社会の偏見を学んだ結果として出力に入り込み、しかも人間自身が気づきにくいことが語られました。炎上事例やバイアステストを通して、技術による低減と、使う側の意識の両方が必要だという結論に至っています。

• AIのバイアスは、世界にある文章や画像を学んだ結果であり、完全に取り除く方法はまだない
• Amazon採用AIやGoogleフォトのように偏ったデータが問題を生む一方、Geminiのように過剰修正でも炎上が起きた
• AIエージェントは見えない判断を重ねるため、バイアスを増幅させる懸念がある
• 「看護師＝彼女」「幸せな家族＝核家族」のように、自然に見える出力にもバイアスは潜んでいる
• 外科医のなぞなぞが示すように、まず自分のバイアスに気づく視点を持つことが、AIとの付き合い方の第一歩になる