AIの学習法を人間に応用するとどうなる?
この回のテーマは、AIが賢くなってきた考え方を人間の意思決定に取り入れられないか、というものです。はりまが最近読んでいたG検定のテキストがきっかけになっています。
はりまは、AIの賢さの測り方を「未知のデータを与えられたときに、どれだけ正しく予測できたか」だとざっくり説明します。その予測精度を上げるために、前の世代の悪いところを直し続けてきたのが今のAIだと話します。
はりまは、その改善の考え方を人間にも当てはめれば、余計な感情に邪魔されずにいい判断ができるのではないかと提案します。
どういうふうに考えているのかというのを理解、AIになりきっていけば、余計な感情によって邪魔されずにいい判断ができるんじゃないかなと思います。
AIになります。今から。
やーまんは「感情を捨てた」と宣言し、この回は自分をAIとして考えていくというノリで進んでいきます。
3つの集客案、どう試すのが正解か
最初の題材は、思ったほど結果が出ていないプロジェクトで、撤退するか、まだ試していない手を打つかを迷う場面です。
はりまは具体例として、集客のアイデアがA・B・Cの3案あるケースを出します。AはSNS、Bはセミナー、Cは友達紹介キャンペーンで、全部を本気でやる予算も時間もないという設定です。
この三ついいなと思っているんだが、全部をちゃんとやろうとすると予算も時間もない。
AIになりきったやーまんは、感情で一番うまくいきそうなものを選ぶのではなく、各案のコストと、成功時のインパクトを数値化する方法を提案します。
まずABCそれぞれコストを計算しますね。そして、成功した時の仮説ですね、まあインパクト。
さらにやーまんは、失敗したときの学びの大きさも数値化すべきだと付け加えます。最近は失敗のデータを集めることも大事だと感じているためです。
一番安く、一番早く、一番学びのあるもの、を選びます。
やーまんの結論は、判断材料を自分なりに数値化し、一番ポイントの高い案を1つ選んで投資する、というものでした。
AIが出す答えは「多腕バンディット問題」
やーまんの回答に対し、はりまは「AIにもそういう考えはある」と認めつつ、今回用意した答えは違うと明かします。
はりまが持ち出したのは、多腕バンディット問題という考え方です。よく使われる例として、3つのスロットマシンのうちどれが一番当たりかわからない状況が挙げられます。
はりまが示した答えは、A・B・Cのどれもまだ結果がわからないので、全部をちょっとずつやる、というものでした。
AもBもCもやってないから、まだ結果わからないんで、全部ちょっとずつやります。
名前の由来を調べたやーまんは、ギャンブラーがどの台が当たりやすいかわからない状態から、実際にコインを入れながら最も稼げる台を探す状況をモデル化したものだと紹介します。
一番いい選択肢に寄せつつ他も試す考え方
全部を少しずつ試すと、各案の平均的な結果が出てきます。ただし、はりまは一番良かった案をそのまま選ぶだけではないと補足します。
はりまは、少ししか試していない以上、Aが本当に良い結果を続けるかも、Cが悪いまま続くかもわからないと指摘します。そこで、一番良かったAに多めに投資しつつ、BもCもちょっとずつ試し続けるのがポイントだと話します。
この、その時点で一番いい選択肢を使いながら、他の選択肢も少しずつ試す方針を、はりまはイプシロングリーディ方策と呼びます。
やーまんは、この考え方を株の買い方に例えます。予算30万円をAに全部入れず、まずA・B・Cに5万円ずつ入れて、チャートを見ながら残りをどう配分するか考えるやり方に近いと連想しました。
なんかまずはABCに五万ずつ突っ込んで、で、なんかそのチャートを見ながら、次の残りの十五万をどうするか考えるみたいなさ。
病気の診断AIは「当てるだけ」ではなぜ不十分か
次の題材は、病気の診断にAIを使う場面です。データを見て陽性か陰性かを判断するとき、正解を言い当てただけでは不十分なケースがあると、はりまは問いかけます。
陽性・陰性を予測して実際に当たったのに、なぜそれだけでは実用化できないケースがあるのか。
はりま さんからの質問
やーまんは数字で考えます。100人のうち病気が5人だけの場合、AIが全員を陰性と予測すれば95人が正解で、正解率は95パーセントになります。しかし病気の5人を見逃しているため、診断としては危険だと結論づけました。
でも病気の五人を見逃しています。だから、これ診断としてはかなり危険ですよね。
はりまはこの回答を正解とし、100人に1人や1000人に1人の病気なら、全部陰性と答えるだけで正解率が99パーセント台になってしまうと補足します。それでも陽性を見逃していれば意味がない、というのが要点です。
再現率と適合率、2つのものさし
では、どう計算すれば良いのか。はりまは、再現率と適合率という指標を使うと説明します。
再現率について、はりまは病気の人が100人いて、そのうち90人を病気と判定できたら再現率90パーセントになる、と例を挙げます。全体ではなく、実際に陽性だった人の何割を正解できたかを見る計算です。
この再現率で見ると、1000人に1人を全員陰性と答えたAIは陽性を全部見落として再現率0パーセントになります。正解率99.99パーセントよりも、100人中90人を当てられたAIの方が優秀だと評価されるわけです。
一方の適合率は、AIが病気と判定した100人のうち、本当に病気だったのが80人なら適合率80パーセント、という計算です。陽性と予測した人のうち、本当に病気だった割合を見ます。
実際に陽性だった人のうち、正しく陽性と判定できた割合。陽性の見逃しを避けたいときに重視する。
陽性と判定した人のうち、本当に陽性だった割合。誤検知するとまずいときに重視する。
はりまは、この2つを状況で使い分けると話します。多少の誤差があっても陽性を見逃したくないときと、誤検知を避けたいときで、見るべき指標が変わるということです。
やーまんは、陽性・陰性を当てた割合だけでは診断の質を判断できないという点はよくわかると納得しました。
過学習は「勉強しすぎ」ではない
続いてはニューラルネットワークの話です。はりまは、入力層・中間層・出力層があり、中間層で人間には理解しきれない処理をする部分がブラックボックスと呼ばれる、と説明します。
やーまんは、言葉がつながっていくメモアプリのObsidianの図を連想したと話します。はりまはそれをノードとリンクの話だと受け止めつつ、本題のドロップアウトへ進みます。
ここでやーまんは、過学習を「勉強しすぎ」と捉えていましたが、はりまはその認識は違うと指摘します。過学習は、学習用データのどうでもいい部分を重要だと認識してしまった状態だと説明します。
過学習は勉強しすぎのことじゃないんすよ、実は。これ結構そう間違えてる人多いなと思って。
はりまの例では、猫の写真に畳の和室が多いと、AIが「畳なら猫」と判定してしまうことがあります。畳は猫とは関係ないのに、学習データの癖に偏って学習してしまった状態が過学習です。
やーまんは、過学習を「未知のデータに出会ったときの汎用性が弱くなること」と言い換えます。過去問を丸暗記して満点は取れるのに、少し違う問題だと解けなくなる状態に近いという理解です。
ドロップアウトとスター選手依存
過学習を抑える手法の一つが、ドロップアウトです。やーまんは名前から「途中でこの学習をストップする機能では」と推測しますが、はりまは違うと答えます。
はりまによれば、ドロップアウトはランダムに一部のニューロンを無効化する仕組みです。どのニューロンが重要かを判断すること自体が難しいため、ランダムに止める方が再現性が高いと、やーまんも納得します。
ドロップアウトはランダムに一部のニューロンを無効化するんですよ。
はりまは、これを「スター選手に頼りすぎるな」という話にたとえます。特定のニューロンに頼らず、みんながちゃんと機能することで、汎用性の高いモデルができるという意味です。
やーまんは、これは会社にも当てはまると話します。特定の人がいなくなった途端に業務が止まる状態は、スター選手への依存と同じだという指摘です。
たまにドロンといなくなるっていうのがチームにとってはいいかもしれないと。
砂嵐から猫を生む拡散モデル
話は画像生成AIの仕組みに移ります。はりまは、拡散モデルと逆拡散モデルという考え方を紹介します。
学習では、まず猫の画像に少しずつノイズをかけていき、最終的に完全な砂嵐にします。各時点の状態を覚えておくことで、逆にノイズから一つ前の状態を推測し、砂嵐から猫の画像を生み出せるようになる、という仕組みです。
ただの砂嵐を一個前の状態、大体こうなるなと。で、さらに一個前の状態は大体こうなってきたなっていうのを繰り返しておくと、そこにもう未知の猫ちゃんの写真というのが最終的に作られる。
やーまんは、画像を壊してノイズに変える拡散と、それを逆再生して画像を作る逆拡散、という理解でまとめます。初期のノイズが毎回違うため、まったく同じ画像ができにくくなる点も共有されました。
やーまんは、以前の画像生成では日本語が存在しない漢字のように崩れていたのが、最近は文字データをきちんと扱えるようになり、チラシのたたき台も高いクオリティで作れると話しました。
AIを人間にやらせる漫画「群脳教室」
後半は、はりまがおすすめの漫画「群脳教室」の話になります。はりまは、これはAIの仕組みを人間にさせるコンセプトの作品ではないかと見ています。
物語は、高校生の主人公が教室に行くと、クラスメイトが机の上で脳だけの状態になっているところから始まります。地球は宇宙戦争に巻き込まれており、地球人代表として宇宙人と戦う設定です。
はりまは、この作品が前回の「なぜ墓参りに行くのか」という話へのアンサーにもなっていると話します。作中では、人が祈るのは、祈ることで現実世界を変える超能力が地球人にあるからだと説明されるためです。
ただし、その超能力は一人ではごく微弱です。そこで、いろんな人の脳を並列につなぐことで力を拡大させる、という設定が「群脳」の由来になっています。
一人一人はちょっとのことしかできないんだけれども、たくさんつなぐと結構すごいことができますっていうので、これを武器に宇宙人と戦いましょうっていう話。
はりまは、一つ一つのニューロンが単純な処理しかできない点や、大きな力を出すと脳がパンクするので他人の脳に計算させる描写が、まさにAIの並列処理と重なると解説します。
もう一つのおすすめ漫画「ドロヘドロ」
AIとは直接関係ないと断りつつ、やーまんは最近Netflixで見た「ドロヘドロ」を紹介します。
作品世界には人間・魔法使い・悪魔の3種族があり、悪魔が最上位です。魔法使いは試験に合格すると悪魔になれる一方、人間は魔法使いの実験台にされているという混沌とした設定です。
主人公のカイマンは、魔法使いによって頭をトカゲに変えられてしまい、「誰がこんなことをしたのか」と、その魔法使いを探していく物語だとやーまんは説明します。
やーまんは、チェンソーマンの作者もこのドロヘドロを参考にしたという話に触れ、首が飛ぶような描写もあるダーク系だが、世界観が好きだと語りました。
まとめ
AIが賢くなる仕組みを、意思決定や組織運営に引き寄せて語った回です。全部を少しずつ試す多腕バンディット問題や、正解率だけでは測れない再現率・適合率、特定のニューロンに頼らないドロップアウトなど、感情ではなく数値と汎用性で考える視点が紹介されました。
- 選択肢が読めないときは、全部を少しずつ試し、良かったものに寄せつつ他も試し続ける
- 正解率だけでは診断の質は測れず、再現率と適合率を状況で使い分ける必要がある
- 過学習は「勉強しすぎ」ではなく、学習データの偏りに適合しすぎた状態を指す
- ドロップアウトはスター選手依存を避ける発想に近く、組織の属人化対策にも通じる
- おすすめ漫画は、AI的な発想を人間に重ねた「群脳教室」と、混沌とした世界観の「ドロヘドロ」
