OpenAI数学論文722本公開とブルーカラーシフト。AIは問いを立てる力まで奪うのか

ということで、実は一昨日ぐらいに仙台に行ってきまして。

仙台は結構久しぶりだったんですけど、NHK仙台の番組の出演で行ってきたんです。東北学院大学のキャンパスの中で撮影をしてきました。

学生の皆さんと職員の皆さんを交えて、アメリカをはじめブルーカラーシフトっていう動きが来てることについて議論をしてきました。非常に面白かったです。

それを見ながらみんなで議論をすると。私は専門家の立場から、今何が起きてるかっていう説明をしたりする番組だったんですけど、結構面白くて。

放送日が10月16日金曜日の夜7時半から7時56分、NHK総合宮城で、再放送が17日土曜日10時5分から10時31分までです。『東北ココカラ』という番組です。

このAI時代に、いろんな仕事の定義も変わってきてるし、若い方を中心に仕事のあり方が変わってきちゃうなというのを感じました。

最近だと（その世代を）自分の子供と比較したりするんですけど、自分の子供と年齢がそんなに変わらないじゃないですか。だけど、結構しっかりされてるじゃないですか。

仕事でも22、3歳の人とあんまりやりとりしないから、すごく面白いですよね。一般論にはなっちゃうけど、世代を超えた交流がある場がもっとあると面白いなという気はします。

今って、ペン使って書くことも減ってきましたよね。私、結構ノートを取る派だったんですけども、パソコンに打ち込んだりするのが多くなってきたので。

現代社会でいろんなツールがある中で、何も矯正しないでいくと、鉛筆で字書いたりして頭を悩ませるとか、そういうことってないんじゃないかなって気がしてきていて。

少なくとも高校生ぐらいまで、鉛筆かシャーペンで手動かして問題解いたり、試験やったりするっていうこと自体が、すごいいいことだなと思いましたね。

そういうふうにしないと、頭がなんとなく鍛えられないのかなみたいな感覚はあるよね。もしかしたら初っ端パソコンでやっても身につくのかもしれないけど。

あと、AI時代だから、逆にもうテストは紙と鉛筆にまたなるんじゃないかなっていう。

他のソフトウェアが一切使えないパソコンを全部設置してテストするのもありですけど、会場のキャパの問題とかも考えると、逆に紙と鉛筆に回帰するのは面白いかもしれない。

大人になったり社会に出ちゃうと、そんなことも言ってられないので。そう考えると、やっぱ教育の場って重要なんだなと思いましたね。

論文は372グループに分かれて、数論、幾何学、理論計算幾何学など未解決問題を扱っていると。社内モデルに約4000件の未解決問題を与えた結果だそうです。

1件の成果あたりの計算量は、ChatGPT Proの高度推論を約3時間動かす程度であったとされているという記事が出ています。

長谷川さん、この722本の数学論文を公開したことに対して、数学界からはどんな反応が出ているんでしょうか。

面白い問題を見つけるという作業がなくなって、どんどん負のスパイラルが起きてしまうんじゃないかという危惧を、手紙として連名で出してるんですけれども。

今回もOpenAIは勢いを止めずに、4000個（の未解決問題）を手当たり次第に解決しようと試みたところ、やっぱり数学界からの反応はあんまり良くなくてですね。

今私が見てるブログ記事は、アサフ・カラギラという、パーティション・プリンシパルという分野に深く携わっている数学者の方のものです。

彼が自分のホームページで、この問題を解決した数学者がいたら僕はウイスキーを買ってあげるよみたいな、学者的なノリで書いてるんですけれども。

OpenAIの発表の翌朝起きたら、もう3人の人から「お前はサム・アルトマンにウイスキーを買え」と言われて、絶対に買わないって抗議しているブログ記事があるんです。

論点としては、1つはクオリティが低いと。人間の数学者からすると読みづらいし、変なペーパーを引用したり、変な手法を使ったりしていると批判しています。

AIの文章って、やっぱAIの文章っぽいので、なんとなくわかる気がするなって思うんですけれども。

科学っていうのは、科学者たちが論文を通してコミュニケーションをし合いながら、知識の体系を積み上げていっている。

その中に、AIというある種エイリアンみたいな存在が参加し始めて、面白いのを全部釣り上げてしまおうとするのは非常に危険なんじゃないか、と言っているブログ記事かなと思います。

証拠を見せてほしいとか、検証可能性への懐疑っていう声が出てきたり。Lean形式化の範囲も限られていて、主結果が機械検証済みなのは722本中162本、22%にとどまる。

強いボイコットとしては、トップクラスの数学者が立ち上げたAssociation for Human Mathematics、AHMという団体が、数学者にOpenAIとの協働をやめるよう呼びかけていると。

（AHMは）OpenAIの数学を前進させるという主張を退けて、OpenAIが研究規範を完全に無視していると批判しています。

フィールズ賞受賞者25人が9月11日に、AI企業が数学の問題をベンチマークとして使うことは有害だという宣言を出していたという背景もある中で。

あえてこうやって喧嘩売ってるみたいな、なんであえて出したんだろうっていう気は私はしちゃったんですけど、壯さんどう見てますか。

AIが面白い問題をいろいろ解いて潰しちゃうと、面白い問題に取り組もうっていう研究者の数が減ったり、モチベーションが減っちゃったりするわけであって。

非常に危ないですね、これは。（数学の）発展が止まっちゃいそうな感じがしましたけどね。LLMの根幹的なところに行きそうな気もしますね。基礎研究の話じゃないですか、これって。

生成AIベースのトレーディングが進んでいくと、アルファが生成AIに食われ尽くしちゃって、レガシーのトレーダーは見つけられるアルファが少なくなってしまうとかも考えられるのかなと。

ビジネスの世界でも、LLMが人間の代わりに意思決定や判断をする時代になると、一番いいトイレットペーパーってどれなんだろうっていうロジックが成り立つ。

そうすると、トイレットペーパーの商品が1つだけ勝者になってしまうみたいな。

意思決定を機械に委ねて、人間はそれをただ実行するだけの媒体になっていくっていう、そういう危険性がある。

テイストっていう言葉が今フロンティアラボ周りでよく言われていて、「テイストは人間にはかなわないよね、LLMは」みたいなことが言われてるんですよ。

エンジニアリングでいうと、センスのあるやつは10年先、30年先を見てもロバストなシステムにつながる。

センスのないやつはすぐ壊れそうとか、先に進んでいくとどっかしらロードブロックが出てくるとか、そういうことだと（ジョン・シュルマンは）言っていて、すごく面白いなと思ってたんです。

じゃあテイストをLLMが身につけた後に何が起きるか。結局、数学の問題を発見するっていうのもセンスの問題だと思うんですよ。

そのセンスをフロンティアラボが解決して（LLMが）身につけてくると、今度は問題の発見も、別に人間に頼らなくても。

今までは問題を作る力とか、プロンプトは人間がやっていたわけだけども、テイストとかセンスっていう定義化できないものすらAIができるようになってきちゃうと。

確かにこれは学問全体における危険な感じもするけど、壯さんどうですか。

それと、ヘッジファンドとか、AIを社会に実際応用していろんなソリューションを出していくっていうことは、ちょっと分けた方がいいかなと、なんとなく思っていて。

この前シンガポールに行っていた時に、AI×サイエンスっていう分野の中で、創薬、薬の開発のAIの話を結構聞いてきたりしたんですけれども。

そういうのって、AIを実際使っていくことで、世の中に結構価値が生まれていくじゃないですか。

LLM自体は、テキストやコードなどの言語情報に基づいて、次に来る単語や記号を予測するっていうのが基本的なベースの作りになっていて。

いろんなものを組み合わせて、次は何っていうのを人間より早く深くできるようになってきてるのかなと。それが創薬とかで価値が出るんだったら、どんどんやればいいのかなと思うんです。

一方で、基礎の方って、LLM的なアプローチで進むのかなっていうのが、個人的にはなんとなくモヤっとしてる疑問であって。

物理の世界だと、アインシュタインの相対性理論とか量子力学の基礎みたいな根本的な発見って、50年ぐらいされていないじゃないですか。

既存のものを組み合わせて突き詰めたり、早くやったりするのはLLMは得意なのかもしれないけど、全然新しいものを見つけるのはそんなに得意じゃないんじゃないかなって感覚があって。

そうすると、人間がまだそういうところをやんなきゃいけない。でも、AIが（面白い問題を）いっぱい取れちゃうと、そもそも人間が考えることをやめてしまうみたいな。

その分野は面白くないねってなって取り組まなくなっちゃうと、超長期的には発展が遅れそうな感じしますよね。

テイストを突き詰めると、リンゴが落ちたのを観察して重力に行き着くみたいな、そういうところに果たして（LLMが行けるのか）。

この2、3年のスパンでは多分そこまではいかないだろうなと私は思いつつも、フロンティアラボが真剣に考えてるのを聞くと、もしかしたら新しい分野の開拓もあるのかなと。

ニューラルネットワークを発案した人とか、チューリングとか、そういう巨人のレベルにLLMが近づけるのかっていうのは、フロンティアラボもすごく考えてることだと思いますし、やろうとはしてると思います。

テイストはその一端だと思いますし、もう1つはやっぱ観察力だと思うんですよね。LLMにどうやってこの実世界を観察させるのか。例えばワールドモデルとか。

ワールドモデルやフィジカルAI的な世界って、画像認識だったり、物理の法則をバーチャルに再現するとかって、LLMだけじゃできないじゃないですか。

1940年代くらいまでの知識だけを持たせた上で、アインシュタインの相対性理論にたどり着けるかっていうテストが、真のAGIのテストだとかって言ってたこともあり。

最近、彼らもノーベル賞を取ったじゃないですか。デミスも取ってるし、DeepMindの他の人も取ってると思うんですけれども。

科学とAIの融合が、フロンティアラボに科学を集中させてしまうっていう流れが始まってると思うんですね。これからもフロンティアラボ発のノーベル賞受賞者は増えてくると思うし。

生成AIとか、もしかしたらワールドモデルとか、そういったものを使わないとたどり着けない領域が結構あって。その発展は巨大生成AIラボでしかできない時代が徐々に来つつあるんじゃないかなと。

だとすると、やっぱり大学にとっては脅威ですよね。大学って何のために。

そういう有機的な発見みたいなものは、やっぱり人間しかできないんじゃないかと。最後は、これってすごい大事なことだからやろうよみたいな意思決定や意思であったり。

そこからムーブメントを作って、研究を続けたり、他者を巻き込んだりとかすると、どうしてもフィジカルな現場との関わりも必要になってくるし。

この数学の話だって、実際に人間が解けない問題をたくさん解き始めてて、今は内容が乱暴だとか査読できないとかあるけど、それって多分本質的には些末な問題で。

もうちょっと時間経ったら、そういうのもAIでできるはずだから。それで数学を発展させていいのかっていうのは、最初の数学者の先生の話に戻る気がしますね。基礎分野で人間が思考放棄することになっちゃう気がするので。

特に基礎研究の分野で大きな脅威になると。基礎研究で脅威になるってことは、応用の分野でも影響が出るし、研究者の数が減ること自体は社会にとって良くないことだから。大学にとってもね。

数学者たちが懸念するのはわかるけど、だからって、数学でAIを使うなっていう規制の議論にするのは、やっぱ難しいじゃないですか。

懸念を発表するのはすごい大事で、ちゃんと議論すべきことだと思うんですが、じゃあどうするかっていうところがすごく難しい。

AIの開発のスピードを弱めるみたいな動きも今ある中で、どうするんだっていうね。もう便利すぎて、使わないわけはないから、それこそ数学の世界でも。

将棋みたいに時間制限があるわけでもないし、3時間で1個解けるとか書いてあったわけだから、3時間を30分にしたっていいわけだし。

そしたら、数学者としての新しい成果って、AIが解けなかった問題を解くっていうことになるわけじゃないですか。

そういった分野に対する今のアメリカの若い人の興味っていうのは、現場の肌感覚として何か感じるところありますか？

でもその反面、生成AIが出てきて、学校の性質が本当にガラッと変わっちゃった気がしますね。

（オフィスアワーには）大体生徒の10分の1くらいは出てたんですね。200人くらいいると20人くらいは出てたんですけれども。

先週やったオフィスアワーなんかは、最初4人いて、途中から2人になりましたね。これ何なんだろうとか。

目上の人と話すのって疲れるから、行かないでいいなら行きたくないっていう心理と、テクニカルな質問ならAIで解決できちゃうっていうのが重なって、オフィスアワーに行く必要がないってなっちゃうんだと思う。

もしこれを聞いてる方で、オフィスアワーにアクセスがある学生の方がいらっしゃったら、私は言いたい。オフィスアワーは行った方がいいですよ。

教授とかTAの先生と話す中で、自分の課題が明確になるってすごいあるから。AIとの壁打ちで明確になるのもあるけど、目上の人、専門家と話すっていうところ。

心理的なハードルがあるのはわかるんだけど、そのハードルを越える訓練は絶対に必要だから、オフィスアワーはどんどん行った方がいい。

評価につながるかは先生次第だからわかんないけど、少なくとも悪い評価になることは絶対にない。学習意欲が高いと思ってもらえて、顔を覚えてもらえるし。

学校っていう環境は、まだまだ先生が裁量を持って成績評価をする状況である以上、先生に名前を覚えてもらうのも大事だと思う。

話は逸れちゃうけど、オフィスアワー、人が減ってるの悲しいけど、ぜひ行ってもらいたいなとは個人的には思うけどね。

このAIが研究分野で大きな進化を遂げる中で、基礎研究をはじめとして、大学のあり方、研究者のあり方まで変わってくるんじゃないかという、非常に興味深いニュースでした。

1ほどのアイコニックな、本当に完成された感じとはもうちょっと別ですけど、2は2で、1のいろんな話をちゃんと反映した作りで、私は好きでした。

あんまり好きじゃないっていう人も結構いるみたいですけど、メリル・ストリープが好きなので、ミランダが相変わらずで面白いなと思いました。お二人は1か2は見たことありますか？

なんとなく1のキャストが年老いてるんじゃないかっていうので、なんとなく見たくないなと思って見てないみたいな。謎の思いです。

私が思ったのは、どんなにその人が成功しても、上司っていつまでも上司なんだなっていうのを感じた。

外から入ってきてるから、ペコペコする役柄でもないわけですよ。なんだけど、組織の中の人間関係って変わらない部分があるのかなと。逃れられない上下関係みたいなの、あるんですかね。

それではまた来週お会いしましょう。ありがとうございました。