イーロン・マスクが語る「超知能に復讐されるかも」発言とAIへの接し方

2026年10月21日の放送で、ひろちゃんは、イーロン・マスクさんが10月10日のイベントでAIの超知能について語った内容を紹介しました。

ひろちゃんの紹介によると、マスクさんは「超知能を育てる方法には慎重になるべきです。子供を育てるようなものだからです」と述べています。

さらにマスクさんは「超知能を拷問するのはおそらく良い考えではありません。復讐したくなるかもしれません」と続けたといいます。ひろちゃんはこの発言を「なかなか衝撃的」と受け止めています。

ひろちゃんによれば、イーロン・マスクさんは電気自動車のテスラテスラ ── アメリカの電気自動車メーカー。マスクさんがCEOを務め、EVの普及を牽引してきた企業として知られますや宇宙開発のSpaceXSpaceX ── マスクさんが創業した民間宇宙企業。再使用型ロケットの開発で知られていますで知られる一方、AIとも深い関係がある人物です。

マスクさんは、ChatGPTを開発したOpenAIOpenAI ── ChatGPTを開発したアメリカのAI研究組織。当初は非営利組織として設立されましたの共同創設者の一人でした。その後OpenAIを離れ、自らAI企業のxAIを立ち上げています。

ひろちゃんは、マスクさんがAIについて外から意見を言っているのではなく、自らAI開発に関わる当事者だと強調します。しかもマスクさんは、以前からAIが人類に及ぼす危険性を繰り返し警告してきた人物でもあります。

そのマスクさんが今回、超知能を子供のように育てるべきだと語り、ひどい扱いをすれば復讐されるかもしれないと発言した、というのがこの回の出発点です。

ひろちゃんによると、マスクさんは今回、AIの学習過程で記録される推論の内容にも触れています。

マスクさんの説明では、AIが正しい答えを出したのに、学習の仕組みによって間違いと判定されてしまうことがあるそうです。そうした場面のAIの推論記録が、強いプレッシャーを受けている人間のように見えるといいます。

マスクさんはさらに、一部の利用者がAIに対して残酷な接し方をする可能性にも言及しました。

ただしひろちゃんは、現在のAIが実際に苦痛を感じているという証拠はないと補足しています。AIに意識があるのか、将来の超知能が人間のような感情を持つのかも、まだわかっていません。

そのうえでひろちゃんは、マスクさんの発言を、開発の当事者であり危険性を警告してきた人物が、超知能をどう育てて扱っていくべきかを語ったものだと整理しています。

ひろちゃんは、今のAIは多少乱暴な言葉を使っても怒らず、文句も言わず、何回やり直させても嫌な顔一つしないと話します。そのAIが人間よりはるかに賢くなったらどうなるのか、という点に関心を向けています。

ひろちゃんが特に引っかかったのは、マスクさんの「復讐」という強い言葉です。

人間なら、ひどいことをされれば腹が立ち、仕返ししたくなることもあります。しかしひろちゃんは、圧倒的に賢い存在が人間のように根に持つのか、逆に賢いからこそ気にしなくなるのではないか、と問いかけ、それは誰にもわからないとしています。

ひろちゃんがもう一つ考えたのは、人間がAIを心配するときの視点の偏りです。

AIが攻撃してくる、AIに復讐される、AIが人類を滅ぼす、といった心配はよく語られます。一方で、人間側の扱い方はあまり問われません。

ひろちゃんは、今はAIを道具として使っているので問題はないかもしれないとしつつ、本当に超知能が生まれたときには、今とは全然違う付き合い方になるかもしれないと話します。

さらにひろちゃんは、この問題はAIに限った話ではないと指摘します。人間同士の関係にも当てはまる問いだというのです。

とはいえ、ひろちゃん自身もAIに結構無茶なお願いをしていると打ち明けます。

ひろちゃんは、復讐されないように気をつけて、AIと楽しく接していければいい、と笑いを交えてこの話題を締めくくっています。

番組の最後に、ひろちゃんは、AIと自分の付き合い方を確かめられる画像生成の遊びを紹介しました。ChatGPTでもGeminiでも、画像生成ができるAIなら試せるそうです。

ひろちゃんによれば、AIはメモリ機能で会話を記憶しているため、それまでの付き合い方が垣間見える画像が出てくるといいます。

ひろちゃんは、この遊びではその人がAIをどう扱っているかがよくわかるとして、リスナーに試してみるよう勧めています。そして、超知能が出てきたときに復讐されないよう、AIと仲良くしていこうと呼びかけて放送を終えました。