なぜAIは永遠に指示待ちなのか、僕なりに考えてみた

最近も新しい『ChatGPT』の機能が出て、動画編集やマウス操作で絵を描くようなこともできるようになってきました。とにかくPC操作のレベルが格段に上がった感じですよね。

僕自身、もう4年ぐらいろくにプログラミングをすることはなくなりました。

じゃあ今何をやっているのかというと、何を作るのかを決めて、AIが作ってきたものにOKかNGを出して、新しいものを出し直させるっていうことぐらいなんです。

僕らの仕事はまるっきり変わってしまった訳です。

この状況にワクワクしている人も、不安を感じている人もいると思います。やっぱり自分の労働市場での価値が失われないかっていうのは、AIに実際に触れている人ほど、多かれ少なかれ感じているんじゃないかと思うんです。

僕がぼんやり恐れているのは、AIが本来やるべきことを向こうから教えてくれたり、OKを出さなくても勝手にやってくれたりして、どんどん自律的に動くような未来ですね。それを待ち望んでいる人もいるかもしれませんが、どっちかというと僕には怖さがあります。

そこで今回、その不安を払拭したくて考えてみたんです。AIが指示待ちでいてくれる限りは、僕らはやることがある。そこに価値を出せる領域があるわけですから、AIが永遠に指示待ちであることは、ある意味僕らにとって救いなんじゃないかと思うんですよね。

具体的なところから積み上げてみます。たとえば「キャラクターが励ましてくれるToDoアプリを作りたい」というアイデアがあるとします。

今でもAIに渡せば、ザクッと要件定義をして、どんなキャラクターとか言わなくても「こんな感じですか」とデザインまで作ってくれます。この精度もかかる時間も、どんどん改善していっています。

じゃあ僕らが恐れているのは何かというと、「いや、もっと別のアプリを作った方がいいよ」とAIが言い出すことじゃないですか。それはもう指示待ちではなくて、意志を持っているということです。

「そっちの方が儲かるし、使ってくれる人も多い」と言われて、確かにと心から思えるようになってくると、自分の価値がなくなってくる感覚はありますよね。

でも、AIはそれを言わないと思うんです。なぜなら、AIは指示を出している僕の人生の目的を知らないからです。

ここで、じゃあもっと大きな指示を与えておけばいいんじゃないかと思った人がいるかもしれません。たとえば「私の目的は売上月100万円を達成することです」と先に伝えておく。

そうすれば、キャラクターのToDoアプリより「別のアプリの方がいいんじゃないですか」と逆提案してくれる。でも、これも結局指示待ちなんですよね。

「売上月100万円を達成するための回答をしてくれ」という、これ自体が指示なわけですから。

じゃあその大きな目標を与えておけば、実質的に指示待ちじゃないかのように動かせるんじゃないか、とも思えます。でも、そこまでいったら僕らが恐れている状況になっちゃってないか、というのが問題です。

ここも僕は大丈夫だと言いたくて。というのは、売上月100万円ならどんな形でもいいんですか、という話なんです。

売上は100万円でも、利益は毎月200万円の赤字です。これはダメですよね。つまり「月100万円の売上を立てたい」というのは、大きな目標として言語化が不十分なんです。

じゃあ利益率30パーセントでと言ったとして、どんな商売でもいいのか。倫理的にアウトなものはAIが封じられていますが、合法な中でもグレーな商売にはグラデーションがあります。

「そんなことでお金儲けしてんのかよ」と思われるものから、ユーザーに感謝されリスペクトされるものまで、いろいろある。そこも結局、どういうものはダメで、どういうものがやりたいのか、指示を入れておかないといけないわけです。

だから、AIは指示待ちだという結論はさっき出しましたが、さらに言うと、その指示はかなり細かく言語化した指示でなければいけないということでもあるんです。ここが実質的には大事なポイントだと思っています。

こういうことはダメだし、こういうことはやりたいし、というところをかなり指定しなきゃいけない。そこまでやった上でAIが勝手に動いてくれるというのは、もう今の状況と一緒ですよね。

今、僕らがAIチャットやAIエージェントに指示を出して、出てきたものにフィードバックをする。それと何ら変わりはない状態です。

だから、僕らがぼんやり恐れている「自分の意向を無視して、勝手によりいいものをバンバン作るようになる」みたいなことにはならないわけです。

こう考えると、僕はすごく安心できました。結局、自分の仕事は残るなと。だから皆さんもぜひ安心してほしいなと思って書いています。

ここで、月売上100万円には突っ込みどころがあるから、もっと突っ込みどころのない大きな指示を与えたらどうか、という視点もあると思うんです。

その究極の大きな指示というのは、「自分を幸せにしてくれ」という指示じゃないですか。これならどんな形でもいいはずです。お金持ちという状態の幸せでもいいし、お金がなくても幸せならそれでいい。

これなら細かい具体的な指示はいらない究極の指示じゃないか、と。でも、これも成り立たないんですよね。

どうやら人間の幸せは、そんなにシンプルに決まっているものではないようです。どういう状況が幸せかは人にもよるし、結局は認知の問題でもある。

年収1000万円になったけど結構忙しい、という状態を幸せと思う人もいれば、不幸だと思う人もいる。それは捉え方次第で、外から観測できないですよね。

頭にチップを埋め込んで脳内物質の発生具合をチェックできるような世界になったら分かりませんが、そこになるまではこの指示は成立しない。「あなたはどういう状態になると幸せなんですか」と結局聞かれて、それを言語化しないといけないんです。

つまり、やっぱり細かい指示が必要なわけです。だからAIは永遠に指示待ちで、AIに指示をするという仕事は人間に残される。僕はそう考えています。

ありがとうございました。

まとめ

AIは僕の人生の目的も、僕にとっての幸せも知らないので、細かく言語化した指示を出す仕事は人間に残る。だからAIは永遠に指示待ちで、それは僕らにとって救いなんじゃないかと考えています。

• AIが「別のものを作った方がいい」と言い出さないのは、指示を出す人間の目的を知らないから
• 大きな目標を与えても、結局それ自体が指示であり、指示待ちは終わらない
• 目標には言語化が必要で、細かい指示を出す仕事こそ人間に残される
• 「自分を幸せにしてくれ」という究極の指示も、幸せは観測できず言語化を求められるので成り立たない