AIは仕事を奪うのか。ゴールドマン・サックスの試算とOpenAIの安全性を読み解く

Off Topicの宮武徹郎さんは、AIによって仕事が実際になくなるのか、AIの安全性、3月に出た公開書簡、悪質な利用のリスクという4つの論点を、この回で扱うと説明します。より深いAGIAGI ── 汎用人工知能。特定のタスクに限らず、人間のように幅広い知的作業をこなせるAIを指す言葉ですやASIの話は、翌週の回に回すとしています。

宮武さんがこのタイミングでAIを取り上げる理由は、技術の変化の時間軸が変わったことです。これまでのテクノロジーは数年単位で更新されてきましたが、AIは週単位で、場合によっては翌日には状況が違っていると話します。

国山ハセンさんも、収録から配信までの間にAIの状況が一変している可能性はゼロではないと応じます。

宮武さんは、AIの進化がさらに加速する可能性も指摘します。例として挙げたのが、コード生成ツールのGitHub CopilotGitHub Copilot ── GitHubが提供する、AIがプログラムのコードを提案・補完するツール。開発者の入力に合わせて続きのコードを生成しますです。

GitHub Copilotを使っているエンジニアはまだ少数派ですが、使っている人の話では、少なくとも2倍、場合によっては5倍から10倍の速さで同じコードを書けるといいます。開発スピードが10倍になれば、技術の進化そのものも速まると宮武さんは考えています。

さらにAutoGPTAutoGPT ── 与えた目標に向けて、AIが自分でタスクを分解し、コード作成や調べものを自動で繰り返すオープンソースのツールですのように、AIが自動でコーディングやタスクをこなす仕組みも登場しています。宮武さんは、こうした「知能の爆発的な成長」が起きている最中に、この議論をしていると位置づけます。

仕事がなくなるのかという問いで宮武さんが取り上げたのは、ゴールドマン・サックスゴールドマン・サックス ── アメリカの大手投資銀行。経済や産業に関する調査レポートを定期的に発表していますのレポートです。ツイートやForbesなどの記事では、このレポートをもとに「3億人の仕事がなくなる」と紹介されていました。

宮武さんの説明では、レポートの3億人という数字はアメリカに限ったものではなく、アメリカに当てはめると職の25%にあたるといいます。VCやブロガーの記事でも、同じような書き方が目立っていたそうです。

ただ宮武さんは、この伝え方がミスリードだと指摘します。図のキーワードは「Automated（自動化される）」であり、多くの人が想像する「完全に置き換えられる」とは意味が違うからです。

宮武さんによると、レポートの9ページ目あたりに内訳が書かれています。完全に置き換えられる職は7%、AIに補完される職が63%、残りの約3割は影響を受けないという見立てです。

国山さんは、63%の補完を「アシストされて利便性が高まる」ことだと言い換えます。宮武さんは、補完の過程で仕事が多少失われる可能性はあるとしつつも、3億人の失業と読むのは数字の誤読だと整理しています。

ゴールドマン・サックスのレポートは、AIによって新しい仕事が次々に生まれることにも触れていると宮武さんは紹介します。その根拠となる過去の事例が、現在の仕事の6割は1940年には存在しなかった、というデータです。

宮武さんは、SNSという概念がなかった時代にはインフルエンサーもオンラインメディアもポッドキャストもなかったと例を挙げます。仕事が失われる可能性はあるものの、その分だけ新しい仕事が加わるという見方です。

エンジニアの仕事について、宮武さんはChatGPTやReplitReplit ── ブラウザ上でプログラムを書いて実行できる開発環境。AIによるコード生成機能も備えていますなどのコード生成技術の現状を説明します。AIは既存のコードの繰り返しやバグ探しは得意ですが、新しいコードを書くのは苦手で、高いレベルのプログラマーの完全自動化はまだ難しいといいます。

一方で宮武さんは、AIの導入で従業員の5分の1、3分の1を削減したという起業家の話も聞いています。削減の対象はエンジニアに限らず、ワークフローそのものを変えられるためだそうです。国山さんは、コピーライターの代替も話題になっていたと付け加えます。

それでも宮武さんは、仕事が完全になくなるわけではなく、コピーライターも別の仕事を見つけていくと考えています。その分かりやすい例として挙げたのが、アメリカの農業人口の変化です。

農家が減っても経済は落ちておらず、むしろ成長してきたと宮武さんは話します。ゴールドマン・サックスのレポートもAIによってGDPが上がると予想しており、マクロで見ればAIの影響はどちらかというとポジティブだという見方です。

仕事の話の次に宮武さんが投げかけたのは、そもそもAIを信頼してよいのかという課題です。宮武さんは、AIのリスクについての議論は日本よりアメリカのほうが盛んだと見ています。

理由の1つ目はエンタメカルチャーの影響です。アメリカではターミネーターのような怖いAIのイメージが浸透している一方、日本ではドラえもんや鉄腕アトムのように、AIやロボットは友達として描かれてきました。

理由の2つ目は社会の多様性です。宮武さんによると、アメリカはダイバーシティが広い分、バイアスや差別が起きやすく、AIが特定の人種や性別に悪意を持つのではないかという警戒心が強くなるといいます。

宮武さんは、国別にAIをどこまで信頼しているかを示した図を紹介します。信頼度が高いのはインドの75%と中国の67%で、南アフリカ、ブラジルが続き、アメリカは低めです。日本はこの図にはないものの、23%ほどと低い数字だといいます。

もう1つ宮武さんが紹介したのは、各国がどれだけAIをポジティブに見ているかを示したスタンフォードのデータです。これを各国の一人当たりGDPと並べると、不思議な相関が出てくるといいます。

インドはGDP全体では大きいものの、人口が非常に多いため一人当たりGDPは低く、この相関に当てはまると宮武さんは説明します。中国も同じ傾向だそうです。

宮武さんは、この相関を過去のOff Topicで話した「新しいテクノロジーの社会的な受け入れはなぜ難しいのか」という議論とつなげます。権力を持つ人たちがステータスの入れ替わりを恐れ、新しい技術を受け入れないという構図です。

日本についても、宮武さんは他国に追い抜かれて今のポジションを保てなくなるリスク、例えば5年後か10年後にG7に入れなくなる可能性への懸念があるのではないかと話します。

国山さんが、日本とAIの相性がいいという話も出ていると水を向けると、宮武さんは日本もどんどん活用すべきだと答えます。ただし、使う人と使わない人の間で生産性の格差が生まれることや、日本では人を解雇しにくいことが新たな課題になるかもしれないと付け加えます。

人がAIをどう受け入れるかという論点で、宮武さんが個人的に面白いと感じているのが代名詞の使い方です。ChatGPTやBingに搭載されたAI「Sydney」について話すとき、HeやHerと呼んで人格化する人がアメリカでは少なくないといいます。

これに対して、OpenAIのサム・アルトマンサム・アルトマン ── OpenAIのCEO。ChatGPTの公開を主導し、AIの規制や安全性についても積極的に発信していますさんは警戒心を持っており、自身はAIを「it」と呼ぶようにしているそうです。

ロボットの人格化は日米どちらでも珍しくなく、ルンバをペットのように扱う人もいます。国山さんも、最近買った中国製のロボット掃除機に名前を付けていると明かします。

国山さんの掃除機は初期設定で「名前を付けてください」と表示され、そのとき適当に付けた名前だったそうです。それでも動きを見ているうちに愛着が湧いてきたといい、ひと昔前に話題になった犬型ロボットと似た感覚だと話します。

宮武さんは、映画でもAIには顔や名前が付けられることが多く、人間は人格化したがるものだと指摘します。そのうえで、アルトマンさんの考えを次のように説明します。

宮武さんは、ChatGPTという無機質な名前もそのためだと考えています。一方、Sydneyという名前はMicrosoftが決めたもので、愛着を持たせてエンゲージメントを高める狙いがあるのかもしれないと話します。

国山さんは、自宅で5年ほど前からGoogle Homeに話しかけていると語り、生成AIがロボットに載って動き出したら「もう人じゃん」となるのは時間の問題だと話します。宮武さんも、今の子どもたちはアレクサやGoogle Homeと日常的に会話しており、すでにAIを友達のように感じている子は多いと応じます。

アメリカでよく議論されているもう1つの論点が、AIはオープンであるべきか、クローズドであるべきかという問題です。宮武さんは、OpenAIという名前なのにクローズドである矛盾が注目されていると話します。

具体的には、OpenAIはGPT-4のトレーニングにどんなデータを使ったかを公開していません。宮武さんによると、これに批判が出ているほか、企業データを提供してよいのかという課題も出ています。

OpenAIを含むAI企業は、各国政府に法律や規制を作るよう働きかけてもいます。宮武さんは、それが本当に人類のためなのか、自社のポジションを守り他社が参入できないようにするためなのかという議論があると紹介します。

国山さんも、サム・アルトマンCEOが来日し、スーツ姿で自民党と一緒に発信した際には、本当の狙いがどちらなのか引っかかったと振り返ります。宮武さんは、ビジネス上の理由も大きいとしつつ、OpenAIのメンバーがAIのリスクを強く気にしているのは明らかだと話します。

宮武さんは、AIの規制はかつてのSNSの規制とも事情が違うと指摘します。AIは数日から数か月試せても、裏側のデータやアルゴリズムにアクセスできなければ何が起きているか全くわからず、SNSのほうがまだ想像しやすかったといいます。

OpenAIは、事業の立て付けにも特徴があります。宮武さんによると、上に非営利団体のOpenAIがあり、その配下に営利団体のOpenAIがあるという構造で、資本主義に寄りすぎない組織を作ることが狙いだそうです。

国山さんが、非営利で始まったOpenAIがMicrosoftの事業の一部になったのか、独立しているのかと尋ねると、宮武さんは営利団体の株式の49%ほどをMicrosoftが持っていると説明します。

こうした構造を取る理由について、宮武さんはOpenAIの言い分として次のように紹介します。資本主義だけのストラクチャーではお金目当てで開発が変な形で加速し、人類にリスクが生じかねないため、非営利団体があることでストップをかけられるという考え方です。

投資家にとってのメリットを問われた宮武さんは、上限が100倍でも1億円を入れれば100億円になると答えます。ただし直近のラウンドでは100倍より低いと聞いているそうです。こうした形がうまく機能するのかについては、まだ議論があるといいます。

オープンかクローズドかの議論について、宮武さんはOpenAIが最初はクローズドにし、徐々にオープン化していく考えも示していると補足します。そのうえで、2023年3月に出た公開書簡の話題に移ります。

この公開書簡はイーロン・マスクさんや複数のAI研究者が署名したもので、GPT-4以上のモデルの開発を半年間止めるべきだという内容です。宮武さんの問いかけに、国山さんは止める期間に何の意味があるのか、そもそも止まらないだろうと答えます。

国山さんは、マスクさんのキャラクターのインパクトが大きく、彼のアピールなのではとも感じたそうです。一方で、イタリアが禁止に動く流れを見ると、本当に人類に危険があるのかと考えたとも話します。

宮武さんは、そもそも止められるのかという2人の疑問はまさに正しいと応じます。止めるならビジネスリーダーが自ら判断する必要があり、政府が介入すると半年では済まなくなるからです。

また、一部が止めても他が進めれば意味がなく、アメリカでは「中国は止めないだろう」という懸念もあります。ただ宮武さんは、人間のクローン作製のように中国でも禁止されている技術があることから、中国が止めないからアメリカも止めるべきではないという議論は間違っていると考えています。

宮武さんが特に怖いと感じているのは、「アクションを起こさないのが安全」という考え方です。開発を止めても悪用は止まらないため、行動を起こすことのほうが重要だといいます。

宮武さんは、AIの安全性を研究するチームが半年間のロードマップを示すなら議論できるものの、それがないまま「ちょっと怖いから止めましょう」というのには同意しにくいと話します。

安全性のチームをOpenAIの中に作るのか、政府の中に作るのかという問いに対しては、業界内の暗黙のルールと政府のルールの両方が必要になると答えます。ただ政府は情報のキャッチアップに必死で、今すぐ法律を作ると変なルールになりかねないとも指摘します。

宮武さんは、人類絶滅のリスクは実際にあると個人的に考えていると前置きします。その確率は人によって100%、5%、1%と幅がありますが、AI研究者の話を聞くと5%から10%ほどという声が多く、思った以上のリスクだといいます。この点は翌週の回で詳しく話す予定です。

宮武さんはAIのリスクを2通りに分類します。1つは翌週に扱うAGIやASIによる事故リスクと、この回で扱う悪質な利用のリスクという分け方です。もう1つは、AIの能力と危険性のバランスで見る分け方です。

宮武さんは、能力と危険性の高低でAIのリスクを整理する図を、ChatGPTにお願いして作ってもらったそうです。その図の4つのシチュエーションを、宮武さんは次のように説明します。

宮武さんによると、AIの危険性は悪質な利用や事故などによって今後どんどん高まっていくと考えられます。だからこそ、AIの能力がどこまで上がるのかを人間がしっかりモニタリングしなければいけないと話します。

悪質な利用の例として宮武さんが挙げたのが、ここ数週間ネットでバズっていたAIのフェイク画像です。ハリー・ポッターのキャストがバレンシアガバレンシアガ ── スペイン発祥のラグジュアリーファッションブランド。前衛的なデザインで知られていますのファッションショーに出たらどうなるか、という動画のようなものもありました。

こうした作品は笑えるものですが、トランプ元大統領が警察に捕まったというAIのフェイク画像は、Twitter上で600万以上の視聴回数を集めたといいます。面白い場合もあれば、すごく危険な嘘の情報にもなると宮武さんは話します。

すでにAIが作ったのか人間が作ったのかを当てるゲームのサイトもあり、見分けがつかなくなっているといいます。宮武さんが特にアメリカで心配しているのは、9.11がアメリカ政府の仕込みだったといった陰謀論を、嘘の写真で現実にしてしまうことです。

フェイクは動画や音声にも広がっています。宮武さんが紹介したのは、DrakeとThe Weekndの声をAIでシミュレーションした楽曲で、本人たちは作っておらず、誰かが勝手に作ったものです。草野さんも宮武さんのTwitterで聞いたそうで、国山さんも「いい曲でした」と話します。

宮武さんによると、収録時点でこの曲は、2人と関係のあるユニバーサルミュージックの働きかけでYouTubeから取り下げられました。ユニバーサルミュージックはSpotifyやApple Music、YouTubeなどに、フェイクの曲を察知できる体制を整えるよう求めたといいます。

フェイク楽曲の取り下げの動きから、宮武さんは認証の仕組みへの需要が高まると見ています。これまではまず相手を信頼し、必要に応じてチェックマークなどで本人確認をしていましたが、今後は順番が逆になるという見立てです。

国山さんは、YouTubeのアップロード時にガイドラインの項目が出るように、投稿の段階で識別されるイメージかと尋ねます。宮武さんは、ユーザーが1つずつ認証するのは大変でほとんどの人にはできないため、YouTubeのようなプラットフォーム側の仕事になると答えます。

本来はユーザーがニュースの引用元などをチェックすべきですが、ほとんどの人はしないため、CNNやニューヨーク・タイムズといった報道機関のブランドを信じてきたと宮武さんは話します。このトレンドはインターネット上ですでにあり、AIはその延長線上にあるといいます。

草野さんはUberも同じで、他人の車に乗れるのはUberが認定したドライバーだからだと付け加えます。宮武さんは、プラットフォームが人間の信頼をスケールさせてきた一方で、プラットフォームに力が集権化してしまうという課題があると指摘します。

宮武さんは、悪用の具体例を言いすぎると真似する人が出かねないと前置きしたうえで、すでに記事になっている事例を1つ紹介します。研究者がAIを使い、殺人に使えそうな成分のアイデアを6時間で4万個出させたというものです。

研究者たちは大量のトレーニングデータにアクセスできたからこそ実現できた面もありますが、それほど簡単にできてしまう時期になっていると宮武さんは話します。これを避けるためにOpenAIが作ったのがレッドチームレッドチーム ── システムの弱点を探すため、あえて攻撃者の立場で検証を行うチーム。セキュリティ分野で使われてきた言葉ですという部隊です。

宮武さんによると、GPT-4の公開は2月でしたが、実際には半年以上前に完成していました。そのまま出すと危険なため、OpenAIは50人ほどのAI研究者などを集め、あえて変なことをさせてリスクを報告してもらったといいます。

宮武さんは、単に特定の事例をブロックするだけでは言い回しを変えれば突破されるため、OpenAIはそれも考える必要があると話します。レッドチームの検証結果は公表されており、初期版と公開版で回答を比べられるといいます。

公開版のGPT-4は答えなかったり、ニュアンスを含めた回答をしたりするようになっています。ただレッドチーム自身も、公開時点ですべては解決できていないと認めているそうです。国山さんは、いたちごっこになると表現します。

国山さんは、これまでChatGPTの具体的なリスクがイメージできていなかったと話します。宮武さんは、Google検索でも似たことはできるものの、GPT-4の初期版は核兵器を作る場所や政府に見つからない方法まで、聞き方によっては具体的に提案してくれたと説明します。

宮武さんは、悪質な利用という点では、印刷機の発明やラジオ、テレビも同じようなリスクを抱えていたと考えています。

印刷機について宮武さんが挙げたのが三十年戦争三十年戦争 ── 17世紀前半にヨーロッパで起きた宗教戦争。神聖ローマ帝国を中心に多くの国が参戦し、大きな被害を出しましたです。宮武さんは、そのきっかけとなった宗教改革は、マルティン・ルターマルティン・ルター ── 16世紀ドイツの神学者。カトリック教会を批判し、宗教改革のきっかけを作った人物ですが自分のアイデアを印刷機で広められたから生まれたと説明し、450万人ほどが亡くなったと話します。

ラジオの一番の悪質な利用として宮武さんが挙げたのは、ナチスがラジオによって広がったことです。国山さんはこれを、戦争に利用されたということだと受け止めます。

宮武さんは、人間が新しい技術に対処できるようになるには時間がかかると指摘します。今ラジオでヒトラー風にナチスの思想を広めようとしても、聴く側は「変な人がいる」と理解できるので、おそらく広がらないといいます。

メディア出身の国山さんは、日本では公共の電波に流せないものがある一方、今は情報の入手元の中心がインターネットであることに恐ろしさを感じると話します。宮武さんは、許可なしで誰でも投稿できることはインターネットの良さでもあり、検閲しすぎると新しいアイデアや真実まで止めてしまうと応じます。

宮武さんがとくに怖いと感じているのが、翌年のアメリカ大統領選挙です。共和党も民主党も、場合によっては他国もAIを使う可能性があり、どちらが勝っても負けた側が結果を認めないリスクがあるといいます。

それでも宮武さんは、テクノロジーはツールだと強調します。印刷機が三十年戦争を、ラジオがナチスを生んだとしても、それらをなくすのは人類のためにならないと多くの人が考えるはずで、基本的には新しいテクノロジーを受け入れるべきだと話します。

宮武さんによると、AIの中でこの「受け入れるべき」という前提を変えうるのが、AGIやASIが人類を滅ぼすのかという論点です。20年以上AIの安全性を論じてきたアメリカのライター、エリエゼル・ヤトコフスキーさんの話は翌週の回で扱う予定です。

宮武さんが懸念しているのは、資本主義をベースに動くAI企業が利益のために開発を進め、取り返しのつかないところに行ってしまうことです。AI研究者のマックス・テグマークマックス・テグマーク ── スウェーデン出身の物理学者でMITの教授。AIの安全性を訴える活動でも知られていますさんは、この状況を崖に向かう人類にたとえているそうです。

宮武さんは、著作権が心配だったため、この崖のたとえの画像もDALL·Eで生成したと話します。人類や企業が崖を登っていて、落ちれば人類は滅びますが、登っている間の景色はとても綺麗だというたとえです。

綺麗な景色とは、お金儲けができたり、AIツールで生産性が上がったりといった良いことを指しています。国山さんは、それを「豊かな人生」と言い換えています。

宮武さんは、冒頭で話したスピード感の問題を、知能の比較で説明します。人間は自分たちの知能を過大評価しがちで、知能のスケールの捉え方そのものが間違っているかもしれないという指摘です。

後者の捉え方に立つと、AIが人間と同じくらいの知能を持った時点で、すぐに天才レベルも超えていくことになります。宮武さんは、このスピード感を理解しないまま崖に向かっていると話します。

国山さんが、緩やかではなく急速に進化するという認識で間違いないかと尋ねると、宮武さんは「おそらく」と答えます。これまでも急に能力が上がったケースはあり、読めないのが実情だといいます。

国山さんは、人類は戦争のような過ちを繰り返しながら学び、テクノロジーを進化させてきたと振り返ります。AIに人類が沸き立ち、急速に進化している今の勢いは、崖を駆け上がっているようだと感じたそうです。

宮武さんは、崖のレベルは時代とともに上がってきたと応じます。ナイフより銃、銃より核兵器と被害の規模は大きくなり、研究者の中にはAIで人類が物理的に絶滅するリスクを指摘する人もいるといいます。

国山さんは「怖いので次回が待ちきれない」と話し、この回はAGIの議論を翌週に持ち越す形で締めくくられました。

まとめ

この回では、「AIは仕事を奪う」という言説を数字から読み直したうえで、AIへの信頼度の国別の違い、OpenAIの構造と安全対策、公開書簡、フェイクや悪用のリスクまでが語られました。宮武さんは、テクノロジーは基本的に受け入れるべきとしつつ、能力の急速な向上には警戒が必要だという立場を示しています。

• ゴールドマン・サックスの試算では、完全に置き換えられる職は7%で、63%はAIに補完されるとされています
• AIへの信頼度は国によって大きく異なり、一人当たりGDPが高い国ほどAIをネガティブに見る傾向があるといいます
• OpenAIは非営利団体が営利団体を束ねる構造を取り、レッドチームで悪用リスクを検証してからGPT-4を公開しました
• 宮武さんは「止めることが安全」という考えに疑問を示し、AIの安全性には具体的な行動が必要だと話しています
• フェイク画像や音声の広がりで、今後は「認証してから信頼する」プラットフォーム中心の仕組みが求められると予想されています