『人工知能　人類最悪にして最後の発明』ダイヤモンド社
ジェイムズ・バラット／著　水谷淳／翻訳

ZOZOTOWNの社長が、月旅行の権利を買ったと少し前に話題になった。彼が権利を買った宇宙船を開発しているSpaceXという会社を設立したのがイーロン・マスクだ。また、「車椅子の天才」と呼ばれ、先ごろ亡くなったスティーヴン・ホーキングのことも、多くの人が知っているだろう。どちらも、知性と先見の明を持ち合わせた、時代を一歩も二歩も先を行く人物であると言って間違いないだろう。

そんな2人に加え、本書の著者ら5人が、2014年に「タイム誌」によって選ばれた。どんな理由で選ばれたのか。それは、「AIによる人類滅亡を論じる重要な識者5人」としてである。

そう、彼らは、「AIが人類を滅ぼす」と以前から警鐘を鳴らし続けている人物なのだ。

あなたにとって「AI（人工知能）」は、どんな存在だろうか。少なくとも僕らの日常生活においてはまだ、「ロボット」のような目に見える形でAIは組み込まれていない。「ペッパー」などのロボットも出てくるようになったが、まだまだ一般市民には関係のない話だ。だからイメージを持てない人も多いかもしれない。しかし一方で、日本人は欧米人に比べて「ロボット」的なものに対する親和性が強いと見られているというのを何かで読んだ記憶がある。鉄腕アトムやドラえもんなど、いわゆるAI的なロボットが活躍する物語が以前から浸透している。だから、AI的なロボットは日本ではより早く日常生活に浸透していくのではないか、という意見がある。

AIというものに対してどんなイメージを持っているにせよ、恐らく多くの人は、「AIが人類を滅ぼす」とは考えていないだろう。「AIが僕らの生活を豊かにしてくれる」と思っている人はともかく、「AI（ロボット）が日常生活に入り込んでくるのはなんか嫌だなぁ」「AIに仕事を奪われるのは困るなぁ」と感じている人であっても、だからと言ってAIという存在を、人類を滅亡させる脅威だとは感じていないはずだ。

しかし本書を読めば、そのイメージは一変するはずだ。著者はこう断言している。

私が本書を書いたのは、人工知能が人類を絶滅に追いやるかもしれないと警告するためだ。このような破滅的な結果は、単に起こる可能性があるというだけでなく、いますぐに慎重に慎重を期して備えを始めておかないとほぼ間違いなく起こる

何故著者はそう確信しているのか。そこには様々な理由があり、詳しいことは是非本書を読んでいただきたいが、キーワードの一つとして「フレンドリー」が挙げられる。これはつまり、知性を持つAIが人間に「フレンドリー」であるとどうして断言できるのか、ということだ。

これについては、本書の記述を引用する方がイメージしやすいだろう。

あなたも私も野ネズミより何百倍も賢いが、DNAの約90％は野ネズミと共通している。しかし、巣穴を潰して畑にする前に、はたして野ネズミに相談するだろうか？スポーツの怪我について調べるために実験用のサルの頭にものをぶつける前に、そのサルに意見を求めるだろうか？我々はネズミもサルも憎んでいないが、それでも残酷に扱う。超知能AIも、たとえ我々を憎んでいなくても我々を滅ぼすだろう

人間にとってのウサギは、超知能マシンにとっての人間と同じだ。我々はウサギをどのように扱うだろうか？害獣、ペット、あるいは食材としてだ

DNAが90％も一致している野ネズミに対してさえ、僕らは彼らの意見を取り入れて何かすることなどない。人間とAIには、構成要素に共通項などほぼ存在しない。彼らが知性を持ち、自分で物事を判断し始める時、僕ら人間を「地球にとっての害獣」であるとして排除しようとする可能性は充分にあり得るのだ。

そんなバカな、AIは人間が生み出すものなんだから、人間がコントロール出来ないはずがない、と思う人も当然いるだろう。しかし、本書の中で議論している「AI」というのは、現在生み出されているものとは能力が桁違いに高いものだ。本書では、「人間と同程度の知能を持つ人工汎用知能（AGI）」と「人間よりも遥かに高い知能を持つ人工超知能（ASI）」の2種類のAIが扱われるが、現状ではまだAGIさえ開発されていない。しかし、AGIが開発されれば、そこからASIが生み出されるのはすぐだろうと考えられている。そしてASIが人間の知能を遥かに超えると定義されている以上、人間の知能を超えた存在が何をどう思考し決断するかを、僕らの知能で判断できるはずがないのだ。

AIが人間を「地球にとっての害獣」と判断したところで、人間を排除出来ないと考えるかもしれないが、そんなことはない。人間を超える知能を持ったAIがインターネット上を自由に動き回ることが出来れば、電力送電線を支配して世界中を停電させたり、石油の採掘を停止したりすることなどお手の物だろう。そうなってしまえば、人間はお手上げだ。

では、こういう問題に科学者たちは気づいていないのだろうか？もちろんそんなことはない。気づいているが、無視しているのだ。

AGIの実現を目標に掲げるAI研究者で私が話を聞いた人は全員、暴走するAIの問題に気づいている。しかしオモアンドロを除いて誰ひとりとして、時間を費やしてその問題について話をしてはいない。なかには、その問題について考えるべきことは自覚していながら、考えなくても構わないと言ってのける人までいる。
なぜか？それは簡単だ。このテクノロジーが魅力的だからだ

また、別のこんな理由もある。

コンピュータ科学者、とくに国防機関や諜報機関で働いている人たちは、是が非でもAGIの開発を加速させなければならないと感じている。彼らにとっては、自分たちが慌ててAGIを開発することの危険性よりも、中国政府が先に開発するなどといったそれ以外の可能性のほうが脅威だからだ

だから科学者たちは、AIの危険性に気づいていながらも、開発を止められない。まさにそれは、核兵器の開発競争に近いものを感じさせる。いや、ある意味でAIは、核兵器以上に厄介な存在だ。核兵器は、「原理的には人間が管理できるが、きちんと管理できなければ世界が破滅する」という存在だが、AIは「原理的に人間が管理できず、開発されればそのまま世界が破滅する可能性がある」からだ。

では科学者たちは、そんな破滅的な可能性を持つAIがいつ生み出されると考えているのだろうか。

彼らはみな、こう確信している。未来、人々の生活を左右する重要な決定はすべて、機械か、機械によって知能を強化された人間の手で下されるようになると。それはいつのことなのか？多くの人は、自分が生きているうちにそのときは訪れると考えている

もちろん、生み出されたAIが“たまたま”人間にフレンドリーである可能性もある。そうであれば、人類が滅亡することはないだろう。しかしそれは、ほとんど運任せみたいなものだ。「人間にフレンドリーなAIを生み出すにはどうしたらいいか？」という検討は本書の中でもなされるのだが、どういう方向から考えてみても、そういうAIを狙って生み出すことは出来なさそうだ、という結論に達してしまっている。

「シンギュラリティ（技術的特異点）」という言葉を世に広め、シンギュラリティによって世界はバラ色の変化を遂げるというイメージを振りまいたのはカーツワイルという科学者だ。彼のイメージがAIの進化に関するイメージを固着させ、現在までそれが維持され続けている。しかし、そこに根拠があるわけではない。あくまでも希望的観測に過ぎないし、本書を読めば、その希望が実現する可能性がほとんどないということが理解できるだろう。

シンギュラリティは恐らく、僕らが生きている間に起こる。そしてそうなった時、僕らの人生がどうなるのかは予測不可能だ。だからこそ僕らは、「AIが人類を滅ぼす」という可能性を理解し、目を逸らさず、可能な限りの努力をし続けなければならないのだ。

『人工知能　人類最悪にして最後の発明』ダイヤモンド社
ジェイムズ・バラット／著　水谷淳／翻訳