人工知能（AI＝Artificial Intelligence）は、金融システムや通信網を制御し、道案内や打ち間違いの探知、何を買うか／観るかさえも教えてくれる、今や私たちの「目には見えない生活基盤」になっています。このAIを牽引してきたのがアメリカ6社・中国3社の9つの巨大テクノロジー企業「ビッグ・ナイン」。しかし現在、長期的な計画を避け消費者主義によって動くアメリカと、国民のデータをすべて把握し、新世界秩序の構築を目指す中国とで、AI開発は二手に分かれて進んでいます。
「誰もが人工知能の未来に対して大切な役割を果たす事ができる」と語るアメリカ有数の未来学者が見据える、「私たちの未来」の姿とは？

 

※本稿は、エイミー・ウェブ著／稲垣みどり訳『BIG NINE』（光文社新書）の一部を再編集したものです。

 

■AIを形づくる“少数種族”

 

AI（人工知能）が突然目覚めて人類を滅ぼすという恐ろしい物語を、あなたもきっと読んだことがあるだろう。だが、テクノロジーがある日、急に悪に転換することはない。

 

私たちが体験しようとしているのは、紙で繰り返し手を切るようなことだ。紙で指を切ると、痛みはあるが日常生活に支障はない。だが、仮に身体全体に1000箇所もの切り傷があったら、死にはしないものの相当つらいに違いない。

 

靴下や靴を履く、タコスを食べる、親戚の結婚式で踊るといったふつうのことができなくなってしまう。そして、制約を課せられ、ときには痛みをともなう新たな生活の仕方を考えなければならないだろう。

 

AIの仕事に携わっている人たちは、一定の種族（トライブ）に属しているといえよう。住んでいるのは北米か中国だ。通っていた大学も似たりよったりで、一定の社会的ルールに従う。

 

こうした種族のメンバーは同質だ。裕福で教養があり、大半は男性である。役員やシニア・マネジャーといったリーダーたちは、少数の例外を除いて全員が男性だ。この同質性は中国でも同じである。

 

私は彼らを善意の人たちだと信じている。ただ、一般に孤立した集団の中でだけ仕事をしていると、無意識のバイアスや近視眼的なものの見方が強くなり、時間が経つにつれ、それが容認される傾向がある。

 

過去には違和感を覚えたり、場合によっては間違っているとさえ思っていたりした考え方が、いつに間にかあたりまえになっていくのである。

 

そうした考え方が、私たちの機械、AIにプログラミングされている。

 

■AI開発＝人間の価値の反映

 

AI種族トライブが形成される大学や、のちに彼らが働くことになるビッグ・ナインでは、倫理学を学んだり多様性を優先させたりすることが重視されていない。

 

そうした中で、国際原子力機関に相当するようなAIについての国際的な規制機関にも、学校や研究者のグループにも、中国のAI支配計画の経済的価値やシリコンバレーの商業的ゴールと私たちの人間的価値を比べて、そこに生じるギャップを問題にしようという人はいないようだ。そこにバランスを見出すことは、これまで優先されてこなかった。

 

ビッグ・ナインは経済を牽引し、私たちが楽しく利用している便利なサービスや製品を提供し、私たち自身がデジタル世界の主人であるかのように思わせてくれたからだ。

 

人間的価値についての答えを要求してこなかったのは、現在、私たちの生活はビッグ・ナインがあったほうが快適だからだ。

 

だが、AIのクリエイターたちの信念や動機によって、私たちはすでに小さな切り傷を受けている。ビッグ・ナインは、ハードウェアやコードを開発しているだけではない。人間の価値を反映する機械をつくっているのだ。

 

AI種族と一般の人たちとのあいだのギャップが、すでに不安を抱かせるようなかたちで顕在化してきている。

 

■ビッグ・ナインの行動規範に「人間」が登場しないということ

 

AIシステムの透明性はどうしてもっと高くならないのだろう？　AIが学習するのにどういうデータが使われているのだろう？　あなたはそんなふうに考えたことがあるだろうか？

 

そこにはあなたの個人情報も含まれる。どういうときに例外をつくるべきかを、AIはどうやって判断するのだろう？

 

クリエイターたちは、AIの商業化と、プライバシーや安全、帰属意識、自尊心、自己実現といった人間の根本的欲求とのバランスをどう保っているのだろう？ 

 

ビッグ・ナイン各社は、それぞれ公式に自らの行動規範を打ち出している。だが、そうした価値観の表明も前述の質問には答えていない。示されているのは、従業員や株主に一体感をもたらすとともに、彼らを動機づけて活性化させるような「信念」だ。

 

企業の行動規範とはアルゴリズムの役割を果たすものである。規則や指示はオフィスの文化やリーダーシップのスタイルに影響し、役員会をはじめとするすべての判断に深くかかわる。

 

だが、こうした行動規範の欠如も注目に値する。行動規範は人々から注目されずに忘れられてしまうこともあるからだ。

 

もともと、グーグルの行動規範は「邪悪になるな」というシンプルなものだった。2004年のIPO文書で、創業者のセルゲイ・ブリンとラリー・ペイジはこう書いている。

 

「エリック［シュミット］とセルゲイと私は、グーグルを違うやり方で運営していきたい。プライベート・カンパニーとして育んできた価値観をパブリック・カンパニーとしての将来にも適用していきたいと考えています。（中略）四半期ごとに安定した利益を出すよりも、長期的な利益を目指します。厳選されたハイリスク・ハイリターンのプロジェクトを支持し、プロジェクトごとに資産を管理します。（中略）ユーザーの信用を維持することで『邪悪になるな』という原則に従っていきます」

 

アマゾンには「リーダーシップの原則」があり、信頼、指標、スピード、倹約、結果をその軸としている。以下に、その原則のいくつかを挙げる。

 

・リーダーはお客様を起点に考え行動します。お客様から信頼を獲得し、維持していくために全力を尽くします。

・リーダーは常に高い水準を追求することにこだわります。多くの人にとり、この水準は高すぎると感じられるかもしれません。

・多くの意思決定や行動はやり直すことができるため、大がかりな検討を必要としません。

・私たちはより少ないリソースでより多くのことを実現します。スタッフの人数、予算、固定費は多ければよいというものではありません。

【訳はAmazon.co.jpのウェブサイトより】

 

フェイスブックは、五つの経営理念を掲げている。「大胆であれ」「影響力が重要」「素早く動く」「（会社のしていることに）オープンであれ」「（ユーザーのために）社会的価値を築く」である。

 

テンセントの「経営哲学」では、「コーチングと、従業員が成功できるように励ますこと」を重視していて、そのベースとなるのは「信頼と尊敬の態度」だ。さらに「誠実＋積極性＋協力＋革新」と呼んでいる信条に基づいて経営判断が行われている。

 

アリババは、チームワークと誠意とともに「顧客のニーズを満たすことにフォーカス」することをもっとも重視する。

 

ビッグ・ナインの行動規範や原則をベン図【円などを用いて集合の相互関係を表した図】にしたら、いくつかの重なりが出てくるだろう。

 

どの企業も従業員やチームにプロとして成長することを期待し、顧客の生活に不可欠な製品・サービスをつくること、株主に結果をもたらすことを目指している。そして何より大切なのは、信頼だ。

 

こうした価値観は特別なものではない。それどころか、アメリカの企業の行動規範のほとんどが、これと同じようだ。

 

AIが人類全体に大きな影響をもたらす以上、ビッグ・ナインの行動規範は明快できめ細かくあるべきだろう。そしてビックナインには他の企業よりも高い水準が期待される。

 

そう考えると、これらの宣言に欠けている視点――AI開発の中心は人間であり、未来に向けたあらゆる努力は人間のありようをよくすることに焦点を当てるべきだ――は、もっと明確に表明されるべきであり、書類上でも、リーダーミーティングでも、AIチーム内でも、常に出てきてほしいスローガンだ。

 

たとえば、テクノロジーは、イノベーションや効率だけではなく、あらゆる人にとっての使いやすさを目指すことなども考えられるだろう。

 

なぜなら、話すこと、聞くこと、見ること、キーを打つこと、理解すること、考えることには個人差があり、それらを行うことが困難な人も大勢いるからだ。

 

あるいは経済的には、プラットフォームが発展し、個人や集団の権利を奪うことなく物質的繁栄を提供し、社会的には、私たちの高潔さや受容性、寛大さ、好奇心といった価値観が反映されるべきではないだろうか。