人工知能にマニュアルは読めない--今、人間が働く意味
ピックアップ

ryomiyagi

2019/10/25

 

家電の取扱説明書、パッケージの注意書き、Q&Aの問答集、申込書、ルールブック……現代社会はさまざまな「マニュアル」で溢れている。しかしそれは、人間を混乱させミスを誘発する、読んでも分からない「ダメなマニュアル」になってはいないだろうか? 「正しいマニュアル」の作り方から明快な文章術・デザイン法・作業手順の組み方・心理学を学ぶ、作業の意味編です。

 

※本稿は、中田亨『「マニュアル」をナメるな!~職場のミスの本当の原因~』(光文社新書)の一部を再編集したものです。

 

■最新の人工知能でさえ、猫より非常識である

 

マニュアルは、論理的に完全無欠で書けるわけではない。自然言語は論理的に隙なく厳密に書こうとしても書けない。書かれてない部分は常識で埋めるのである。

 

「お客様にお茶を出す」という指示は、「お茶をお客様の顔に浴びせるのではなく、湯飲みに入れて出すのだろうな」と常識を足して理解するのである。

 

2019年になってすら、米国のコンピューター学会の雑誌で、人工知能の権威であるヤン・ルカン博士は「コンピューターは未だもって、とても、とても、馬鹿である。最新、最良の人工知能であっても、猫ほどの常識も持ち合わせていない」と述べている。

 

コンピューターを使う仕事は非常に多い。常識を持たないコンピューターと、常識が働いて当たり前だと信じている人間との二人三脚は、時にとんでもない事故を引き起こす。これを防ぐには特殊な配慮が必要である。事例を挙げてみよう。

 

ある案件のデータを入力中、その案件では全く無関係の欄に出くわした。それは数量の欄だったので、「0」を記入した。つまり「無い」という意味である。すると、コンピューターは「0個」のための見積書を印刷し、客先に送りつけた。

 

ある市役所のシステムは、該当しない欄は「9」の字で埋めなければならないという、古い流儀だった。そんなシステムだからついに、ある人に生活保護費として999,999円を振り込んでしまった。

 

1980年代に、セラック25という放射線治療器で死亡事故が相次いだ。この装置はキーボードを使って操作するのだが、そこに問題があった。電子線モードを表す「E」と入力すべきところを、間違えてX線モードの「X」と打った場合に、矢印キーを押してカーソルを戻し、「X」を「E」で上書きし修正したという事例があった。

 

画面上は「E」に直ったように見えて、実はコンピューター内部での設定は直らず、相変わらず「X」のままだった。そして、強すぎる放射線を患者に浴びせてしまったのである。

 

株や為替の大量誤発注事故は、世界中で起きていて、年に一度ぐらいは新聞沙汰になる。

 

日本で起きた事故では「1株を61万円で売れ」という指令の入力を間違えて「61万株を1円で売れ」と打ってしまった。61万円の価値のあるものを1円で売り払うことを61万回繰り返すという、常識はずれの破滅的動作を、システムは恬(てん)として恥じずに実行してしまったのだ。

 

2001年の米国同時多発テロの実行犯は、事件中に自爆して死亡した。事件後しばらくして、米国政府から実行犯の住所宛てに米国滞在ビザの延長を認める書類が郵送された。

 

本人が死亡届を出すわけもなく、名簿データベースから実行犯の名前は消されず、システムが機械的に送ったのである。

 

これらの事故は、常識を備えないコンピューターだけに責任があるのではない。仕事のルール自体が曖昧だから、コンピューターは正しいのだが、うまく働けないという場合もある。

 

人工知能同士が対戦する囲碁の競技会では、人工知能が自滅してしまった事例がチラホラ見受けられる。

 

囲碁のルールはいくつか存在するが、日本式ルールと中国式ルールがよく用いられる。両者はだいたいは同じで、普通はどちらでプレーしてもゲーム内容に差を意識することはない。まれに点数計算の細かい部分で違いが出る程度である。日本式ルールで強い人なら、中国式ルールでプレーしても同じように強いはずだ。

 

人工知能はルールの器用な切り替えが苦手だ。中国式ルールで稽古を重ねた人工知能が、日本ルールで運営される大会に出場すると、まれにではあるが、ルールの違いを乗り越えることができず判断に迷う。

 

人間なら、迷ったら平凡な手を打ってとりあえずその場をしのぐ。小さなミスをするかもしれないが、無意味な手は打たない。しかし、人工知能は、よりにもよって自滅の手を選んでしまうことがある。囲碁の実力は人間のプロ以上なのに、ルールの細かい部分でつまずいてしまうのだ。

 

囲碁用の人工知能は、機械学習、つまり経験に基づいて最善の手を見抜くように作られている。経験の無い想定外の状況に対してはノーアイデアであり、全く当てずっぽうの行動を取りかねないのである。

関連記事

この記事の書籍

「マニュアル」をナメるな!

「マニュアル」をナメるな!職場のミスの本当の原因

中田亨(なかたとおる)

この記事が気に入ったら
いいね!しよう

最新情報をお届けします

Twitterで「本がすき」を

この記事の書籍

「マニュアル」をナメるな!

「マニュアル」をナメるな!職場のミスの本当の原因

中田亨(なかたとおる)

RANKINGランキング