人工頭脳のメリットとデメリット

2017年5月26日

今、世界は大きなステップアップのために人工頭脳に大きな注目をしています。
人工知能は、SFや夢物語に過ぎなかった未来をもたらしてくれるかもしれません。
しかし、そこには人類が直面したことがないような問題があります。
ここでは、人工知能のメリットとデメリットを考えてみたいと思います。

スーパーAI 『ナイジェル』はかなり凄いらしい

最近話題になったのは、オレゴン州ポートランドのスタートアップ企業キメラ社が開発した、スーパーAI のAGI (Artificial General Intelligence)『ナイジェル』のニュースです。

ナイジェルのどこが一体凄いのでしょうか。
ナイジェルはユーザーの好みや利益を考えることができ、自ら「決定判断」を持っています。
こうしたことは、まさに人間しかできなかったようなことにまで人工頭脳が侵食してきたことを意味しています。もしかしたら、もはや企業では「優秀な秘書」として人間を雇う必要はないということになってしまうのかもしれないのです。

人工頭脳が進化して、そこにメリットが存在していても、人間社会の雇用というバランスを人工頭脳が崩してしまうことになります。

人工知能の機能を使えば、重要な取引先から面会の申し入れがあったときは、ユーザーにそれを伝えると同時に、ユーザーのスケジュールをチェックして、空いている時間を取引先に自動的に伝えることができます。今すぐ食事をしたいとナイジェルに伝えるだけで、レストランとメニューもナイジェルがチョイスしてくれるでしょう。
こうしたことが進んでいけば、人間は、自分にとっての利益は何かというすら考えることすら必要なくなってしまうかもしれません。人工知能に任せておけばいいのです。

日常生活にも浸透する人工知能

ナイジェルの例でいえば、家庭においても、冷蔵庫などの家電とネットでつながることで、「ミルクと卵が不足している」などと判断し、スーパーに行ったときにミルクと卵を買うようにとアラートを出してくれたりします。人工頭脳とは、もはや特殊な場所でのみ使用されるものではなく、日常生活においてさりげなく使用されはじめているのです。

ナイジェルはとても便利そうで、あらゆる面で役に立ち、人間の生活を変えてくれるであろうこと間違いないでしょう。

人工知能のデメリット

夢のような生活を実現させてくれる人工知能ですが、これに対して警戒する人たちもいます。

人間の職業が奪われてしまう

まず、社会的な問題としては、よく言われる「失業問題」があります。
本サイトのタイトルにもあるように、人工知能によって消えてしまう職業が出てくるでしょう。すでに工場では、産業用ロボットによってオートメーション化が進み、かつてのような大規模な雇用を行う必要がなくなりつつあります。今後、組立用ロボットなどはますます進化していくことでしょう。
人工知能の発達は、ロボットが代替できなかった部分の仕事までを可能にすることにつながります。たとえば会計業務なども人工知能に置き換わることが考えられ、従来の会計士という職業は不要になってしまうかもしれません。あれほど皆が使っていたソロバンが必要なくなってしまったことを考えれば、決してあり得ない未来ではないのです。

人工知能が人間を超えてしまう

有名なホーキング博士は、完全な人工知能が完成すれば、それは人類の終焉を意味する、ロボットは自立して自分の意思で自分を進化させるようになるだろうと指摘しています。その進化する速度は人間が進化する速度よりもずっと速く、人類には勝ち目はないというのがホーキング博士の考えです。
この分野には「2045年問題」と言われる問題があります。これは、ムーアの法則（インテルの創設者のゴードン・ムーアが提唱した「集積回路の集積密度は2年で2倍になる」という法則）に基づけば、2045年には人工知能が人間の知能を超えるという予測です。人工知能が人間の知能を超えたとき、人間ははたしてその誤作動などを発見することができるでしょうか。人間の知能を超えているものの誤りを指摘することはできないでしょう。くわしくは、「2045年より前に始まると言われるシンギュラリティの世界とは」という記事をご覧ください。

このため、人工頭脳に頼りきった私たちの世界は、それまではなかったリスクに瀕してしまうかもしれません。人工頭脳には「死」はありませんが、機械であるかぎり、「故障」は起こる可能性があります。人工頭脳がもたらす便利な生活に慣れてしまったとき、突然人工知能が故障や誤作動を起こしてしまったら、人間社会は、いとも簡単にパニック状態に陥ってしまうことでしょう。その規模は、信号機故障による鉄道ダイヤの混乱どころではないはずです。

悪用される可能性がある

人工知能が誰を主と捉えるかという問題もあります。たとえば犯罪者が人工知能を悪用する可能性もあるわけです。たとえば、人工知能が超小型化されれば、テロリストがドローンと人工知能を組み合わせ、ターゲットに対してより精緻な自動追尾攻撃ができるようになってしまいます。
自然に会話できる人工知能が完成すれば、簡単に「オレオレ詐欺」に使われてしまうかもしれません（ニューヨーク・タイムズの記事より）。
先のナイジェルの例でいえば、ナイジェルがお勧めする商品やレストランは、ナイジェル
（を提供している企業）に対してキックバックを支払っているかもしれません。
20世紀のSF作家アイザック・アシモフは「ロボット三原則」で有名ですが、その作品で描かれた通りに、「人間への安全性」と「命令への服従」のどちらを選べば良いのか迷ってしまうロボットが登場したり、過ちを犯したロボットには責任が発生するのかという倫理的な問題も生じるかもしれません。人工頭脳用の法律が必要になるのです。

人工知能は使い方次第？

戦争で死者を出さないための戦争用ロボットが開発されており、準自動運転システムを搭載した軍用車もすでに実戦配備されているとのことです。たしかに、戦場で活躍する戦士が人工頭脳なら、銃で撃たれても壊れるだけで人間の死者は出ることがありません。人工頭脳は「安全な戦争」をもたらしてくれます。しかし「安全な戦争」は決してメリットにはなり得ないでしょう。
そこには、人工知能を利用する側の人間の問題があるのです。

まとめ

人工知能が搭載されたロボットを街で見かける機会も最近では多くなってきました。人工頭脳がつくる夢のような未来の実現を楽しみにしている人は多いと思います。
人工知能の進歩にともなって、より生活が豊かになることが期待される一方で、新しいテクノロジーに対する不安はいまだ払拭されたとは言いがたい状態です。
今後、人工知能の利用方法や、人間との共存については、もっと多くの議論が必要となるでしょう。