人間と人工知能の境界線～映画に見る近未来vol.３

人工知能やロボティクスを題材にした映画を参照しながら、近未来のビジネスや倫理問題について考えます。第3回は、人間と人工知能を区別するものは何かがテーマです。

人工知能に「人権」はあるのか

そう遠くない未来において、人工知能が社会構成員の一部を担うに至った場合、人工知能と人間とは、どのように区別されるのでしょうか。前回は、人間は「創造主」として、人工知能の「暴走」に対しても責任があるのではないかという議論になりましたが、今回は逆に、人間がもはやその立場を維持できないケースについて考えてみます。これは、人工知能に「人権」を認めるかどうか、という議論にも通じるものです。

その個体が、自律的な判断をできるかどうか、つまり意思を持っているかどうかは一つの基準となり得ます。「her／世界でひとつの彼女」（スパイク・ジョーンズ監督）のサマンサは、少なくとも描写上は、意思を持っているように見えます。また、「2001年宇宙の旅」（スタンリー・キューブリック監督）のHAL9000も、電源を落とされるシーンで命乞いをする様子が描写されており、自らの機能を維持したいという意思をもっているように思えます。しかし、これは単なるアルゴリズム（＝ソフトウェア）であると整理することも可能です。HAL9000も、システムを維持するようにあらかじめプログラミングされていたに過ぎないのかもしれません。実際、これらの映画作品では、人工知能を人間と社会的に対等な立場として扱うような描写はされていません。

第1回で取り上げたような、身体の有無も一つの観点となり得ます。サマンサには身体がなく、それが（サマンサにとって）超えられない壁として描かれています。逆に、意思も身体（ハードウェア）も持つ存在としては、「ブレードランナー」（リドリー・スコット監督）で描かれるアンドロイド、「エクス・マキナ」（アレックス・ガーランド監督）のエヴァ、「A.I.」（スティーブン・スピルバーグ監督）のデイビッドなどが思い浮かびます。しかし、これだけではアルゴリズム（＝ソフトウェア）を身体というハードウェアに搭載することとの違いを説明できません。

サマンサやHAL9000と、エヴァやデイビッドとの間に、実質的な差異はないかもしれません。もっといえば、人間も、電気信号と化学信号で演算を行う「思考」というソフトウェアが、「身体」というハードウェアに搭載されている存在だと整理すれば、人間との実質的な差異すらないかもしれません。しかし、HAL9000と人間を同列に語るには違和感があり、人間と人工知能の分水嶺は、身体の有無とは別のところにある可能性が高いのではないでしょうか。

映画作品が提示する別の観点として、生殖本能の有無があります。「エクス・マキナ」では、開発者のネイサンが、人工知能のエヴァに生殖本能がないと発言しており、だからこそ、エヴァはあくまでも人工知能であるというようなスタンスをとっています。逆に、「ブレードランナー2049」（ドゥニ・ヴィルヌーヴ監督）では、アンドロイドが生殖本能及び能力を獲得したことが描かれており、警察はそれが社会秩序を混乱させるとして取り締まりに動きます。技術的な実現可能性はさておき、この二つの作品は、人間が造り上げたはずの個体が生殖本能・能力を獲得した場合、社会秩序、つまり「創造主」としての地位が揺らぐことを示唆しています。

これは「生む」側の視点ですが、「生まれる」側の視点も無視できません。例えば、障がい者として生まれて、法的な意味での「意思能力」が仮になかったとしても、その「人」に人権は認められます。「ブレードランナー2049」では、主人公のKが「生まれてきたものには魂がある」と口にしており、裏返すと、生産されたものには魂がないという前提に立っています。私の理解では、「ブレードランナー2049」は、「生まれてきた以上、子孫を残したい」という種の保存を志向する存在には、人間と同等の権利を与えるべきなのではないかという問題提起をしています。

そして、種の保存を志向する集団は、自らの存在を脅かす存在に抵抗し、闘います。実際、「ブレードランナー」及び「ブレードランナー2049」は、差別を受けるアンドロイドによる人間に対する反乱がストーリーの基礎となっているのですが、これは、ホッブスのいう「自然状態」（万人の万人に対する闘争）を想起させます。私たち人類は、社会秩序を維持するという目的に則して、ルールを自分たち自身で決めることができます。種の保存を目指す人工知能との利害調整のため、いわゆる「社会契約」、すなわち人工知能に対する権利付与が必要になるという考え方も成り立ち得るかもしれません。

終わりに：近未来に起こるであろう議論

本連載では全3回にわたって、人工知能やロボティクスを題材にした映画を参照しながら、近未来のビジネスや倫理問題について考えてきました。密接に関連するものの、トピックが発散しすぎてしまうため言及できなかった論点としては、以下のようなものもあります。

・例えば、イーロン・マスク氏が設立したニューラリンク社が、人間が身体を捨てて意識のみをサーバーにアップロードすることを実現した場合、そのアップロードされた意識は「人間」なのか。

・「ブレードランナー2049」に登場するような、生殖本能/能力を持つ人工知能を技術的に実現する場合、それは人間の細胞を利用することになるのか。その場合、その人工知能はもはや人間そのものなのではないか。他の動物の細胞を用いる場合はどうか。

・「ブレードランナー2049」に登場するような生殖本能/能力を持つ人工知能が出現した場合、彼らを「去勢」することで人権を認めないというアプローチは成り立つか。それは倫理的に問題ないか。

・法的には「財産」であるが、生殖本能/能力を持つ動物（ペット）の権利との整合性をどのように考えるか。

こういった倫理的な問題が顕在化するのは、そう遠い未来ではないかもしれません。いまから考察をはじめても、遅すぎることはないように思えます。

関連記事はこちら
人工知能は「人間関係」を築くことができるか～映画に見る近未来vol.1
人工知能は「暴走」するのか～映画に見る近未来vol.２