このコラムは、株式会社エル・ティー・エスのLTSコラムとして2015年10月に掲載されたものを移設したものです。
ライター
前回のおさらい
前回は、ロボットとはかつての「手足のような複雑な制御部分がある機械」というよりも「自律的な機能を持つ機械」という認識に移りつつあり、その結果、かつて男の子たちが憧れたアニメのロボットたちの大半は、操縦者を伴う自律性のない（ないし低い）「乗り物」であるという定義をしてみました。よって前編のタイトルは「ガンダムはロボットではない」だったわけです※1。
なおその後、多くの社員から「ガンダムはロボットではなくモビルスーツである。よって当初からロボットという定義ではない。」というありがたくもないフィードバックをもらいました。
一方で、アニメのロボットたちの中には「レイズナー」のように人間と同等か、それ以上の自律性、もはや自我とも呼べる知能を持つロボットもいるという話をしました。そしてこのような人間に近い自我を持つ存在は、もはやロボットではなく生命体なのではないか？という問題提起をしたところまでが前編です。
前回のテーマが「乗り物」と「ロボット」の境目の議論であったのに対して、今回は「ロボット」と「生命」の境目の議論になります。
生命とは何か？
前回、「ロボット」という言葉に明確な定義はないという話をしました。実は「生命とは何か」という問いは、ロボット以上に難しい問いです。Wikipediaから「生命」という項目を検索すると「生物学者たちは、その基本である生命の定義ですら互いに合意することすらできていない」と書かれています。どのような定義をしても一見、生命でない物体が生命になってしまうからです。たとえば「栄養素を取り込んで自己増殖する」という定義だと火なども生命になります。
若干脱線しますが、一昔前のアニメでは自らが「金属製」であることに悩むロボットたちがよく登場しました。鉄腕アトムが良い例です。一般にロボットは金属と油脂で成り立ち、生命は水と有機物で成り立つという理解が、両者の境目の認識であった時代がありました。
このような表面的な理解は近年になってほぼ崩れました。昭和の時代は機械やロボットはイコール金属でしたが、今は新たな素材が次々誕生しています。もともとロボットという言葉はカレル・チャペックの小説R.U.Rで生み出されたのですが、この小説に出てくる”ロボット”達は、ロボットというより有機物から構成された人造人間とも言えるものでした。どうでもいいですがエヴァ（エヴァンゲリオン）はロボットなのか人造人間なのかというのはファンの間でも神学論争化しているらしいです。
脱線から話を戻すと、結局のところ何がロボットと生命の境目なのでしょうか。学術的な話はともかくとして、私たちが日常的に機械と生命を分ける要素と考えるのは感情や自我、個性を持つことのように思えます。単純な論理で機械的な判断をする人を「ロボットのよう」と評することがあるように、生命とは複雑で豊な感情や多様性を持っているはずだ、という考え方です。
もちろんこの考え方は細菌のような一部の生命体については当てはまらないかもしれません（細菌にも個性はあるのでしょうか？昆虫にはあるらしいですが）。もっとも、私たちも日常生活で殺菌することになんら躊躇いをもたないように、「生命の尊さ」の対象となるのは一定の自我と個性を持った高度生命に限定しているように思います。ですので、一つの考え方としてここでは生命を自我、感情や個性を持った存在としておきます。
ロボットアニメの主人公メカに真のロボットはどれだけいるのか
一般に私たちはこの生命の特徴である感情や個性はアナログでYes/Noで割り切れないものと考えがちです。しかし、実は人間の脳細胞もざっくり言えば0と1、ないしはYesとNoといったデジタル判断の積み上げで機能しています※2。厳密に言えばデジタルに受け取った複数の電気信号の総和が一定の閾値を超えるとその脳細胞（ニューロン）が新たな電気信号をデジタルに送り出すということを膨大に繰り返すことで思考を構成しています。この脳細胞の処理をコンピュータがなぞれるように開発されたのが昨今注目されているニューラルネットワークという処理モデルです。
小脳なども含めたシステム全体としての脳は人間で1000億を超える細胞から出来ているそうです。
この理解が正しければ、私たちが感情や個性をアナログでYes/Noで割り切れないものと考えるのは、別に根源的な仕組みが機械やロボットと異なるからというわけではなく、それらと比べてインプットとなる情報や、処理（分岐）が膨大すぎて、その論理を読み解けていないため、と仮定することができます。
今のところ人間は自らの思考の構造を形式知にすることはできていませんし、当面は不可能と思われます。遺伝で受け取るインプット情報にさらに経験で積み重なる膨大なインプット情報、そこに膨大な条件分岐が積み重なっていて、人間どころか犬や猫であっても目の前にいる一個体の処理論理を完全に説明することはできません。
これに対して機械や乗り物、ロボットは人間がプログラミングしていますから、複雑さの程度は違ってもその論理は可視化されています。もちろんロジックの設計に穴があったり、プログラマーがなんらかミスしたりすれば、機械やロボットが予定しない挙動（暴走）することはありますが、論理は可視化されているので後から詳細に調査すれば、その原因を解明することが出来ます。AIは近年、かなり高度な処理を行うことが出来るようになっていますが、未だその構造は制御不可能なほどの複雑さまでは至っていません。
これをまとめると、極端に分岐の多いアルゴリズムを駆使した結果、再現が不可能で、説明責任を果たせないレベルにまで複雑化したプログラムを感情とか個性と呼び、それを実装している物体を生命と呼んでいる、と考えることもできます。巨大な情報システムは時に数百万の条件分岐で成り立っているそうです。しかし人間の脳は細胞だけで1000億個です。これらが複雑にからみあって構成される条件分岐の数はもはや想像もつきません。こう考えると乗り物、ロボット、生命を分ける軸は処理の高度さという一つの軸におちつきます。ですから内部論理を可視化できず、人間に逆らう自我すらもったロボット「レイズナー」はもはや生命なのではないかという推論もなりたちます。これを図で示すと以下のようになります。
ロボットが人間を超える日はくるのか？
さて、そうなるといつかロボットやAIがその自律性をまし、自らのプログラムを自己生成して条件分岐を複雑にしていった場合、いつかロボットやAIを人間が制御できなくなる時、いわゆる「シンギュラリティ※3」は起きるのか？という疑問もあります。
技術的特異点：人工知能がその能力を増して、人間のコントロールの外で新たな技術の開発を可能とした時に、もはや技術の進化を担う存在が人間から人工知能に移るポイント。
実は、私はロボットやAIといった人工物と人間のような高度生命体を分ける軸が処理の複雑の他にもう一つあると思っています。ロボットやAIは必ず誰かの命令を元に、それらを達成するための手段自体は自律的に生成することが出来ますが、高度生命体は自分で自分に対する命令を生成できます。これを一般的に「動機」と言います。動機は処理能力だけを極限まで高めても生成はされません。ですからどんなにコンピュータの処理能力が向上しても、それが自分自身なすべきことと、その目的を自ら見つけ出す、つまり動機を持たない限りターミネーター的な「ロボットの反乱」はおきえないと思っています。生命が持つような子孫を増やしたいとか、自分や家族の命を守りたいといった自我を機械が自ら生成しようと思えば、攻殻機動隊のように人間の感情も含めた思考回路全体を直接コンピュータに接続してトレースでもしなければ不可能なように思えます（逆に言えば攻殻機動隊で“人形使い”が発現した理屈はある程度、納得いきます）。
最近、公に「ロボットやAIの進歩は危険だ」との主張も目立ちますが、私はこの主張は人間の思考回路が持つ「動機」と「動機に基づいた処理」をごっちゃにして話しており、その動機に関する説明が不足していることが多いと感じます。もちろん高度な処理を行う自律兵器が予期しない大破壊をもたらす可能性はありますが、これはどちらかといえば情報システムのバグと同じでロジックの見落としによる暴走ですから、シンギュラリティの議論とは一線を引くべき話だと考えています。よって私はどちらかといえばロボットやAIの進化については不安よりも期待の方が強い側にいます。
そもそもの言葉の定義が曖昧であるから成り立つ大変乱暴な議論であることは承知ですが、混同しがちな言葉を理解するための一つの考え方として参考になれば幸いです。
