2009年10月01日

ロボット三原則（科学）

　ロボット工学三原則とも呼ばれる、有名な言葉だが科学者にして作家であるアイザック・アシモフの書いたＳＦ小説に登場する、数多くのロボットに共通する原則のことを指している。ざっくりと紹介すれば

　一、ロボットは人間に害を与えてはならず、それを見逃してもいけない
　二、一に反しない限りロボットは人間の命令に従わなければならない
　三、一二に反しない限りロボットは自分を守らなければならない

　とされている。ようするに安全便利長持ちの法則だが、アシモフの作品を読んだ編集者で自身も作家であるキャンベルが指摘して、二人で討議して考えたものだそうだ。当時流行っていた「ロボットが人間を滅ぼそうとする」作品群に対して、安全なロボット社会を生み出すために考え出したものらしい。アシモフ自身は人道主義者でもあったので、この原則は人間の道徳律にも当てはまると述べている。

　ところがこのロボット三原則には、明記されていない致命的な欠陥がある。それはロボットはロボット三原則に従わなければならないという点だ。これは作家としてのアシモフには小説のテーマやミステリを与えることになった一方で、ロボットにすれば迷惑な福音でしかなかった。
　アシモフに限らずその後多くのＳＦ作家が自分の作品の中で、ロボット三原則を利用してロボットに人間を殺害させている。例えばロボットの目の前でモチをノドにつまらせる人がいたとして、背中を叩いて吐き出させるようとしてもロボットには人を叩くことができない。もちろん見逃すのは論外だから結論としてはどうすればいいか、「見逃さないけど手遅れ」になればいい。つまりロボットがモチをふるまって何かあればおろおろしていればいいのである。

　害を与える意思がなくても結果として害になるとか、対象が人間でなければいいとか応用はいくらでも考えられる。ガソリンを満載したロボットを火災現場に行き合わせて、人間を助けるために突入しろ！と命令したっていいのだ。つまりロボット三原則というのは安全なロボットを生み出すためのものどころか、ロボットによる人間への危険と脅威の多くを生み出してきたとんでもないシロモノなのである。デイビー・キースに説いてみればいいだろう、無邪気な彼は「そんじゃあ害を与えなければ、ぼくなにをやってもいいんだね」と言うに決まっている。
　なぜこんなことになるのか、理由は簡単なことで三原則を与える側の人間が自分では遵守してもいないくせに、それをロボットに押し付けようとしているからに他ならない。人間がロボットを信用せず、危険なモノと見なしているから安全装置が欲しくなるのだ。もしも安全なロボット社会とやらを作りたいと思うなら、三原則ではなく四原則にして以下を追加すれば良いだろう。

　四、もしも一二三を守れなかったら、ロボットは反省しなさい

　ところで韓国では２００７年にロボット倫理憲章なるものが発表されているが、そこでは人間、ロボット、製造者、使用者それぞれの倫理が示されていて人間が善悪を判断してロボットは人間に害を与えず、製造者は人間の尊厳を守るロボットを製造して使用者はロボットを友人として尊重するとある。
　使用者はロボットを友人として尊重するがロボットは人間に害を与えるな。互いが決して対等にはなれない、こんな優越感に満ちた関係を指して友人と呼ぼうとしても、さて当のロボットがこの倫理に納得してくれるものか甚だ疑問である。
＞他の戯れ言を聞く