ぜんのうテクログ

ロボット好き学生が書く様々なこと

ロボット工学三原則をめぐる考察

f:id:zennou:20200530181104j:plain

 

ロボット工学三原則、という言葉を聞いたことがあるだろうか。

 

アメリカの科学者でSF作家でもあったアイザック・アシモフ氏がその作品中で提示した原則である。

 

半世紀以上前のSF作品から始まったものだが、現代でも非常に考えさせられる内容で実際の工学倫理にも影響を与えたとされている。

 

 

概要

アシモフ氏は自身の小説中に以下のような原則を示した。

 

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

 

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

 

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

 

 

この原則は自律ロボットに適用される原則であり、人が操作するロボットのことを考えているわけではない。

 

この原則はフィクションとして作られたものであり、実際のロボットにこの原則をプログラムすることは後で説明するように不可能であるが、のちに実際の工学にも影響を与えたとされている。

 

また、他のSF作品などでもよく使われている原則である。

 

条文から優先度が第一条>第二条>第三条になっていることがわかる。


また、ロボットをモノとして捉えるなら、この原則は第一条から順に「安全、便利、耐久性」という読み替えが可能だ。

 

だが、自律型ロボットに適用されると、様々な問題が発生する。

問題

各条の優先度の矛盾

現実的な話ではないが、第一条>第二条>第三条の優先度順位が守られることによって逆に矛盾が発生することがある。

 

例えば、ロボットがその所有者により自己破壊を命じられたとする。
第二条が第三条に優先するはずだから命令は遂行されるはずだが、破壊の結果長期的に見て所有者が損害を被ることがあり得る。これを考慮すると命令は遂行されるべきでなく、第三条が第二条に優先されるべき事態になる。

 

このように、時間軸をどこまで見るかなどの条件によっては優先順位が絶対とすることができず、結果的に曖昧な原則となる側面がある。

 

また、命令の遂行が特定の人間に危害を加えることはないが、やがて人類全体に大きな悪影響を及ぼす可能性があるときはどうするのかという問題が後のアシモフの小説では登場した。

 

このため、第零法則が後で追加された。

 

第零法則
ロボットは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない。

 

この法則を第一条に優先させることによって、例えば人類滅亡を企てる主人の命令を遂行しなくなるというわけである。

 

この問題は現代のロボット工学には影響を与えていないが、深めていけば哲学的に興味深い問題になることが想像できる。

フレーム問題

何をもって人間と定義するか、何をしたら人間に危害を加えることになるか、などなど、正確にプログラムしようとしたらあまりに膨大になり、プログラム不可能である。

 

例えば、火事が起こり、人が取り残されていることをあるロボットが察知した。第一条に従うと、危険を感化してはならないので、取り残された人を助けなければならない。

 

このロボットはガソリンで動くから、ロボットは自ら助けに行くのではなく、消防を呼ぶなり消火栓を探すなりする判断が必要だ。しかし、果たしてこのロボットは本当に正しい判断ができるのだろうか?

 

危険にも多くのパターンがあり、その対処にも多くのパターンがある。その全てに対処できるようにプログラムすることはできるのだろうか?

 

ロボットが定められた有限のフレーム(=プログラム)の中でしか動作できないことをフレーム問題(1969年に初めて哲学者によって言及された)と言い、これが存在するため、ロボット工学三原則は現実のロボットには実装できない。

 

今後ロボットが高度に自律化するにあたって、ある程度この原則に似た仕組みを作る必要が出てくる可能性はあると思う。例えば完全自動運転車や介護ロボットなどだ。しかし、現実世界をプログラムのフレームだけで捉えようとするのは非常に難しい。

 

実際に、すでに米軍の無人機(まだ遠隔操作型で自律しているわけではないようだが)が誤って民間人を攻撃したという事件が起きるなど、刻々と問題が現実のものになりつつあるように感じられる。

 

www.yomiuri.co.jp

 

現実世界ではこのような原則に則ったプログラムが悪意あるハッカーによって書き換えられてフレームが歪められないか、という問題も深刻になるだろう。自動運転車がハッキングの結果人を狙ってぶつかるようになったらひとたまりもない。

 

 

これからロボットが様々なところで使われ始めるにあたって、フレーム問題にどう対処するかはロボットではなく、それを作る人間の仕事だと思う。

まとめ

ロボット工学三原則は半世紀以上前のSF小説で登場した概念だが、現代において原則をめぐる考察を行う重要性は増してきている。

 

工学者は普通物を作るときに物に対する責任を負うが、自律ロボットが潜在的に持つ危険性を完全に防げるのか、自らの責任を明確に意識するためにもこうした考察をときに自ら行う必要があると思う。