ロボット三原則の実現法

多くの人にとって、最近のロボットの発達に伴う、事故や軍事ロボット、殺人ロボットなどの懸念の多くは、曖昧模糊としたものだ。可能性としてあり得る、絶対にないということはない、という程度のことは分かっても、ではどのくらいか、どの程度心配すればよいのかは未知数だ。

ロボット三原則というとえらく抽象的なものに見えるが、実際のところ、これはセキュリティや安全装置として長らく考えられてきたもの延長だから、基本的には徐々に発達していく類のものだ。おそらく今なら自動運転車のソフトウェア構造として、相応に研究されているものと思う。

もちろん、緊急停止ボタンのようなハードウェア的な手法は前提とするものとして、それは基本的に、多くのモジュールがグループや層(レイヤー)を成す構成になる。上位ほど権限が強く、下位の層に絶対的な指示を出せるものになっている。最上位は「システムが正常に動いていることを常に確認する」という層で、次は「安全を確保する」ための層だ。ロボット三原則はここに相当する部分で実装される。

緊急停止ボタンや既存の(産業用の)ロボットなどの場合、その判断は至極簡単だった。ボタンは押せば全電源が切れるだけだったし、ロボットなら最大動作範囲を規定して、そこを柵で囲い、柵の出入り口にスイッチを付ける、というものだった。だがこれではロボットと握手できない。かと言って、当たっても大丈夫なように出力を制限すると、今度は重いものを持ってもらえない。

ロボット三原則のような高度な判断は、多分にAI的な手法で計測され、単純なオンオフではなく0～1の浮動小数点数、といった形で表現される。その指標は独立して複数のモジュールがリアルタイム計測し、更には多数決システムやnバージョンプログラミングなどで確実性を保証した上で、複数の指標を総合して行動制限判断をする、という流れになる。
そして恐らく、業界標準が徐々に形成されてそれを国なりが承認する、ないしは認定認定代行の仕組みを形成する、という流れになるものと思われる。

このためには、現在は無制御で研究されているAIプログラミングに、一定の標準化や評価指標が加わり、検査を受ける必要が出る。その過程で、いつもの標準化抗争があり、日本が負けて、･･･などということが起きるのだろう。

ここで興味があるのは、その実際のモジュール構成やレイヤーがどのようなものになるのか、だ。例えば三原則には多くのあいまい性や矛盾があり、それが小説のネタになったりするほどなので、実際の判断が機器(ロボット)によって分かれたり、ベンダ毎に特徴が出たりする可能性がある。それをどう評価したらよいのだろう。

あるいは、クラックに対する耐性は、相当な複雑性を帯びるはずだ。ネットワーク越しにアタックであっても、相当に様々な抜け道があるはずだから、システムの不具合によるのか悪意のクラックによるのかは、かなりの専門家でも分析困難だ。単純にウィルスチェックを走らせればよい、というものではないことは確かなので、その保証にもあいまい性や信頼性にレベルが出るはずだ。

そうなれば、試験の方法も相当に高度なものになるはずだ。例えば、人間を人間として認識することができるかどうかの試験では、形や動きの他に、モーターの動力音(アンドロイドとの識別)を使ったり、手足のない重傷患者を認識できるか、低体温と遺体を区別できるか、などが問われるはずだ。

また、危険度の判断にしても、伝染病の疑いを正しく判断できないと、菌を撒き散らすことになる。服の下の火傷、遠目からは分からない心室細動、蛇に噛まれた、蜂に刺された、過去の頭部への強い衝撃、単なるいびきと脳溢血のいびきの区別、剥離骨折の判断、危険作業と自殺の区別、ガス中毒など、その線引きはかなり難しい。

更には、特に初期にはその基準はどんどん進歩していくはずだ。建築で言う既存不適格のような状態は常に起こり得る。それにどう対処するか。車検のように、定期的に検査ができたとしても、不適格のそれをソフトのバージョンアップだけで適格にできる保証はない。

かといって、絶対に安全なものだけを認可するという手法では、普及は見込めない。例えば今でもPepperは市販されているが、あれとても赤ちゃんの上に転倒すれば相当に大ごとになるはずだ。少なくとも初期のロボットは、安全性が低いまま販売される可能性が高い。そんな中で事故が起こり、規制が増え、･･･となっていき、また欧米と日本ではその進み具合が異なり、というのもいつものパターンだろう。

やはり最終的には、人間よりかなり体重が重く(百～百五十キロ)、身長は同等で、体力が成人男性の数倍程度のロボットが、常に従者として付き添ってくれるような未来を想像したい。本気で喧嘩をすれば絶対勝てないが、自分には持てない荷物を軽々と持ってくれるような頼もしい存在だ。

このために必要なのはやはりロボット三原則だが、多少の修正は必要である。例えば、そのロボットの所有者と他人では所有者を優先するとか、その優先度の度合いをどうするか、危害の程度をどう判断するか、非常停止スイッチに相当するキーワードの登録、通常時と緊急時で最大出力を変えることとその判断基準、などだ。

個人的にはいろいろ思うところはあるのだが、これらは基本的に社会的な合意形成が必要なので、ここは問題提起や視点の提供に止めることにしておく。