2018年1月2日火曜日
ロボット三原則の実現法
多くの人にとって、最近のロボットの発達に伴う、事故や軍事ロボット、殺人ロボットなどの懸念の多くは、曖昧模糊としたものだ。可能性としてあり得る、絶対にないということはない、という程度のことは分かっても、ではどのくらいか、どの程度心配すればよいのかは未知数だ。
ロボット三原則というとえらく抽象的なものに見えるが、実際のところ、これはセキュリティや安全装置として長らく考えられてきたもの延長だから、基本的には徐々に発達していく類のものだ。おそらく今なら自動運転車のソフトウェア構造として、相応に研究されているものと思う。
もちろん、緊急停止ボタンのようなハードウェア的な手法は前提とするものとして、それは基本的に、多くのモジュールがグループや層(レイヤー)を成す構成になる。上位ほど権限が強く、下位の層に絶対的な指示を出せるものになっている。最上位は「システムが正常に動いていることを常に確認する」という層で、次は「安全を確保する」ための層だ。ロボット三原則はここに相当する部分で実装される。
緊急停止ボタンや既存の(産業用の)ロボットなどの場合、その判断は至極簡単だった。ボタンは押せば全電源が切れるだけだったし、ロボットなら最大動作範囲を規定して、そこを柵で囲い、柵の出入り口にスイッチを付ける、というものだった。だがこれではロボットと握手できない。かと言って、当たっても大丈夫なように出力を制限すると、今度は重いものを持ってもらえない。
ロボット三原則のような高度な判断は、多分にAI的な手法で計測され、単純なオンオフではなく0~1の浮動小数点数、といった形で表現される。その指標は独立して複数のモジュールがリアルタイム計測し、更には多数決システムやnバージョンプログラミングなどで確実性を保証した上で、複数の指標を総合して行動制限判断をする、という流れになる。
そして恐らく、業界標準が徐々に形成されてそれを国なりが承認する、ないしは認定認定代行の仕組みを形成する、という流れになるものと思われる。
このためには、現在は無制御で研究されているAIプログラミングに、一定の標準化や評価指標が加わり、検査を受ける必要が出る。その過程で、いつもの標準化抗争があり、日本が負けて、・・・などということが起きるのだろう。
ここで興味があるのは、その実際のモジュール構成やレイヤーがどのようなものになるのか、だ。例えば三原則には多くのあいまい性や矛盾があり、それが小説のネタになったりするほどなので、実際の判断が機器(ロボット)によって分かれたり、ベンダ毎に特徴が出たりする可能性がある。それをどう評価したらよいのだろう。
あるいは、クラックに対する耐性は、相当な複雑性を帯びるはずだ。ネットワーク越しにアタックであっても、相当に様々な抜け道があるはずだから、システムの不具合によるのか悪意のクラックによるのかは、かなりの専門家でも分析困難だ。単純にウィルスチェックを走らせればよい、というものではないことは確かなので、その保証にもあいまい性や信頼性にレベルが出るはずだ。
そうなれば、試験の方法も相当に高度なものになるはずだ。例えば、人間を人間として認識することができるかどうかの試験では、形や動きの他に、モーターの動力音(アンドロイドとの識別)を使ったり、手足のない重傷患者を認識できるか、低体温と遺体を区別できるか、などが問われるはずだ。
また、危険度の判断にしても、伝染病の疑いを正しく判断できないと、菌を撒き散らすことになる。服の下の火傷、遠目からは分からない心室細動、蛇に噛まれた、蜂に刺された、過去の頭部への強い衝撃、単なるいびきと脳溢血のいびきの区別、剥離骨折の判断、危険作業と自殺の区別、ガス中毒など、その線引きはかなり難しい。
更には、特に初期にはその基準はどんどん進歩していくはずだ。建築で言う既存不適格のような状態は常に起こり得る。それにどう対処するか。車検のように、定期的に検査ができたとしても、不適格のそれをソフトのバージョンアップだけで適格にできる保証はない。
かといって、絶対に安全なものだけを認可するという手法では、普及は見込めない。例えば今でもPepperは市販されているが、あれとても赤ちゃんの上に転倒すれば相当に大ごとになるはずだ。少なくとも初期のロボットは、安全性が低いまま販売される可能性が高い。そんな中で事故が起こり、規制が増え、・・・となっていき、また欧米と日本ではその進み具合が異なり、というのもいつものパターンだろう。
やはり最終的には、人間よりかなり体重が重く(百~百五十キロ)、身長は同等で、体力が成人男性の数倍程度のロボットが、常に従者として付き添ってくれるような未来を想像したい。本気で喧嘩をすれば絶対勝てないが、自分には持てない荷物を軽々と持ってくれるような頼もしい存在だ。
このために必要なのはやはりロボット三原則だが、多少の修正は必要である。例えば、そのロボットの所有者と他人では所有者を優先するとか、その優先度の度合いをどうするか、危害の程度をどう判断するか、非常停止スイッチに相当するキーワードの登録、通常時と緊急時で最大出力を変えることとその判断基準、などだ。
個人的にはいろいろ思うところはあるのだが、これらは基本的に社会的な合意形成が必要なので、ここは問題提起や視点の提供に止めることにしておく。
登録:
コメントの投稿 (Atom)
注目の投稿:
超音波モーターの原理によるVR用トレッドミル
VRにおけるリアリティ問題の一つに、その場で動くのではなく移動する場合、つまり歩いたり走ったりすることが挙げられる。実際にはその場にいるので、歩いたかのように足場を調節してやる必要がある。 これを実現する方法として、すり鉢状の滑りやすい足場を作っておく方法と、トレッドミルを使...
人気の投稿:
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
http://techon.nikkeibp.co.jp/real/project/025.html 水と混ぜるだけでできるセラミックスで、圧縮強度、曲げ強度、引っ張り強度、接着強度、耐食性、とあらゆる面で優れているのだそうだ。また、混ぜ物ができるので、その特性をさらに...
-
CAS冷凍 については何回か書いているのだが、いわゆる冷凍睡眠にこれを使えないだろうか、と考えた。 不治の病を未来の医療に託すとして冷凍睡眠(実際には死んでから凍っているのだが)している人は居るし、火星程度より遠くに行くとなると冷凍睡眠の実用化は必要になるだろう。「20...
-
フリーズドライには、戻したときに食材の食感が変わってしまう欠点があった。代表的には、豆腐が高野豆腐になってしまう。じゃがいもがスカスカになってしまう。葉物野菜はしなしなになってしまう。これらの欠点を、「 CAS冷凍 」によって補うことはできないか、と考えた。つまり、冷凍には...
-
骨梁とは、骨の内部に存在する網の目ないしはスポンジのような構造のことだ。この構造によって、骨は頑丈なのに軽量でいられる。類似の構造としてはアルミ発泡材があるが、あれはどちらかと言えば消音や軽量化が目的であり、骨のような(建築用語で言うところの)構造材としての用途とは少し違う...
-
ハクキンカイロの発熱原理を調べていて、これを防災用(キャンプ用でも良いのだが)の湯沸しに使えないかと考えた。 普通、キャンプではガスコンロを持っていく。だがあれは裸火を使うから、熱効率は悪い。これに対してハクキンカイロの仕掛けは、白金触媒を適切な場所に配することで、極...
-
http://www.reconstruction.go.jp/topics/m18/04/20180409160607.html 復興庁が出した、東日本大震災における復興支援の報告書だ。 ざっと読んだが、よくある役所の成果報告書という感じで、タイトルからして「事例...
-
http://japanese.engadget.com/2017/03/28/ai/ これは、上の記事への反論である。 記事の流れについては先のリンクを読んで頂ければと思うが、大きくはその結論として①AIには想像力がない(苦手)、②日本人には世界に稀に見る想像力...
-
ソフトによっては機能が多すぎて、メニューの中を探すだけで一苦労、ということが増えてきた。画像編集、CADなどは特にそうだが、ワープロ程度であっても既に充分に多い。一度も使ったことのない機能も多々ある。 ソフトによってはメニューがカスタマイズできるものもあるが、その範囲は...
-
電線の地中化が遅々として進まないそうだ。 電線を地中化できない最大の要因はコストだろう。よく「予算が無い」などと言われるが、その本質は「それだけの予算を掛ける価値が見出せない」ということだ。地中化の主目的は防災だが、普段のメリットがせいぜい景観くらいしかないことが、...
0 件のコメント:
コメントを投稿