2018年1月2日火曜日
ロボット三原則の実現法
多くの人にとって、最近のロボットの発達に伴う、事故や軍事ロボット、殺人ロボットなどの懸念の多くは、曖昧模糊としたものだ。可能性としてあり得る、絶対にないということはない、という程度のことは分かっても、ではどのくらいか、どの程度心配すればよいのかは未知数だ。
ロボット三原則というとえらく抽象的なものに見えるが、実際のところ、これはセキュリティや安全装置として長らく考えられてきたもの延長だから、基本的には徐々に発達していく類のものだ。おそらく今なら自動運転車のソフトウェア構造として、相応に研究されているものと思う。
もちろん、緊急停止ボタンのようなハードウェア的な手法は前提とするものとして、それは基本的に、多くのモジュールがグループや層(レイヤー)を成す構成になる。上位ほど権限が強く、下位の層に絶対的な指示を出せるものになっている。最上位は「システムが正常に動いていることを常に確認する」という層で、次は「安全を確保する」ための層だ。ロボット三原則はここに相当する部分で実装される。
緊急停止ボタンや既存の(産業用の)ロボットなどの場合、その判断は至極簡単だった。ボタンは押せば全電源が切れるだけだったし、ロボットなら最大動作範囲を規定して、そこを柵で囲い、柵の出入り口にスイッチを付ける、というものだった。だがこれではロボットと握手できない。かと言って、当たっても大丈夫なように出力を制限すると、今度は重いものを持ってもらえない。
ロボット三原則のような高度な判断は、多分にAI的な手法で計測され、単純なオンオフではなく0~1の浮動小数点数、といった形で表現される。その指標は独立して複数のモジュールがリアルタイム計測し、更には多数決システムやnバージョンプログラミングなどで確実性を保証した上で、複数の指標を総合して行動制限判断をする、という流れになる。
そして恐らく、業界標準が徐々に形成されてそれを国なりが承認する、ないしは認定認定代行の仕組みを形成する、という流れになるものと思われる。
このためには、現在は無制御で研究されているAIプログラミングに、一定の標準化や評価指標が加わり、検査を受ける必要が出る。その過程で、いつもの標準化抗争があり、日本が負けて、・・・などということが起きるのだろう。
ここで興味があるのは、その実際のモジュール構成やレイヤーがどのようなものになるのか、だ。例えば三原則には多くのあいまい性や矛盾があり、それが小説のネタになったりするほどなので、実際の判断が機器(ロボット)によって分かれたり、ベンダ毎に特徴が出たりする可能性がある。それをどう評価したらよいのだろう。
あるいは、クラックに対する耐性は、相当な複雑性を帯びるはずだ。ネットワーク越しにアタックであっても、相当に様々な抜け道があるはずだから、システムの不具合によるのか悪意のクラックによるのかは、かなりの専門家でも分析困難だ。単純にウィルスチェックを走らせればよい、というものではないことは確かなので、その保証にもあいまい性や信頼性にレベルが出るはずだ。
そうなれば、試験の方法も相当に高度なものになるはずだ。例えば、人間を人間として認識することができるかどうかの試験では、形や動きの他に、モーターの動力音(アンドロイドとの識別)を使ったり、手足のない重傷患者を認識できるか、低体温と遺体を区別できるか、などが問われるはずだ。
また、危険度の判断にしても、伝染病の疑いを正しく判断できないと、菌を撒き散らすことになる。服の下の火傷、遠目からは分からない心室細動、蛇に噛まれた、蜂に刺された、過去の頭部への強い衝撃、単なるいびきと脳溢血のいびきの区別、剥離骨折の判断、危険作業と自殺の区別、ガス中毒など、その線引きはかなり難しい。
更には、特に初期にはその基準はどんどん進歩していくはずだ。建築で言う既存不適格のような状態は常に起こり得る。それにどう対処するか。車検のように、定期的に検査ができたとしても、不適格のそれをソフトのバージョンアップだけで適格にできる保証はない。
かといって、絶対に安全なものだけを認可するという手法では、普及は見込めない。例えば今でもPepperは市販されているが、あれとても赤ちゃんの上に転倒すれば相当に大ごとになるはずだ。少なくとも初期のロボットは、安全性が低いまま販売される可能性が高い。そんな中で事故が起こり、規制が増え、・・・となっていき、また欧米と日本ではその進み具合が異なり、というのもいつものパターンだろう。
やはり最終的には、人間よりかなり体重が重く(百~百五十キロ)、身長は同等で、体力が成人男性の数倍程度のロボットが、常に従者として付き添ってくれるような未来を想像したい。本気で喧嘩をすれば絶対勝てないが、自分には持てない荷物を軽々と持ってくれるような頼もしい存在だ。
このために必要なのはやはりロボット三原則だが、多少の修正は必要である。例えば、そのロボットの所有者と他人では所有者を優先するとか、その優先度の度合いをどうするか、危害の程度をどう判断するか、非常停止スイッチに相当するキーワードの登録、通常時と緊急時で最大出力を変えることとその判断基準、などだ。
個人的にはいろいろ思うところはあるのだが、これらは基本的に社会的な合意形成が必要なので、ここは問題提起や視点の提供に止めることにしておく。
登録:
コメントの投稿 (Atom)
注目の投稿:
労働生産性向上策私案
https://www.newprinet.co.jp/日本生産性本部 「労働生産性の国際比較2024」を こちらの統計によると、日本の一人当たりの労働生産性は、1990年頃には13位だったところ、その後落ち込み、1998年から20位前後で推移していた。だが2018年から急...
.jpg)
人気の投稿:
-
実は前日に書いているのでたぶん、だけれども、「 たつき諒の予言は外れる、という私の予言 」は当たった。 ただこの間、トカラ列島で群発地震が起こり、最大震度6弱が1回、5強・5弱も複数回発生した。 トカラ列島で最大震度6弱含む1700回超の群発地震 収束見通せず今後も警戒が必要(S...
-
世の中の話題はAGIを通り過ぎてASIに進んでいる。AGIがGeneral IntelligenceならASIはSuper Intelligence、即ち人類を遥かに超えた知性ということらしい。 2045年にシンギュラリティが起きると予測したのは、人工知能研究の世界的権威であ...
-
年金の制度を調べていて、なんと複雑で面倒なことかと辟易した。今ちょうど年金改革がされているけれども、現行のシステムを複雑にしているだけだ。年金に限らず、様々な社会保障制度が別の名前で呼ばれ、申請方法も異なり、審査も給付も別。ファイナンシャルプランナーや税理士、公認会計士などが必要...
-
近年の世界的な右傾化、自国第一主義化について、その原因を生成AIと討論しながら考えた結果、そういう結論に達した、というお話。 まずトランプが未だに支持されている理由について議論したのだが、その理由はアメリカ白人低学歴層の貧困化だという。この白人貧困層は、人数的には数千万人と規...
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
たつき諒氏の予言が話題になっているので、私も一つ予言をしてやろうかと思う。 2025年7月5日を中心とした前後1週間(計2週間+1日)の間に、日本の太平洋岸を震源とする、最大震度6強以上の地震は、起きない。 地震予知三原則である①地域の特定②時期の特定③強度の特定、何れも満...
-
先日、舛添要一氏と佐藤優さんの対談を読んだのだが、なかなかに面白かった。それは現在の中国とロシアの街中の話なのだが、両国とも監視カメラが大量にある。さぞ窮屈だろうと思いきや、街は安全になり清潔になり、あるいは交通渋滞が解消されるなど、市民の生活はずいぶんと良くなっているのだそうだ...
-
東京の話になるがご容赦頂きたい。 東京メトロは、全車両にMetro WiFiを導入することを既に決定している。該当車両では、車内でWiFiを快適に使うことができる。一方で他の私鉄やJRは、駅でこそ設置しているものの電車自体には一部の特急などを除き設置していない。 こ...
-
度々著名人が不用意に発言しては炎上するこの問題だが、それが正しいのか(真っ当な主張なのか)。またそれ以前の問題として、そもそも外国人犯罪者は本当に多いのか。今回はこれを調べてみた。これも生成AIを使ったのだが、なかなか面白い結果が出た。 まず単純に犯罪率を比較してみると、 ...
-
「人はなぜ悪に憧れるのか」と「人はなぜ正義に憧れるのか」をGoogle検索してみたところ、前者は素直にヒットするのに後者はひねくれたサイトしかヒットしなかった。どうやら人は悪に憧れているようだ。 前者のサイトを読んでいると、様々な解釈が出てきて面白い。だが、検索前に自分...
0 件のコメント:
コメントを投稿