2018年1月8日月曜日
AIロボット兵士の是非
https://www.newscientist.com/article/mg23631512-900-letting-robots-kill-without-human-supervision-could-save-lives/amp/
Google翻訳で読んでみても大体のことは分かるが、まあ興味深いことだ。将来導入されるであろう、人間の指示を待たずに自分で判断して敵を殺す軍事ロボットの脅威に関し、人(兵士)が判断して殺すよりも信頼できるのではないか、自動運転の方が人の運転より信頼できるように、というのが主旨のようだ。
確かに、裏切りやら極限の精神状態での判断やらといったヒューマンエラーの要素をロボットが持つことはないので、一見正しいように見える。おそらくこれは、建物が入り組んだ市街地で、敵兵士と民間人が入り乱れているような状態において、敵のみを殺す用途には向いている、との主張だろう。
だが、これには二つの問題点がある。第一は、そもそも敵を定義する人間の間違いや恣意悪意を正すことはできない、ということ。二つ目は、ロボットは人間よりも安価で大量に導入できる、ということだ。
敵をどう定義するかをAI的に考えてみると、自分(ロボット)を攻撃してきたら敵、と単純に言えるだろうか。あるいは爆弾を抱えていたら敵か。何れも判断は単純ではない。ロボットが民間人の見方とは限らないし、人質爆弾の可能性もある。相手が持っているものが武器かどうかの判断も、やはりそう簡単ではない。よって当分の間、敵の定義は一律ではなく、都度インプットすべきものだ。
例えば人質救出作戦において、人質の情報が曖昧だった場合、犯人と人質をどう区別すればよいのか。間違って人質を殺してしまったら問題だし、犯人をかばってもやはり問題になる。人質の重要度によって判断基準を変えることも考えられる。
その判断基準を打ち込むのはAIプログラマだ。なぜならその基準設定は単純にスイッチやボリュームで設定できるような単純なものではないからだ。その結果作戦が失敗したとして、プログラマに責任を押し付けることができるのか。
また、市街地でのゲリラ戦において、一人のAIプログラマが千台のロボットに同じ命令を与えて町全部を攻撃したとする。結果として数千人のゲリラと数百人の民間人を殺したとする。そのプログラマ一人の判断が全ての(成功と)間違いの原因を作ったわけだ。つまり、一人の間違いが、ロボットの投入数に比例して増大する。
白兵戦であれば、どんな歴戦の勇士でも、一回の戦闘で何百人も殺すことは不可能だ。だがロボットならそれができてしまう。戦争を単純にゲームとして見れば効率の高さは善だが、それは核ボタンを持ち歩くような重責にもなる。
それでも、ロボットの判断システムが素晴らしく優秀になってくれれば話は別だ。テロ集団が人間の盾を使ったり民間人に偽装していたりしても、全て見つけ出して綺麗に殺してくれるのなら、民間人は安心して日常生活を続けることができる。遥か遠い将来のことではあるが、そこに行き着く過程として、上のような過渡期は存在せざるを得ない。その狭間で(試行錯誤の糧として)殺される人は、たまったものではない。
技術的には正論だが心情的に受け付けない。こんなところも戦争のまどろっこしいところだ。
登録:
コメントの投稿 (Atom)
注目の投稿:
砂の船
免震構造については過去いくつか提案しているが、これの新しい版である。 以前、難燃性の油の上に浮かべた船の構造を提案したことがある。あれの砂版である。つまり、砂のプールを作っておいて、その上に浮かべるというものだ。砂が抵抗となって振動を軽減する。 ただし、油や水と違って砂の...

人気の投稿:
-
屋根に超音波振動装置を取り付けておく。これによって屋根と雪の間の結合が破壊され、雪が滑り落ちやすくなる。これが題記装置の原理だ。角度によっては放っておいても落ちるだろうし、そうでなくても楽に雪下ろしができる。 まあ超音波でなくて低周波でも良いのだろうが、超音波の方が簡単...
-
ディーン・ケーメン氏が発明した浄水器「 スリングショット 」の原理は、いわゆる蒸留である。つまり水を沸騰させて水蒸気にした後、冷やして水に戻す。汚水と蒸留水の間で熱交換を行うことで効率を上げている。 日本では、防災用の浄水器としては中空糸膜や逆浸透膜が殆どだ。これと蒸留式には...
-
近年の若年層からの近視の増加傾向は、生活スタイルの変化と関係があると言われている。つまり、外を出歩かず、窓も締め切り、外出してもスマホばかり見ているという、要するに近くばかり見ている生活がその一因である。これは学術的にも証明されていて、外に出歩く機会が多い人ほど軸性近視の確率は少...
-
自分の知る限りでは、VRChatのワールドで青空文庫が読める図書館があったのと、N高の教室メタバースくらいしかマトモな例がないのが、メタバース内で本を読む方法だ。本や書類がメタバース内で苦も無く読めるようになれば、電子書籍も含めて全部メタバース内に落としてしまいたい、とすら思っ...
-
VAPEとは、液体を使うタイプの電子タバコだ。日本でも既に購入可能だが、あまり普及しているようには見えない。 PG(プロピレングリコール)とVG(ベジタブルグリセリン)からなる液体にフレーバーを混ぜたものを電気で加熱してその蒸気を吸うのだが、この加熱のところがいい加減な...
-
以前の投稿「 AI寿司職人は美味い寿司を握れるか 」と関連して、「AIには絶対できないこと」、と Googleで検索 してみると、出るわ出るわ。無名有名入り乱れ、色々な説が唱えられている。 だがどれも、技術的に不可能であることを証明・説明できていると言えるものはなかっ...
-
映画と言えば、今でも娯楽のジャンルの一つとして確立したものではあるが、近年では衰退の兆しがある。そのたびに3DやCGなどのテコ入れが入ってきたわけであるが、ここにきて更に新しい提案ができるようになった。それがタイトルにあるインタラクティブ性の導入である。 とは言っても、...
-
ハクキンカイロの発熱原理を調べていて、これを防災用(キャンプ用でも良いのだが)の湯沸しに使えないかと考えた。 普通、キャンプではガスコンロを持っていく。だがあれは裸火を使うから、熱効率は悪い。これに対してハクキンカイロの仕掛けは、白金触媒を適切な場所に配することで、極...
-
AGIとは、 汎用人工知能 (Artificial General Intelligence)のことだ。今のところ、研究段階としてはまだ初期の初期だと思われる。一方で、限定的なAIは飛躍的な進歩を遂げている。そこで、AGIを実現するための一つの提案として、 弱いAI の弱い...
-
メタバースが主流の社会では、外出の機会が極端に少なくなる。これによって、大きなダメージを受ける業界が出てくる。それは大雑把に観光業と交通・運輸業、飲食業である。観光にはゲームセンターや映画館、大型ショッピングモール、スポーツ関係なども含まれる。また、雨具の需要も減るだろう。 ...
0 件のコメント:
コメントを投稿