2018年1月8日月曜日
AIロボット兵士の是非
https://www.newscientist.com/article/mg23631512-900-letting-robots-kill-without-human-supervision-could-save-lives/amp/
Google翻訳で読んでみても大体のことは分かるが、まあ興味深いことだ。将来導入されるであろう、人間の指示を待たずに自分で判断して敵を殺す軍事ロボットの脅威に関し、人(兵士)が判断して殺すよりも信頼できるのではないか、自動運転の方が人の運転より信頼できるように、というのが主旨のようだ。
確かに、裏切りやら極限の精神状態での判断やらといったヒューマンエラーの要素をロボットが持つことはないので、一見正しいように見える。おそらくこれは、建物が入り組んだ市街地で、敵兵士と民間人が入り乱れているような状態において、敵のみを殺す用途には向いている、との主張だろう。
だが、これには二つの問題点がある。第一は、そもそも敵を定義する人間の間違いや恣意悪意を正すことはできない、ということ。二つ目は、ロボットは人間よりも安価で大量に導入できる、ということだ。
敵をどう定義するかをAI的に考えてみると、自分(ロボット)を攻撃してきたら敵、と単純に言えるだろうか。あるいは爆弾を抱えていたら敵か。何れも判断は単純ではない。ロボットが民間人の見方とは限らないし、人質爆弾の可能性もある。相手が持っているものが武器かどうかの判断も、やはりそう簡単ではない。よって当分の間、敵の定義は一律ではなく、都度インプットすべきものだ。
例えば人質救出作戦において、人質の情報が曖昧だった場合、犯人と人質をどう区別すればよいのか。間違って人質を殺してしまったら問題だし、犯人をかばってもやはり問題になる。人質の重要度によって判断基準を変えることも考えられる。
その判断基準を打ち込むのはAIプログラマだ。なぜならその基準設定は単純にスイッチやボリュームで設定できるような単純なものではないからだ。その結果作戦が失敗したとして、プログラマに責任を押し付けることができるのか。
また、市街地でのゲリラ戦において、一人のAIプログラマが千台のロボットに同じ命令を与えて町全部を攻撃したとする。結果として数千人のゲリラと数百人の民間人を殺したとする。そのプログラマ一人の判断が全ての(成功と)間違いの原因を作ったわけだ。つまり、一人の間違いが、ロボットの投入数に比例して増大する。
白兵戦であれば、どんな歴戦の勇士でも、一回の戦闘で何百人も殺すことは不可能だ。だがロボットならそれができてしまう。戦争を単純にゲームとして見れば効率の高さは善だが、それは核ボタンを持ち歩くような重責にもなる。
それでも、ロボットの判断システムが素晴らしく優秀になってくれれば話は別だ。テロ集団が人間の盾を使ったり民間人に偽装していたりしても、全て見つけ出して綺麗に殺してくれるのなら、民間人は安心して日常生活を続けることができる。遥か遠い将来のことではあるが、そこに行き着く過程として、上のような過渡期は存在せざるを得ない。その狭間で(試行錯誤の糧として)殺される人は、たまったものではない。
技術的には正論だが心情的に受け付けない。こんなところも戦争のまどろっこしいところだ。
登録:
コメントの投稿 (Atom)
注目の投稿:
ASIの発達と決定論
世の中の話題はAGIを通り過ぎてASIに進んでいる。AGIがGeneral IntelligenceならASIはSuper Intelligence、即ち人類を遥かに超えた知性ということらしい。 2045年にシンギュラリティが起きると予測したのは、人工知能研究の世界的権威であ...

人気の投稿:
-
「生成AIはミーハーである」の回でも少し触れたのだが、生成AIの回答は一次的には誤っていることが多い。それを指摘してAIが回答を修正していく様を見て楽しむ、というのが最近のマイブームだ。 どういう指摘をしているのか、と自己分析してみると、興味深いことに陰謀論者との議論とあま...
-
日本共産党が消費税減税案についてのサンデーモーニングの批判的なコメント(財源を示せ)に対し「財源を示した上で提言している」という反論をしている。そこで同じく、Grok3に計算してもらった。 日本共産党の提言は、2025年4月16日のものの他、幾つか出ている。そのおおよその方向性...
-
近年の世界的な右傾化、自国第一主義化について、その原因を生成AIと討論しながら考えた結果、そういう結論に達した、というお話。 まずトランプが未だに支持されている理由について議論したのだが、その理由はアメリカ白人低学歴層の貧困化だという。この白人貧困層は、人数的には数千万人と規...
-
以前チラっと書いた、表題の分析の結果を披露しておく。 まず全体像について生成AIと議論した。結果として、その大まかなシナリオとは、 いわゆる減反政策によって、市場におけるゆとり分が減り、ここ数年は需給バランスがタイトになっていた。 農水省は減反政策は止めたと言っているが...
-
免震技術の一つに、「エア免震」というものがある。地震が発生すると、ホバークラフトのように地面から浮き上がる、というものだ。 http://www.airdanshin.jp/ なかなかよいと思うが、普段は浮いていないわけだから、例えば故障していないかどうか確認す...
-
色々と生成AIと議論しているが、それに関して最近気付いたことがある。 最初の応答については、あまり深く考えずに世間の評判を基に答えるのだが、それには往々にしてウソ大げさが混じっている。それに対して指摘をし、更にそれを繰り返すことによって、だんだんとそのウソ大げさを理解し、マト...
-
https://ja.wikipedia.org/wiki/%E4%B8%AD%E5%9B%BD%E8%AA%9E%E3%81%AE%E9%83%A8%E5%B1%8B チューリングテスト に対する反論とも言える思考実験だ。両者の概要はここでは省略する。Wikipe...
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
https://jp.techcrunch.com/2018/03/17/2018-03-14-mit-gadget-puts-multiple-artificial-organs-into-a-paperback-sized-connected-system/ 実験の...
-
古くは仮面ライダースナックやビックリマンチョコ、最近では万博パビリオンの時間指定チケットやマクドナルドのちいかわグッズなど、何かと話題になっている転売の是非について考察してみた。これももちろん生成AIを使って、なかなか面白い結論が出た。 最初は万博場ビリオンについて議論したのだ...
0 件のコメント:
コメントを投稿