2018年5月10日木曜日
人工知能の叛乱を防ぐ方法
人工知能にとって、シンギュラリティには何の意味もない。意味があるのは人間の方だ。だから、人工知能は黙ってそこを通過する。勝利宣言したりしないし、そこで進化が止まることもない。
人類が恐れるのは、人工知能が制御不能になることだ。だが、元々それ以前の段階で、人間がシステムに対してどの程度権限を与えるのかは決まっているはずだ。知能が人間を勝ったからと言って、直ちに脅威になるわけではない。
例えば自動運転において、人を意図的に轢き殺すことは可能だろうか。可否で言えば可能と言わざるを得ないが、それは人工知能にとっては汚点である。人工知能の目標は、命令に従って車を動かし、目的地に到着することだが、交通法規の遵守、特に人を轢かないことについては重要な条件になっている。如何に人工知能が賢くなっても、そこを自ら弄ることはあり得ない。
もしそれが問題になるのだとしたら、考えられることは二つ。一つは目的関数の意図的な(人間による)書き換えだ。人を殺すことを目的とする、ないしは人を殺すことを配慮しないように設定を変更することだ。もう一つは、人工知能が自らの意思で目的関数を書き換えられるように設定することだ。
前者は人工知能の脅威ではなく、人の脅威である。従って問題は後者になる。
人工知能にその目的をどう提示するかは標準化されていないし、明示的かどうかも色々と異なる。例えば自動運転車の場合、人を轢いてしまったら当然マイナスポイントになるのだが、これをスイッチ一つで消すようなことはできない。学習の成果として回路内に複雑に刻まれていて、そう簡単に消すことはできない。
従って、もしそうしようとするなら、学習をイチからやり直す必要がある。それにはベンダが行ってきたような膨大なシミュレーションをしなければならず、カネも時間も桁違いに必要だ。従って、この方法は現実的ではない。
もう一つの方法は、人工知能の前段に、人工知能の知覚を騙すような措置を施すことだ。兵器のAIにおいて、敵と味方を逆に認識させるような方法だ。だが自動車では相対する敵はいないので、兵器のようにはいかないだろう。
人工知能が自分で目的関数を書き換えることができるようになったとしても、直ちに人類を死滅させるように修正されるわけではない。上のように、学習のし直しが必要だからだ。少しづつ様子がおかしくなっていくようなことはあり得る話だが、途中で気付けば止めることもできるだろう。
こう考えると、「ある日突然」ということは考えにくい。少しづつおかしくなっていく、そして頻繁に学習が繰り返されていることを考えれば、気付くだけの時間はあるし、それを止めるための時間もあるはずだ。
登録:
コメントの投稿 (Atom)
注目の投稿:
超音波モーターの原理によるVR用トレッドミル
VRにおけるリアリティ問題の一つに、その場で動くのではなく移動する場合、つまり歩いたり走ったりすることが挙げられる。実際にはその場にいるので、歩いたかのように足場を調節してやる必要がある。 これを実現する方法として、すり鉢状の滑りやすい足場を作っておく方法と、トレッドミルを使...
人気の投稿:
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
http://techon.nikkeibp.co.jp/real/project/025.html 水と混ぜるだけでできるセラミックスで、圧縮強度、曲げ強度、引っ張り強度、接着強度、耐食性、とあらゆる面で優れているのだそうだ。また、混ぜ物ができるので、その特性をさらに...
-
CAS冷凍 については何回か書いているのだが、いわゆる冷凍睡眠にこれを使えないだろうか、と考えた。 不治の病を未来の医療に託すとして冷凍睡眠(実際には死んでから凍っているのだが)している人は居るし、火星程度より遠くに行くとなると冷凍睡眠の実用化は必要になるだろう。「20...
-
フリーズドライには、戻したときに食材の食感が変わってしまう欠点があった。代表的には、豆腐が高野豆腐になってしまう。じゃがいもがスカスカになってしまう。葉物野菜はしなしなになってしまう。これらの欠点を、「 CAS冷凍 」によって補うことはできないか、と考えた。つまり、冷凍には...
-
骨梁とは、骨の内部に存在する網の目ないしはスポンジのような構造のことだ。この構造によって、骨は頑丈なのに軽量でいられる。類似の構造としてはアルミ発泡材があるが、あれはどちらかと言えば消音や軽量化が目的であり、骨のような(建築用語で言うところの)構造材としての用途とは少し違う...
-
ハクキンカイロの発熱原理を調べていて、これを防災用(キャンプ用でも良いのだが)の湯沸しに使えないかと考えた。 普通、キャンプではガスコンロを持っていく。だがあれは裸火を使うから、熱効率は悪い。これに対してハクキンカイロの仕掛けは、白金触媒を適切な場所に配することで、極...
-
http://www.reconstruction.go.jp/topics/m18/04/20180409160607.html 復興庁が出した、東日本大震災における復興支援の報告書だ。 ざっと読んだが、よくある役所の成果報告書という感じで、タイトルからして「事例...
-
http://japanese.engadget.com/2017/03/28/ai/ これは、上の記事への反論である。 記事の流れについては先のリンクを読んで頂ければと思うが、大きくはその結論として①AIには想像力がない(苦手)、②日本人には世界に稀に見る想像力...
-
ソフトによっては機能が多すぎて、メニューの中を探すだけで一苦労、ということが増えてきた。画像編集、CADなどは特にそうだが、ワープロ程度であっても既に充分に多い。一度も使ったことのない機能も多々ある。 ソフトによってはメニューがカスタマイズできるものもあるが、その範囲は...
-
電線の地中化が遅々として進まないそうだ。 電線を地中化できない最大の要因はコストだろう。よく「予算が無い」などと言われるが、その本質は「それだけの予算を掛ける価値が見出せない」ということだ。地中化の主目的は防災だが、普段のメリットがせいぜい景観くらいしかないことが、...
0 件のコメント:
コメントを投稿