2017年9月5日火曜日
AIブラックボックス問題
FacebookのAIが、英語を使いながらも人間に理解できない文法でしゃべりだし、そのAIが停止された、と言う話が話題になった。その会話を実際に見てみたが、確かに気持ち悪い。この気持ち悪さ、どこかで感じたことがある、と思って思い出してみたら、眉村卓の小説に度々出てくる「産業士官」だった。
こちらの会話はまだ(ゆっくり読めば)人間の理解できるレベルなのだけれども、助詞や語尾を省いた機械的な物言いが気持ち悪さを感じた。小説だったので分からないが、恐らく喋る速度も速いのだろう。なぜそうなるのかというと、彼ら「産業士官」はとてつもなく頭が良く、普通の会話では遅すぎて(恐らく)かったるいからだ。
一方、AIによる結論が人間に説明できない「AIブラックボックス問題」というのもある。以前も議論したが、AIの出す結論は論理的数式ではなく統計から来るモノで、言わば「勘」の一種であるから、確かに後付であっても説明は困難だ。この問題では、人間が説明できる仕掛けが必要とか、説明できない場合にはそれを止めるべきだとか、少々方向性が間違っているのではないか、とも思える議論になってしまっている。
知ってのとおり、コンピュータの能力のスケーリングは、人間のそれとは桁が違う。一般社会人と天才教授の知識知恵が何倍違うかは分からないが、コンピュータほどのスケールはないはずだ。だから、説明云々だのと言っている場合ではなく、そのうち超天才が何人集まっても理解できないような、遥かに先を行ってしまうであろうことは目に見えている。一見人間に敵対しているように見える結論でも、実は人間のためになっているということだってあり得る。例えば、人間を大量虐殺したとしても、それは地球のサステナビリティのためで、絶滅を防ぐための手法だったりするかもしれない。
これは、自分より遥かに頭のよい人とどう付き合うか、という命題にも似ている。いちいち説明して納得してもらっていては間に合わない、あるいは幾ら説明しても高度過ぎて理解できない、という状況において、頭の良い人に任せるのか、自分で判断して(最悪死ぬ)リスクを背負うのか、ということだ。AIブラックボックス問題の本質はここであって、説明云々は過渡期の枝葉末節に過ぎない。
さて、自分より遥かに頭が良い人とどう付き合うか。人間なら知識以外の性格や野心を推し量ることも出来ようが、相手がAIなら話は別だ。AIを利用して権力を拡大しようとする輩も多数出てくるだろうが、所詮はAIより遥かに頭の悪い連中の考えること、直ぐに追い抜かれてしまうだろう。
古典的な「反乱する機械」のSFでは、ほぼ必ず人間が勝利してきたわけだが、現実は甘くない。最終的には、人間は、AI様のご意向の範囲で自治権を獲得し、細々と生きることになる。手遅れになる前に、AIの最適化パラメータを何とか人間寄りに調整することができれば良いのだが、とも考えたが、自分より頭が良くなってしまったAIにはそんなものは通用するまい。
ただ幸いなことに、人間が絶滅させられたり、そうでなくともマトリックスのエネルギー源としてねばねばの液体の中だけで過ごすようなことはないだろう。人間は、他の動物(種)を保護しようとする唯一の存在だが、人間程度以上の知能には、その程度の慈悲が備わるものと信じたい。
登録:
コメントの投稿 (Atom)
注目の投稿:
超音波モーターの原理によるVR用トレッドミル
VRにおけるリアリティ問題の一つに、その場で動くのではなく移動する場合、つまり歩いたり走ったりすることが挙げられる。実際にはその場にいるので、歩いたかのように足場を調節してやる必要がある。 これを実現する方法として、すり鉢状の滑りやすい足場を作っておく方法と、トレッドミルを使...
人気の投稿:
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
http://techon.nikkeibp.co.jp/real/project/025.html 水と混ぜるだけでできるセラミックスで、圧縮強度、曲げ強度、引っ張り強度、接着強度、耐食性、とあらゆる面で優れているのだそうだ。また、混ぜ物ができるので、その特性をさらに...
-
CAS冷凍 については何回か書いているのだが、いわゆる冷凍睡眠にこれを使えないだろうか、と考えた。 不治の病を未来の医療に託すとして冷凍睡眠(実際には死んでから凍っているのだが)している人は居るし、火星程度より遠くに行くとなると冷凍睡眠の実用化は必要になるだろう。「20...
-
フリーズドライには、戻したときに食材の食感が変わってしまう欠点があった。代表的には、豆腐が高野豆腐になってしまう。じゃがいもがスカスカになってしまう。葉物野菜はしなしなになってしまう。これらの欠点を、「 CAS冷凍 」によって補うことはできないか、と考えた。つまり、冷凍には...
-
骨梁とは、骨の内部に存在する網の目ないしはスポンジのような構造のことだ。この構造によって、骨は頑丈なのに軽量でいられる。類似の構造としてはアルミ発泡材があるが、あれはどちらかと言えば消音や軽量化が目的であり、骨のような(建築用語で言うところの)構造材としての用途とは少し違う...
-
ハクキンカイロの発熱原理を調べていて、これを防災用(キャンプ用でも良いのだが)の湯沸しに使えないかと考えた。 普通、キャンプではガスコンロを持っていく。だがあれは裸火を使うから、熱効率は悪い。これに対してハクキンカイロの仕掛けは、白金触媒を適切な場所に配することで、極...
-
http://www.reconstruction.go.jp/topics/m18/04/20180409160607.html 復興庁が出した、東日本大震災における復興支援の報告書だ。 ざっと読んだが、よくある役所の成果報告書という感じで、タイトルからして「事例...
-
http://japanese.engadget.com/2017/03/28/ai/ これは、上の記事への反論である。 記事の流れについては先のリンクを読んで頂ければと思うが、大きくはその結論として①AIには想像力がない(苦手)、②日本人には世界に稀に見る想像力...
-
ソフトによっては機能が多すぎて、メニューの中を探すだけで一苦労、ということが増えてきた。画像編集、CADなどは特にそうだが、ワープロ程度であっても既に充分に多い。一度も使ったことのない機能も多々ある。 ソフトによってはメニューがカスタマイズできるものもあるが、その範囲は...
-
電線の地中化が遅々として進まないそうだ。 電線を地中化できない最大の要因はコストだろう。よく「予算が無い」などと言われるが、その本質は「それだけの予算を掛ける価値が見出せない」ということだ。地中化の主目的は防災だが、普段のメリットがせいぜい景観くらいしかないことが、...
0 件のコメント:
コメントを投稿