2018年5月10日木曜日
人工知能の叛乱を防ぐ方法
人工知能にとって、シンギュラリティには何の意味もない。意味があるのは人間の方だ。だから、人工知能は黙ってそこを通過する。勝利宣言したりしないし、そこで進化が止まることもない。
人類が恐れるのは、人工知能が制御不能になることだ。だが、元々それ以前の段階で、人間がシステムに対してどの程度権限を与えるのかは決まっているはずだ。知能が人間を勝ったからと言って、直ちに脅威になるわけではない。
例えば自動運転において、人を意図的に轢き殺すことは可能だろうか。可否で言えば可能と言わざるを得ないが、それは人工知能にとっては汚点である。人工知能の目標は、命令に従って車を動かし、目的地に到着することだが、交通法規の遵守、特に人を轢かないことについては重要な条件になっている。如何に人工知能が賢くなっても、そこを自ら弄ることはあり得ない。
もしそれが問題になるのだとしたら、考えられることは二つ。一つは目的関数の意図的な(人間による)書き換えだ。人を殺すことを目的とする、ないしは人を殺すことを配慮しないように設定を変更することだ。もう一つは、人工知能が自らの意思で目的関数を書き換えられるように設定することだ。
前者は人工知能の脅威ではなく、人の脅威である。従って問題は後者になる。
人工知能にその目的をどう提示するかは標準化されていないし、明示的かどうかも色々と異なる。例えば自動運転車の場合、人を轢いてしまったら当然マイナスポイントになるのだが、これをスイッチ一つで消すようなことはできない。学習の成果として回路内に複雑に刻まれていて、そう簡単に消すことはできない。
従って、もしそうしようとするなら、学習をイチからやり直す必要がある。それにはベンダが行ってきたような膨大なシミュレーションをしなければならず、カネも時間も桁違いに必要だ。従って、この方法は現実的ではない。
もう一つの方法は、人工知能の前段に、人工知能の知覚を騙すような措置を施すことだ。兵器のAIにおいて、敵と味方を逆に認識させるような方法だ。だが自動車では相対する敵はいないので、兵器のようにはいかないだろう。
人工知能が自分で目的関数を書き換えることができるようになったとしても、直ちに人類を死滅させるように修正されるわけではない。上のように、学習のし直しが必要だからだ。少しづつ様子がおかしくなっていくようなことはあり得る話だが、途中で気付けば止めることもできるだろう。
こう考えると、「ある日突然」ということは考えにくい。少しづつおかしくなっていく、そして頻繁に学習が繰り返されていることを考えれば、気付くだけの時間はあるし、それを止めるための時間もあるはずだ。
登録:
コメントの投稿 (Atom)
注目の投稿:
砂の船
免震構造については過去いくつか提案しているが、これの新しい版である。 以前、難燃性の油の上に浮かべた船の構造を提案したことがある。あれの砂版である。つまり、砂のプールを作っておいて、その上に浮かべるというものだ。砂が抵抗となって振動を軽減する。 ただし、油や水と違って砂の...

人気の投稿:
-
屋根に超音波振動装置を取り付けておく。これによって屋根と雪の間の結合が破壊され、雪が滑り落ちやすくなる。これが題記装置の原理だ。角度によっては放っておいても落ちるだろうし、そうでなくても楽に雪下ろしができる。 まあ超音波でなくて低周波でも良いのだろうが、超音波の方が簡単...
-
ディーン・ケーメン氏が発明した浄水器「 スリングショット 」の原理は、いわゆる蒸留である。つまり水を沸騰させて水蒸気にした後、冷やして水に戻す。汚水と蒸留水の間で熱交換を行うことで効率を上げている。 日本では、防災用の浄水器としては中空糸膜や逆浸透膜が殆どだ。これと蒸留式には...
-
自分の知る限りでは、VRChatのワールドで青空文庫が読める図書館があったのと、N高の教室メタバースくらいしかマトモな例がないのが、メタバース内で本を読む方法だ。本や書類がメタバース内で苦も無く読めるようになれば、電子書籍も含めて全部メタバース内に落としてしまいたい、とすら思っ...
-
近年の若年層からの近視の増加傾向は、生活スタイルの変化と関係があると言われている。つまり、外を出歩かず、窓も締め切り、外出してもスマホばかり見ているという、要するに近くばかり見ている生活がその一因である。これは学術的にも証明されていて、外に出歩く機会が多い人ほど軸性近視の確率は少...
-
VAPEとは、液体を使うタイプの電子タバコだ。日本でも既に購入可能だが、あまり普及しているようには見えない。 PG(プロピレングリコール)とVG(ベジタブルグリセリン)からなる液体にフレーバーを混ぜたものを電気で加熱してその蒸気を吸うのだが、この加熱のところがいい加減な...
-
以前の投稿「 AI寿司職人は美味い寿司を握れるか 」と関連して、「AIには絶対できないこと」、と Googleで検索 してみると、出るわ出るわ。無名有名入り乱れ、色々な説が唱えられている。 だがどれも、技術的に不可能であることを証明・説明できていると言えるものはなかっ...
-
映画と言えば、今でも娯楽のジャンルの一つとして確立したものではあるが、近年では衰退の兆しがある。そのたびに3DやCGなどのテコ入れが入ってきたわけであるが、ここにきて更に新しい提案ができるようになった。それがタイトルにあるインタラクティブ性の導入である。 とは言っても、...
-
ハクキンカイロの発熱原理を調べていて、これを防災用(キャンプ用でも良いのだが)の湯沸しに使えないかと考えた。 普通、キャンプではガスコンロを持っていく。だがあれは裸火を使うから、熱効率は悪い。これに対してハクキンカイロの仕掛けは、白金触媒を適切な場所に配することで、極...
-
AGIとは、 汎用人工知能 (Artificial General Intelligence)のことだ。今のところ、研究段階としてはまだ初期の初期だと思われる。一方で、限定的なAIは飛躍的な進歩を遂げている。そこで、AGIを実現するための一つの提案として、 弱いAI の弱い...
-
メタバースが主流の社会では、外出の機会が極端に少なくなる。これによって、大きなダメージを受ける業界が出てくる。それは大雑把に観光業と交通・運輸業、飲食業である。観光にはゲームセンターや映画館、大型ショッピングモール、スポーツ関係なども含まれる。また、雨具の需要も減るだろう。 ...
0 件のコメント:
コメントを投稿