2018年4月25日水曜日
AIの三階層アーキテクチャ
シンギュラリティ後のAIは何処に行くのかは興味があるところなのだが、そもそも無目的にAIを作る人間は居ないはずだから、何らかの仕事をしようとするはずだ。そしてそこにはライバルがいるから、AI同士の競争になり、そこで勝つために、AIそのものではなくその指示者である人間を殺そうとする、などというような段階になるのだろう。
これはもちろん防がなければならない。一方で、以前「ご隠居AIとお局AI 」で提案したように、緩いルールも考えられる。例えば、ある新興国では実は賄賂の習慣があって、法は絶対ではない、ということも考えられるからだ。
シンギュラリティ後のAIは、三階層のアーキテクチャが必要になる。第一階層は絶対守るルール。第二階層は緩いルール(パラメータ間の優先度など)。第三階層は、目的量の最大化をする、本来の意味でのAIだ。これはこれからのAIの基本アーキテクチャとして定着するべきと考える。
第一階層、第二階層には、第三階層の結論を評価する仕掛けがあって、それが各々の階層の条件を満たしているかどうかを判定する。第一階層はYes/Noであり、第二階層はアナログ値(0~1)となる。第一階層がYesである条件で、第三階層は多数の提案を行い、それと第二階層とのマトリクスが形成される。
そのマトリクスを見て、必要なら各々をドリルダウンして分析し、経営者がどれを選ぶか判断する、というのが基本的な手順になる。
ただ、概念的にはともかく、実装は難しい。まず第一の階層。ここは言わばチェスのルールなのだが、大きな問題が二つある。第一は、チェスのように明確な指示ができないところだ。「人を殺してはいけない」だけではない、様々なルールを明文化して書かなければならない。それも人間のルールを応用するのではダメで、AI向きに書き直さなければならない。
例えば、人を殺したら死刑または無期懲役または懲役云々、というのは、こうしたらこうなる、というルールである。だから、例えば詐欺をしても罰金より儲かれば可、などという判断をしかねない。法ギリギリの不誠実な方法もダメだろう。
二つ目は、そのルールをAIが認識できたとしても、何をしたらそのルールを破ったことになるのかが明確にならなければならない。例えば「人を殺してはならない」ことが分かったとしても、飛行機のオートパイロットを弄るのと大量の失業者を生み出すこととのどちらが人を殺すことになるのかは明確ではない。それをAIが知覚できなければ、ルールを守ろうにも守りようがない。
「人間が確認した後に実行する」では足りない。そのうち作業が複雑になって人が理解不可能になったり、判断すべきことが膨大になって面倒になって放置する、といったことが起こるのは明白だ。
更には、最終的にはこのルール遵守は法で強制しなければならず、対応できているかどうかは確認可能でなければならない。国の審査対応APIのようなものができて、オンラインで監査できるような仕掛けが必要であり、監査対象のAIは大手企業しか作れない、などとなる。
このアーキテクチャの実現は相当困難なので、初期には法で強制するところは飛ばして、また汎用ではなく特定目的に限って適用されることになる。それは、その時点(技術レベル)において、ルールとその確認手段が明確に判断できるものに限って適用される、という形になる。
こう見ると、AGIの安全装置的なシステムの実現はまだ先が長いと言える。シンギュラリティが安全装置の開発より先に来てしまう可能性は十分にあり、ここの早急な理論構築と開発や義務化が期待される。
登録:
コメントの投稿 (Atom)
注目の投稿:
富士山噴火への備え・再考
以前にも https://spockshightech.blogspot.com/2017/10/blog-post_2.html という投稿をしたことがあるのだが、もう少し状況を詳しく知ることができないか、調べてみた。 首都圏の対策としては、『首都圏における広域降灰対策...
.jpg)
人気の投稿:
-
「人はなぜ悪に憧れるのか」と「人はなぜ正義に憧れるのか」をGoogle検索してみたところ、前者は素直にヒットするのに後者はひねくれたサイトしかヒットしなかった。どうやら人は悪に憧れているようだ。 前者のサイトを読んでいると、様々な解釈が出てきて面白い。だが、検索前に自分...
-
3.11で原発の危険を甘く見ていたように、次は噴火を甘く見ていたと後悔するかもしれない。今の知識を振り返ってみる。 過去の富士山噴火の規模を見ると、溶岩や噴石などの被害はもちろん近隣で発生するとして、広範囲に火山灰が積もる。予測によれば、関東でも数cmは積もる。この量で...
-
年金の制度を調べていて、なんと複雑で面倒なことかと辟易した。今ちょうど年金改革がされているけれども、現行のシステムを複雑にしているだけだ。年金に限らず、様々な社会保障制度が別の名前で呼ばれ、申請方法も異なり、審査も給付も別。ファイナンシャルプランナーや税理士、公認会計士などが必要...
-
一国における貧富の差が余りにも拡大して手が付けられなくなった時に、第二の通貨を発動する、という手が考えられる。お互いの使い方や交換に制限を掛けてやることで、第二通貨が貧乏人の間で主に廻るようにして、独立した(仮想的な)経済圏を作ってやるのがこの目的だ。 低所得層は第二通...
-
Googleがローカルニュース記事を作成するソフトウェア開発に資金を提供した 記事を見ていると窮余の策にも見えるのだが、考えてみるとむしろ好ましいのかもしれない。今まで、ローカルニュースは地方紙の領分であり、全国紙ではローカルニュースは1ページとか、ごく少数しかなかった...
-
ディーン・ケーメン氏が発明した浄水器「 スリングショット 」の原理は、いわゆる蒸留である。つまり水を沸騰させて水蒸気にした後、冷やして水に戻す。汚水と蒸留水の間で熱交換を行うことで効率を上げている。 日本では、防災用の浄水器としては中空糸膜や逆浸透膜が殆どだ。これと蒸留式には...
-
FacebookのAIが、英語を使いながらも人間に理解できない文法でしゃべりだし、そのAIが停止された、と言う話が話題になった。その会話を実際に見てみたが、確かに気持ち悪い。この気持ち悪さ、どこかで感じたことがある、と思って思い出してみたら、眉村卓の小説に度々出てくる「産業...
-
世の中の話題はAGIを通り過ぎてASIに進んでいる。AGIがGeneral IntelligenceならASIはSuper Intelligence、即ち人類を遥かに超えた知性ということらしい。 2045年にシンギュラリティが起きると予測したのは、人工知能研究の世界的権威であ...
-
以前にも https://spockshightech.blogspot.com/2017/10/blog-post_2.html という投稿をしたことがあるのだが、もう少し状況を詳しく知ることができないか、調べてみた。 首都圏の対策としては、『首都圏における広域降灰対策...
-
2025年7月30日、ロシアのカムチャツカ半島沖で地震が発生し、日本の太平洋側の広い範囲で津波警報、津波注意報が発令された。最大予測は警報地域で3m、注意報地域で1mだった。 電車は止まったところもそうでなかったところもあったが、都心で避難した人は皆無だった。警報が出てから半...
0 件のコメント:
コメントを投稿