論理とAIの融合方法について

ΣやらPrologやらが流行った前回のAIブームのとき、論理は絶対だったわけだが、その論理が膨大になるにつれ、細かい場合分けの組み合わせ爆発が人知を超えた結果、破綻した。今のAIブームでは組み合わせ爆発はないが、逆に言うと絶対の論理がない。

仕様書を読み込ませれば云々、というのは究極のプログラミングであるが、その仕様書には曖昧さがあったり、常識を背景とした記述の省略があったりする。このため、AIにも仕様書を読み込ませてちゃっちゃとやってよ、ということは無理だ。しかし、ごく簡単なルールであれば、ルールそのものを読み込ませた方が簡単だろう、というのは直感として分かる。例えば、強化学習と教師付き学習のハイブリッドのようなものがあれば面白いだろうとは思う。

しかし世の中、本当にそのルールが絶対かと言えば意外とそうでもない。例えば人を殺してはいけない、というのは正しいが、正当防衛は多くの場合許されており、その条件は曖昧だ。死刑制度がまだ残っている国もある。戦争ではむしろ賞賛される。いやいや、例外を記述すりゃ良いでしょ、と言われれば、では独裁者はどうなの、とか、クーデターはどうなの、ということも言える。本当に100%正しいルールは、数学と物理法則くらいのものではないだろうか。

上の、強化学習と教師付き学習のハイブリッドにおいて、強化学習における「ゲームのルール」は絶対なわけだ。システム構成もそのように作るだろう。ゲームはそれでよいが、例えば法律の適用とした途端にもうそれは通用しなくなる。これはシステム構成にも影響を与える。強い教師付き学習が強化学習の基本ルールを超えることは許されるわけだ。
これは、例えば将棋のAIなら、王が成ることはあり得ないわけだが、きわめて限定的な状況では王は成ってよい、という結論が出せるAI、ということになる。ゲームでは笑い話だが、現実の世界では珍しいことではない。

ルールを与えられた上で、普段はこれを守るが、いざというときはルールを書き換えることが可能なAI、ルールを破るAI、ここまでができてこそ人間を超えられるというものだろう。

以前、AIの階層化によってそういった常識を取り入れたり、ルールから学習データを自動生成して大量に覚えこませることで、ルールを重要視するAIを提案したりしている。これが初期アーキテクチャになるのだろうが、これだと逆にルールが学習データとして埋もれてしまい、ライブラリ化ができなかったりと弊害もある。もっと上手いアーキテクチャがないものだろうか、色々と思案中だが、今のところ名案はない。