Really Intelligent Agent

IntelのOpenVINO、OpenCVのデモを見ていて思ったのは、学習済みで新たに学習の必要がないAIって、単なるライブラリに過ぎないよねー、という(いわば当たり前の)ことだった。AIはバズワードにはならず、常識として既存のアプリの中に溶け込んでいっている。

AIの一つの用途は現状認識の高度化だった。つまり、画像に人物が映っているかどうか、それが誰か、などだ。そこから何をするかはまた別の話である(そこにAIがいることもあるしいないこともある)。これだけにAIを使っても、そこそこ業務改革は続くだろう。しかしこれではちょっともったいない。

優秀な社員とそうでない社員の一つの違いは、気付きとおせっかいだ。言われたことを忠実にこなすだけでは、まだ一流ではない。顧客(上長、仕事の指示者)の意図を見抜き、与えられた情報をより詳細に見て、より高度なことができることが、一流の条件だろう。

これには二つの側面がある。まず気付き。例えば、「怪しい人物を見つけて通報する」というシステムがあったとする。この「怪しい」の定義は、学習済みAIには既に与えられている。しかしその定義は、当然プログラマや学習結果のレベルに依存していて、精度も固定されている。

これに対し、例えば別の目的のAIの学習結果を突き合わせて精度を上げることが考えられたとしよう。例えば病院のAIと突き合わせて、具合の悪い人や特定の性癖の人を除くようにすれば精度が上がるだろう。

これは、学習済みAIにおいては、開発元が思いついてプログラミングし直す、学習し直すことによってのみ実現できる。しかしAIに最初からその機能があれば嬉しいはずだ。

もう一つのおせっかいも同じだ。上の例で言えば、目的は怪しい人の抽出なのだが、具合が悪い人は別の意味で抽出すべきだろう。その時、新たに抽出時の属性を増やす必要がある。「指名手配」「スリ」「痴漢」等の他に、「具合が悪い」を付け加える、という具合だ。

しかし、通報先が誰かによっては、その判断は「余計なお世話」にもなり得る。単純に「これをしてやれば、より良い結果になる」とは限らない。これもAIが判断してくれたら嬉しいだろう。

こういった「高度なこと」をするためには、「業務に必要なデータ」以外のデータまで入力する必要がある。そして命令も、「その意図」まで入力しなければ判断できない。これは、単純なプログラムライブラリやファンクションではそもそも不可能だ。

ではその情報はどこから取ってくるべきなのだろう。与えられた画像データから認識できる情報はいろいろあるが、それだけで足りるとは限らない。人間が仕事をする場合には、この手法は主に二つある。

ひとつは、その人がその指示を受ける以前に行ってきたあらゆる業務や、それに限らない一般的な知識や体験の全てである。そしてもうひとつは、まだ知らない知識や興味に対してアクティブに動く、つまり調べることだ。

そのためには当然、権限や記憶を豊富に与えてやらなければならないし、一方でその情報の扱いについては配慮が必要である。人間なら「常識」「学習」「地頭」などがあるけれども、今のAIにはないから、アーキテクチャから構築してやらなければならない。

例えば単純にプログラムしてしまうと、際限なく学習を始めて破綻したり、セキュリティ上の問題を引き起こしてしまうかも知れない。叛乱する人工知能にだってなりかねない。抑制の方法含め、色々考えなければならないはずだ。

今でも知的エージェント(Intelligent Agent)という言葉はあるらしいが、上の概念にはまだ届いていない。そこまでできたAIを目指すのは当然だが、一方で叛乱の恐ろしさも現実味を増すわけだ。まだぜんぜん先は分からないけれども、見たい気と見たくない気と、両方の感情が葛藤している。