階層型人工知能モデル

機械学習が行き着くところはどこなのか、人間より頭がよい状態とはどんなことなのかを考えてみると、シンギュラリティ後の世界がそんなに明るいわけではないと思い始めている。

まず、機械学習の前提は、「正しいデータが大量にある」ことだ。ここでのデータは当然(少なくとも初期には)人間が用意したデータだ。学習には「教師なし学習」という種類のものもあるが、これにも更に二種類あって、出した結論に対して評価を与えるものと与えないものがある。後者、つまり本当に何も情報を与えなければ、その学習は「分類」しかできない(どちらがより良いか、などは分からない)。また、「正しい」というのは人間の価値感であるから、人によって異なるし、全部に対して多数決を取れば矛盾することも出てくるはずだ。(例えばじゃんけんのようにループする)

また、シンギュラリティ後は、「それらを学習した機械の結論データ」が従来の「正しいデータ」に紛れ込むことになる。それを区別するのは簡単ではないだろう。そうすると自分の結論がまた自分の入力になるので、間違った答があってもそこに突き進んでしまうことになる。更には、人工知能が出しうる「正しいと思われる結論」を、人間が網羅して調べることは困難だ。つまりチェックも出来ない。

現状の人工知能では、当分はこのような問題は出ない。その理由は、まだ結論データを再利用していないこと、命題が簡単であること、また結論をそのまま自動化などに直結させていないこと、などによる。これらの前提が崩れる前に、何らかの安全策を取り込んでおく必要がある。

それには大まかに二つの方向性がある。第一は、安全装置の類だ。人工知能が出した結論に対し、致命的なエラーを結果のみから検知して抑制する仕掛けである。但しこれは最後の砦であって、本質的な不安の解決にはならない。第二の方法こそが本命で、そのアーキテクチャに工夫を加え、全くのブラックボックスではなく、ある程度人間が理解できるようにモジュール化・階層化をすることだ。その各々に安全装置をかませるのが更に望ましい。

一つの大きな人工知能ではなく、小さな人工知能を多数作り、部分最適解を踏まえた上で上位で更に考える、というような構造にすれば、その判断過程が人間にも理解しやすいため、いち早く不具合に気付くことができる。尚、ここで言う階層化とは、多層ニューラルネットワークのことではなく、一つのまとまった人工知能を組み合わせることを指している。

工場の効率向上の例で言うなら、「労働環境向上」「残業時間低減」「短期売り上げ最大化」「作業効率向上」などと別々の視点から最適化を提言する人工知能の意見を聞いた上で、「社長」人工知能が結論を出す、といったものだ。各々の主張にトンデモなものが含まれていたら(労働基準法違反など)当然その人工知能は鍛え直されるし、もし個々の結論がまともなのに最終判断がおかしいときは社長人工知能が鍛え直される。

これを会社の組織と類似させてやると、各部各課は各々が持つ人工知能の結論チェックと修正を担当することとなり、大きな組織改革をせずとも済むだろう。