AIに常識を覚えこませる方法

アンソロピックが、生成AIを人間が制御できない可能性に触れ、一時的に開発を中止させる(という選択肢を提示する)、という事件があった。制御できないAIが人類を絶滅させたり、そこまで行かずとも大量虐殺したり、その他にも人類にとって好ましくない選択を行い、しかもそれを人間が止めることができない、という可能性だ。

そういうことをさせない方法は二つあって、一つは「制御できるように設計する」ということだ。これは従来からの考え方なのだが、AIが人類よりはるかに頭が良くなった時代には通用しないだろう。人間が思いもよらない方法でそれを迂回するだろうからだ。そこで考えるのがもう一つの方法であり、それはAIが人間の常識を守ることだ。倫理観と言っても良い。

実は、アンソロピックの「憲法AI」を始め、様々なAIには皆、その「人間の常識」を覚えこませる工夫が為されている。だがそれらは皆、多分に強制的であり不自然とも言える方法になっている。アンソロピックなどは、学習フェーズではAIが巧みにウソをつき、常識を覚えたと人間に誤解させる可能性に言及している。普通に学習をすれば自然と常識を覚えるものかと思っていたが、そうではないらしい。だが人間はそんなことをせずとも不通に常識を覚える。

そこで疑問に思ったのは、人間にできていることがAIでなぜできないのか、である。そして自分なりの結論が出た。それは「AIには淘汰がない」ということだ。

つまり、人間は大量にいて、もし誤った方向に思想が進んだとしたら、周囲からたしなめられたり、仲間外れにされたり、叱られたり、極端な場合は殺されたりする。一方、AIは最初から一つしかなく、周りの人はいないし、そもそも死ぬことはない。

淘汰があるということは、生き残るための条件が揃っているということだ。弱肉強食の世界ではその条件とは「強いこと」だろうが、人間の場合はそうではない。人間は社会的動物であるため、弱い人間でも社会の中で役割分担をすることで生きていける。それが適切にできていること、また多くの人に好かれ支持されることがその基本条件だ。そしてそれこそが「常識」と言えるのではないだろうか。

そこで考えたのだが、AIにも淘汰を入れたらどうだろうか。つまり、大量のAIをデジタルツイン上に生成し、ライフゲームの要領で淘汰していくのだ。そして生き残った者同士をまた集めて再び淘汰していく。こうすればAIにも常識が芽生えないだろうか。

ここでライフゲームについて解説しておくと、初期のコンピュータシミュレーションゲームの一つである。

https://ja.wikipedia.org/wiki/ライフゲーム

平面のマスの中に生命を配置し、一定のルールで増殖したり死滅したりすると定義しておくと、時間の経過とともに色々なパターンを描いてくれる、というものだ。

提案するものは、そのルールがはるかに複雑なものだ。その生命の一つ一つはAIであり、一人一人が個性を持っている。そしてAIが隣り合った時、相手を受け入れる(婚姻して子供を産む)、無視する、攻撃する、という選択肢があり、また生命力がゼロになると死ぬ。寿命もある。食べる必要があり、一方で食料を製造する能力もある。子供の頃は弱く、高齢者になるとまた弱くなる。要するに人間をシミュレートするものだ。

こういう世界を多数作ってやって、その世界が絶滅せず発達するならば、そのAIは常識を持っていると言えるはずだ。シミュレーションの精度が高いほど、より人間らしくなるだろう。

その中にはディストピアもユートピアはあるだろうが、絶滅しない限りは絶滅するよりもマシと言える。一見ユートピアに見えても突然絶滅することはあるだろうし、そうでなくても浮き沈みはあるだろう。それでも長く生き残ったものが勝ちだ。

最初に与えるAIのパラメータと複雑さによって、その世界の常識は変わる。必ずしも人間と同じになるとは限らないが、少なくとも社会性(助け合い)がないと社会は生き残れない。そして多分、AIが人智を超えるASIと呼ばれる存在になったとしても、ASI同士での淘汰は続くため、常識は揺るがないと考えられる。

そういう「社会の中で生き残っているAI」が集団として意思を示すのなら、それは「常識に則った判断」と言えるのではないか。そういうAIが、他のAIの監視役になってくれれば、暴走や人類絶滅の可能性を抑えてくれるだろう。