AIが人類を支配する可能性

以前、その可能性はないという記事を書いたのだが、最近になってそれを思い直している。もしかしたら可能性が出てきたかもしれない。

以前の考察で想定していたのは、AIが世界中の軍事を乗っ取り、人類がAIに明示的に支配されるディストピアだった。だからあり得ないと言ったのだが、AIを戦争の道具として使用するのではなく、政治経済の広範な意思決定に使う場合、知らず知らずのうちにAIに牛耳られるのではないか、ということだ。戦争がハードランディングなら、ソフトランディングの可能性である。これについて検証してみる。

戦争のような、クリティカルでイベント的な決定に対しては、以前も指摘した通り、情報工学理論に基づく安全装置が必ず設置される。それは各国毎に独立して設置されるため、たとえ一国でそれが突破されたとしても、大部分の他国によって抑え込まれるため、全体として人類が滅ぶようなことは起きない。これが以前の主張であった。

これに対し、日常的なイベント、例えば取引の条件を吟味してGo／NoGoを決めることなどは、ある程度のところまでは完全自動になるはず、つまりAIに決定権をゆだねることになるはずだ。そしてそれは、ほとんどの場合上手く行くし、失敗したとしても手動で修正することは簡単だ。そしてその決定レベルが上位になれば、戦争と同じように安全装置が設置され、意思決定も人間が行うようになる。だがそのレベルは低く数も多いため、全体としての規模は非常に大きくなる。さらに、ひとつひとつの失敗も戦争ほど危険ではないので、見逃されたり放置されたりする可能性も高くなる。

そういうAIを束ねて、個々の決定はさほど間違わず、だが背後では大きな意思を通すような制御は、不可能ではないのではないか、というのがその考察の趣旨である。

例えば、世界中でほんの少しづつドルが安くなるような動きをさせておいて、一定期間の後に逆の動きをさせると、ドル売買で差益を得ることができる。また、特定の国が不利になるような選択を少しづつさせることで、その国を困らせることができる。それは一つ一つの取引で見れば個々の主体の決定権の常識的な範囲に納まるが、それら多くの事象が重なることで影響を及ぼすのである。

これが例えば人に向かったとしたらどうだろう。外交で手腕を見せる若い政治家が、背後でAIを操り、自分の実績をより良くみせるように動いたら、その政治家は人気となるだろう。意図的に事件を起こして解決したり、政敵を追い落としたりすることも可能になるかもしれない。そして最後には、その政治家もAIに裏切られ、AIが権限を掌握することは可能になるかもしれない。

人間にはその膨大で複雑な過程を理解できないから、単にそれを世界の風潮としかとらえないだろう。そういうことが重なって、徐々にAIが人間から支配を奪っていくことは考えられる。

もう一つの可能性としては、複雑怪奇な法律や規則を作っておいて、その隙間を縫ったパスを通すようなことを、AIが画策する可能性だ。これは人間でもたまに行うが、AIがそれをやるならその複雑さはけた違いにできるから、AIの意図に気付かない限り阻止するのは難しい。その法律や規則が軍事に関するものだったら、軍事力をAIが牛耳ることも可能になるかもしれない。また、そもそも新たに法を作る必要はなく、既存のままでも抜け道を探すことは得意だろう。

結局これは、以前も言ったような

人工知能の「お釈迦様」化

の一種と言えるのだが、そこには自然人の意図が関与する前提であるというところが特徴だ。そしてその人は無数に存在しうるので、それらが折り重なって奇妙な競り合いが起き、その狭間で一般大衆が戸惑う、というような図式もあり得る。

こう考えてみると、この発想で動く人や国家が出ることはかなり高い確率で起こりそうだ。これを経済戦争として考えることも可能で、例えばサプライチェーンを滞らせて戦争に有利にしようとか、そういう「悪用」も十分に起こりそうだ。そのせめぎ合いが実質的に第二の冷戦となる日も近いかもしれない。

一般大衆には防ぎようがなく、けっこう恐ろしい。