世の中の話題はAGIを通り過ぎてASIに進んでいる。AGIがGeneral IntelligenceならASIはSuper Intelligence、即ち人類を遥かに超えた知性ということらしい。
2045年にシンギュラリティが起きると予測したのは、人工知能研究の世界的権威であるレイ・カーツワイル博士であり、これを「2045年問題」と言っている。だが現実にはもっと早く、2035年とか2030年とかに起きてもおかしくないと思い始めている。
ASIが実用化された際には何が起きるのだろうか、とAIに尋ねてみると、ASIが神様か悪魔かといった二元論的な結論しか出てこないので閉口した。まあ要するにディストピアとユートピアが結論になってしまうのだが、現実はそんなに単純ではないはずだ。
なぜそんな結論になってしまうのかと考えるに、ASIの知恵は人知が及ばないのだから何だってできてしまう、という至極単純な、脊髄反射的な思考に陥っているからだ。それはAIが悪いのではなく、世の中の多くの人もまた、その程度しか想像力が働いていないだからだろうと思う。そこで、AIを含め、ASIを買いかぶっている人たちが考えそうな未来について、現実的な側面から少し検証しておこうと思う。
まず、ASIはAGIの上位概念だが、明確な線引があるわけではない。また、ASIは世界に一つではなく、今でもCopilotとGeminiとPerprexity AIと・・・が並列に存在しているように、世界中に無数に発生し、相互に切磋琢磨して競い合うものだ。国家が機密として囲い、一般には触れさせないようなものでもない。今でも無料と有料では賢さが異なるが、これがそのまま並行して進んでいくものと思って良い。最上位のASIでも、数か月程度で一般人も触れるようになるだろう。その間に最上位は更に賢くなり、そのサイクルを繰り返していく。
次に、AGIよりASIが優れているであろう機能性能についてだが、同じ質問をしてもより深く高度に考えて結論を出してくれる点であろう。これは二通りほど考えられ、一つの方向性は、その予測や推測が正確になっていくところだ。地震予知が可能になるとか天気予報が確実になるとかだ。また、新たな政策の効果予測や受験の結果予測、あるいは物流の最適化なども考えられる。もちろん事実確認(ファクトチェック)のようなことは朝飯前だ。
AGIは、世論をそのまま鵜呑みにするのではなく、その論理構造や量的側面を分析して、専門家のように冷静な議論をすることができるだろう。そうすると、たとえば政策論議におけるウソが簡単にバレてしまうようなことも起きる。備蓄米の問題で言うと、最初に農水省が「コメは不足していない」と言ったら直ちにウソと断じ理由も付け加える、というようなことができる。国会中継をテレビで見て秒速で分析するような事態になれば、仇や疎かな発言はできなくなる。もっと言うと、ポジショントークを喝破したり、個人の発言の積み重ねから本人の思想信条を分析して、ウソを言うタイミングまで予想してしまうかもしれない。
もう一つは、人知では追えないほど大量の施策を積み上げて目的を達成することが可能になることだ。たとえば会社の業績を上げるために、大量の人事異動を一斉に行い、各人の仕事をこと細かく指示し、フォローもAIが担当する、などが考えられる。戦争で言うなら、戦士一人ひとりのインカムに、各々異なる指示を直接、秒速で出し続けることで、少数の戦力で最大限の成果を得る、というようなものだ。
この二つを組み合わせると、組織の意思決定とその実行をAIに完全に任せることで、飛躍的な成績を上げることができるだろう。ただしその際の前提をしっかり作っておかないと、特定のところに極端なしわ寄せを作る場合があるので、事前の検証は十分に必要だ。
またこれは、個人の成長や成功にも結びつけることができる。星新一のショートショート「はい」にあったように、人間一人ひとりにインカムをつけさせてその指示通りに動かす、ということも考えられるだろう。
これらを非常に大雑把にまとめると、それは「最適化」である。目標は個々に定めるとしても、やっていることは目標に対する最適化に他ならない。だがもちろん、ASIは世界中に多数あるため、企業同士国同士などではASI同士の競争が起こり、勝ったり負けたりするだろう。企業と国、国同士などでも同じ葛藤があり、初期にはその歯車が噛み合わずに物価が高騰したり戦争が起きたりと不具合も生じるかもしれない。ただそれも適宜修正され、収束していくものと考える。
次に、巷で言われている予想への反論、ないしは指摘をしておきたい。
- ASIには無限の可能性がある
- 子供には無限の可能性がある。それと同じく象徴的な言葉としては良いのだが、現実にはASIとて限界がある。たとえば、いくら頭が良くても無限の資源を提供することはできないし、一定以上の社会の効率化だってできるはずはないのだ。つまり、ASI以外のファクターが足かせになって、進化はどこかで鈍化ないしは停止する。その「どこか」も、想像できないほど離れた地点ではない。
- 地球環境保護のために人類を絶滅させる等といった極端に走る可能性
- ASIはAGIの延長として作られるし、AGIは今のAIの延長として考えられている。その過程でそういった基本倫理や安全装置は当然組み込まれるはずである。映画でよくあるような完全自動にするなど、ありえない話だ。また、その安全装置をAIが回避するという描写もあるが、そんな回避はできないように作るのが安全装置である。
- 一部の国が倫理を抑えた極端なASIを使って世界制覇を企む、戦争の自動化によって些細なきっかけから世界大戦が起こり、世界が破滅する
- ASIは他国も当然開発している。だから一部の国が暴走したとしても、そういうときは他国が抑えてくれるはずだ。圧倒的に他国のほうが資源は多いのだから、その世界制覇は成功しないだろう。
- また当然、戦争の無制限な自動化などあり得ないことだ。そういう危険があるからこそ、安全装置は必ず組み込まれる。そして一部の国でそれが突破されたとしても、独立した他の国のASIまで含めて皆突破されるということはあり得ない。
- ASIを擁する国が栄え、世界的な経済格差が拡大する
- 初期の格差が圧倒的で素早かったら、そういうシナリオは考えられる。それが独裁国家であればなおのことだ。先進国と新興国の差は近年縮まってきたが、ASIをきっかけに再びそれが拡大する可能性はあると言える。ただそれすらも一時的なことで、やがて格差拡大は収束していく。むしろ現在よりも縮小する可能性がある。
- 先進国はASIで社会を最適化するだろうが、最適化が完了してしまえばそれ以上の最適化はできなくなる。そして新興国もやはりASIを使って社会を最適化してくるだろう。そうすれば新興国は先進国と変わらない効率化ができる。
- なぜこう言えるかというと、無限の最適化などは所詮不可能だからだ。ある程度以上の知恵は、あっても応用の場が無いのである。例えば、セールスマン巡回問題において、どんなASIであっても最適解以上の解は絶対に出せない一方、漸次最適解と最適解の差はほとんど無い。だから、新興国のASIがある程度以上賢くなれば、先進国の超絶ASIと土俵は同じになってしまうのである。
- 人間は労働しなくてよくなる、全てAI(ロボット)がやってくれる
- これも誤りである。まずAIができる仕事はオンラインで完結する仕事のみであり、これは先進国でもせいぜい全人口の30％程度しかない。農業漁業はもちろんだが、サービス業でも人間による対面が要求される業務は多くあるからだ。
- ではこれがロボットに成り代わるかというと、業種的には7割8割ということは可能だろうが、今度は資源の問題が出てくる。つまり、ロボットを作るには、大量のコンピュータや鉄、銅、プラスチック、またバッテリ材料となる希少金属などが必要であり、地球環境の中で全人類に奉仕できるだけの数のロボットを作るのはそもそも不可能なのだ。計算にもよるだろうが、全人類の数％が限度、という試算もある。ほとんどの人類にとって、労働がロボットに成り代わるというのは永遠の夢でしかない。
- 「幼年期の終わり」が起きる
- 「幼年期の終わり」とは、SF作家のアーサー・C・クラーク氏が1953年に発表したSF小説だ。人類が超人類に進化していく過程を描いたものだが、その過程で超人類は人類には理解しがたい行動を取り始める。つまり、ASI及びそれを駆使する極端に頭の良い人類が、そうではない普通の人類にとっては理解できない行動を取り始める、という予測である。
- 前に論じた通り、ASIの本領は最適化であり、現在レベルの最適化とASIの最適化が何百倍も違うというのは考えにくい。そしてそのやり方が少々奇妙に思える場面もあるだろうが、理解しがたい行動というところまで奇異なものにはならないはずだ。
ここで、一つの疑問が出てくる。SFの一派あるいは科学者の仮説の一派として、「決定論」がある。つまり、「世の中は偶然が重なって進んでいくので予測は不可能」という非決定論に対し、「世の中で将来に起こることは現時点での状態によって決まるのであって、つまりは事前に完璧な予測が可能」というものだ。ASIはこの仮説に、ある程度の回答を出してくれるかもしれない。
決定論に対する反論としてよく挙げられるのは、ハイゼンベルグの不確定性原理だ。だがこれはあくまでも素粒子レベルの話であって、よく考えてみれば社会の動きの不確定性に直接結びつくものではない。経済学は学問といえるのか(あまりにもハズレが多い)という疑問もあるのだが、それはあまりにも社会が複雑だからであって、つまり人間の頭が追いついていないだけだ、とも考えられる。ASIはその仮説を検証してくれるのだ。
つまり、ASIによる予測の精度がどんどん高度で精密になっていくに連れ、「決定論は正しい」という結論が出るかもしれない。逆に、ASIが高度になっても予測の精度があまり上がらなければ、非決定論ないしはカオス理論が正しいと言えるかもしれない。ただ、当面は精度が上がる方向に推移することは間違いないので、精度がどこで止まるか、がその判定のカギになる。
実際のところ、この結果を予測するのは困難だが、個人的には後者、すなわち「限度あり」を推したい。天気予報は正確になるが、戦争はなくならず、国際的な貧富の差も、縮みこそすれ、無くなることはないと考える。
ASIは自国の最適化は行うだろうが、世界の最適化は行えない。なぜなら国同士の協力には(人間の)為政者と国民感情の限度があるからだ。たとえばサウジアラビアの砂漠に太陽電池を敷き詰めると世界中の電力が供給可能なのだが、それに掛かる費用の分担をどうするか、戦争になったときの補償は、ということをいくらASIが考えても、それを承認するのは人間だ。人間同士のエゴがあるかぎり、人間に支配されているASIはそれに従うしかない。その点、検証が最後までできない、という可能性もある。
また、ASIを戦争に使うためには、どうしても「自国の国民・資産＞想定敵国の国民・資産」、また「世界全体の益＞自国の益」といった優先度を設定する必要があるだろう。だがASIはそれを是とするだろうか。またその程度をどう考えるべきか。これも興味ある課題だ。
