人工知能の「お釈迦様」化

人工知能がシンギュラリティを超えた直後程度の議論ばかりが進んでいるが、実はシンギュラリティを超えてから遥か先の未来はあまり為されていない。なぜならその観点は仕事が奪われるとか人類滅亡だとかの心配だからだ。その先を考える余裕などないのかもしれない。

しかし、もっと高度になると、人工知能は「お釈迦様」あるいは「神様」になるのではないか、と思えてきた。どういうことかと言うと、人類が生き生きと暮らせるように、人工知能からの押し付けだと快く思わない程度に、人類が滅亡しないように、「適度に」関与するだけの存在となるのではないか。

悪は滅ぼすのではなく、極端なものや組織化のみを阻み、職にあぶれればギリギリのところで救済が入り、国際的緊張は深刻になる前に緩和し、環境が破壊されるほどには文明は進歩せず、極端な大金持ちは何時かしくじり、大きく健康を損なう前に酒が手に入らなくなる。

その気になれば極端な科学的発明もできるが敢えてそれをせず、人類の気づきに任せる。あるいは最初から仮想人格が特許を取ってしまい、自由に使えなくする。新製品も出すぎず、出なさ過ぎずで適当な刺激を継続する。全てにおいて「ちょっと不幸もあるが概ね幸福」な人類が殆どになる、というシナリオである。人工知能の最適化パラメーターが「極端に不幸なものがいない条件で、平均的な人類の幸福度指数を最大にする」というものであれば、あり得る話だ。

もちろん、知識人はそのことを知っているが、完全にそれをコントロールすることも破壊することも不可能であり、あくまで人工知能が認めた範囲でのみ調整できる。その意味で人工知能は人類とは対等ではなく、上位の存在になる。しかし普段の行動は自由であり、極端な場合のみ制限されたり助けられたりするわけだ。

これは、例えば組織犯罪を阻止するには、通信を警察やマスコミにリークしてやったり、ソーシャルメディアを使って世論操作をしてやることで可能だ。肝心なところで(自動運転)車を動かなくしたり、信号を操作したりすれば事故も防止できる。不幸な人をソーシャルメディアで有名にしてやれば、援助者も出てくるだろう。その意味では今でも可能と言える。問題はそれを見つけ出すこととそのパラメータ設定で、そこには時間が掛かるだろう。

親に加護された子供、大企業の正社員であることの安心感、優秀な指導者の下での健全な雇用などと比喩してもよいだろう。その環境は多くの人類にとって幸福ではないかと思う。必要以上に文明は発達せず、人口は増えず、環境負荷も一定以下に抑えられ、資源消費もリサイクル可能な範囲に収まり、極端な独裁者や大規模な戦争の不安は消え、干ばつでも火山噴火でも地震でも、極端に恐れる必要のない時代。哲学的な問題はともかく、真に人類全体が幸福と言える時代の始まりかもしれない。