あちらを立てれば

AIが多要素の相互関連性を次々に明らかにしていくに従って、新たな問題が発生するものと思われる。それは、「あちらを立てればこちらが立たず」問題だ。

ある指標(KPI)を向上させるためには別の指標が下がらざるを得ない、しかし下がる方はそれではたまったものではないからそれを阻止しようとする、という問題だ。しかもこれは単純な１対１ではなく、多対多の関係になる。これが行き過ぎると、一見全然関係ないところに、極端に大きなしわ寄せがいきなり訪れる、ということもあり得る。

天気予報の精度が上がると傘の売り上げが減る、というのは割と分かりやすいが、要は今までバッファになっていたところが減れば、そこの売上げは減るわけだ。これが単純な関係。こんなことが二段階、三段階と増えていけば、収拾がつかなくなること請け合いだ。しかも、AIを以ってしても全てを最適化することは不可能だ。

ここには二つの視点がある。一つはそれらのノード(個別のKPI) の視点。もう一つは全体最適化(例えば国、自治体)の視点だ。個々の企業が儲けようとすれば別の企業が損をする、だから各々が自分の利益を拡大しようとする一方、全体としてみればそれが悪い方向(環境破壊や高齢化など)に進まないように調整する必要が出る。

例えば、ライバル会社同士が生産調整をすることなど考えられるだろうか。これと談合はどう違うのだろう。親会社と子会社、組み立て会社と部品会社の関係は。製品の価格が安くなればゴミが増えて、移動が楽になれば石油の消費が増えて、環境問題になるのをどうするのか。工場と一般家庭での規制の比率をどうするのか。先進国と新興国の経済格差はどの程度を許容するのか。

AIは命題を与えられればどちらにも最適化できる。後は人間がどう思うか、だ。Society 5.0の話が出てきたとき、この問題はどうするのだろうとずっと思っていたが、どうやら誰も考えていないようだ。AIが本格的に普及する前に、ちゃんと議論しておくべきだと思うのだが。