脆弱性発振

ClaudeのMythosが話題になっている。あまりにも賢すぎるので、ソフトウェアの脆弱性をかつてないほど高速に見つけてしまい、パッチが追い付かなくなる、それがあまりにも危険なので一般公開しない(できない)、というものだそうだ。

ここから派生して色々考えていたのだが、そういう時代になると題記の「脆弱性発振」が起きる可能性があるのではないか、というのが本稿の主旨である。

「脆弱性発振」というのは私の造語であるが、もしかするとコンピュータ工学などでは似たような意味の用語は既にあるかもしれない。その意味は、「ある脆弱性を修正することで別の脆弱性が発生し、それが発散し、回り回って元の脆弱性に戻ってしまう」ということである。

分かりやすく言うと、将棋の千日手である。ただ実際にはもっと複雑で、システムのあちこちで不具合と修正が拡散し、全体としては次第に大きな波になって、最後には破綻してしまう、というようなことが起きるのではないだろうか。

単純な例で言うと、大型飛行機やヘリコプターの操縦がある。これら重く大きい航空機は、操縦桿を操作しても直ぐには曲がらず、遅延して曲がる。なのでそれをあらかじめ見越して操縦桿を先に戻し、更には反対側に操作し、また正位置に戻す、ということをやってやらないといけない。このタイミングを誤ると、右に行き過ぎて左に戻し、今度は左に行き過ぎて右に戻し、ということを繰り返しながらだんだん振幅が大きくなっていき、最後には制御不能になって墜落してしまう。

航空機の場合は左右といった単純な発振だが、巨大なコンピュータシステムではあらゆるサブシステムが同時に別の周期で発振し、制御不能になって破綻する、というようなことが考えられるわけだ。

この発想は、Mythosがないと起きない概念ではない。だが、高速にバグを発見し直ちに修正するようなシステムが常駐してしまうと、全体のバランスを考えずに即座に修正することで、かえって発振を促す危険があり、だからといっていつまでも修正しないわけにもいかないので、カオス状態になってしまうのだ。

また、世界がコンピュータで繋がる時代になると、この脆弱性発見・自動修正の仕掛けは世界規模になり、自分及び自分の国では制御できないような巨大な発振になる恐れがある。

通常の波では転覆しない豪華客船でも、三角波と言われる「波と波が(偶然)重なった巨大な波」にはあっけなくひっくり返ってしまう。それと同じように、コンピュータシステムがこの発振によって一気に破綻するという可能性は存在する、と思うのだ。

脆弱性発振から逃れる方法は、素直に考えれば二つだけであり、それは脆弱性の自動検知・自動修正プログラムを停止させることとネットワーク遮断である。後者は外部から使用不可能になるので事実上は前者一択となる。だがこの場合、脆弱性が放置されるため、そこは覚悟する必要がある。もちろん「完璧な脆弱性制御」は第三の方法なのだが、正解は必ずあるとは限らない。

とまあ脅しはしたけれども、ここまでの発想はJust Ideaであり、計算機工学的な裏付けはない。ぜひ専門家の意見を聞いてみたいものだと思う。