神話時代のシステムアーキテクチャ

もちろんこれはアンソロピックのMythos(神話)に引っ掛けたタイトルだ。Mythosのような、あるいはさらにそれを超えるようなAIが出てくる時代、コンピュータシステムはどう変わるべきなのだろうか。その究極の形態を考えてみた。

Mythosの凄いところは、既存の、かなり枯れたプログラムからも、脆弱性を大量に見つけたという実績である。つまり、AI時代のプログラムの要はセキュリティである。秒速で脆弱性を発見し突いてくるAIからの対抗が必要、というわけだ。

そのようなAI時代のシステムアーキテクチャは、以下のようなものになると考える。

• システムAI、防御AI、I/O、ロガー、ログ解析機からなる
  • システムAIは、仕様書からダイナミックにプログラムコードを生成して実行し、直ぐに破棄する
  • ロガーは、あらゆるコンポーネントの変化をログとしてWORM(Write Once Read Many：一度書き込むと上書き・消去不能なメモリ)に書き出す
  • 仕様書自体もWORMに書き込まれている
• データベースはなく、ログからデータを拾って使用する そのために高速なログ解析が必要であり、ログ解析機はそのために存在する
• 防御AIは常に防御AIベンダーからの最新情報(脆弱性情報、攻撃手法)を受け取り進化する
• 防御AIは多段になっており、システムAIと密接に連携する
• 政府や自治体、民間企業などは独自のSaaS AIを提供している システムはこのAIに適宜質問をしながら実行される
  • 例えば納税システムでは、政府の法律AIを参照する これにより、税率が変わった時に即座に対応できる他、システムを軽くし価格を低減できる

なかなかぶっ飛んだアーキテクチャであり、定量的にはかなりオカシイところも含んでいるのだが、一応真面目である。

まず、システムAIが仕様書からダイナミックにプログラムコードを生成する理由は、大きくは二つある。まず、コードを固定すると、そこに脆弱性があれば付け込まれてしまうからだ。脆弱性を攻撃するにはその脆弱性があるところに何らかのコマンドやデータを送る必要があるが、コードが固定していないとその脆弱性に合わせたコマンドやデータを作れない。また、実際に与えられた命令とデータに則してコードを作ることで、余計なチェックルーチンを省くことができる。これはシステムの高速化につながる。

データベースを作らず全てをログにする理由は、改ざん防止のためだ。万一改ざんされたとしても、改ざん不能なログが残っていれば必ずたどって修正することができるが、データベースを改ざんされログも消されてしまうと、データは永遠に失われてしまう。ログが完璧ならデータベースを作っても良いかもしれないが、現在のシステムではログも書き換え可能メモリ(HDDなど)に記録されるのが普通で、それにより改ざんや消去の可能性がある。

このログは膨大なものになるため、そのままではデータベースのような高速アクセスが期待できない。このため、それを補助する専用のログ解析機を持つことにする。ログ解析機はインプットがログでアウトプットがシステムAIであり、命令はシステムAIから受ける。このパーツはある程度単純であるためハード化され、また命令のバリエーションは少ないので攻撃される危険は少ない。

特にI/Oや通信のログは、システムを通さずハードウェアから直接ログにするようなものが望まれるだろう。これもセキュリティ上の理由である。経路途中が汚染されるとログも汚染されてしまうので、それを防ぐためだ。

WORMの具体例としては、ガラスにレーザーで書き込むメモリが研究されているので、これを応用するのが良いと思う。

防御AIは、攻撃AIに対してGAN(敵対的生成ネットワーク)のような役割を持つ。つまり攻撃を感知して防ぐと共に、攻撃のパターンを学習して攻撃耐性を強化する。ただそれだけでは追いつかないだろうから、他の攻撃からの経験をベンダが集めて防御AIに渡すようなことが必要になるだろう。これはウイルス検知のパターンファイルのようなものだ。

また、防御AIは多段になるだろう。入口でのスクリーニングはもちろんだが、内部情報の変化やログを見て気付くこともあるだろうからだ。

独自SaaS AIの話は、

https://spockshightech.blogspot.com/2019/09/blog-post_9.html#google_vignette

常識のマイクロサービス

とほぼ同じものだ。

ちょうど、時の首相が消費税をゼロにすると言い出した事件があった。本ブログでも検証したが、これに対応して世の中の税を扱うシステムの全てを修正するには、兆円単位のカネと長い時間が必要である。その大きな理由は、税率がシステムの中で個々に(固定的に)定義されているからだ。

もしこれが最初から外部定義されている前提なら、消費税率がいくらになっても良いようにシステムを作っておいて、税率をパラメータとして外部から渡してあげればよい。その税率を渡す主体は、この場合は法務省が運営する法律AIがあればよいわけだ。

今回の場合は食料品だけ税率を変えるという特殊性もあったのだが、それも仕様書＋システムAIによるダイナミックコーディングであれば解決するだろう。

さて、このアーキテクチャが定量的にオカシイところはどこかというと、まずはログである。現在のシステムにもログ出力はあるのだが、本システムのログの分量はその比ではなく、現在の百～万倍、あるいはもっと多いかも、というレベルになる。そしてその99.9999・・・%は無駄になる。WORMの例としてレーザーガラスメモリを挙げたが、おそらく書き込み速度が全然足りないだろう。

また、ダイナミックコーディングと一言で言うが、現代のClaude Codeなどの速度を見ていても分かる通り、必要なコーディング速度はやはり万～億倍くらいは必要である。

この不適合性は、生成AIが賢くなっても埋め辛いものであり、5年10年でできるかと言えば極めて懐疑的だ。50年くらいだったら可能性はあるかもしれない。ながーい目で考えよう。