2017年11月30日木曜日
AIセーフティ設計
いつの間にか、自動車はコンピュータだらけになっている。このため、車のクラックという新たな脅威が発生している。鍵を開けられたなんてことはまだカワイイほうで、高速度運転中に急ハンドルするようなことも、理論的には可能だ。
自動車の場合、制御を奪われることは命の危険があるから、話は深刻である。物理的、理論的に様々な対策がされているにしても、対策には対策がある。今のコンピュータでもいたちごっこが続いているから、ある時点で相手が強くなる可能性は否定できない。
自動車はまだ物理的な存在であるから、物理的にエンジンと車軸を切り離すとか、「ケーブルを切る」ようなセーフティを付けることは可能だ。工業機械によくあるような「緊急停止ボタン」を付けることも考えられるだろう。それはそれとして、肝心のコンピュータセキュリティをどう向上させればよいのか。
自動車の場合、一般のサーバシステムと違ってリアルタイム且つ分散制御であり、アーキテクチャはかなり異なる。また自動車の型や規模によっても違う。技術者の市場規模は小さい。そんな中で、自動車ベンダが脅威と感じるのは、高度な知識を擁するクラッカーだろうか。それともAIだろうか。
自動車を1台買ってきて、これにAIを繋いで、「自動車の制御を乗っ取れたら勝ち」というゲームを強化学習させる、そんな時代がくるかも知れない。例えば、ハンドルを右に10°、左に10°を2秒サイクルで3回切れれば勝ち、とか、走行状態でエンジンを停止できたら勝ち、などだ。
これは自動車にとってはかなりの脅威ではないか。なぜなら、自動車はほとんどの時間オフラインだし、アップデートが頻繁にあるわけでもない。OSのように毎月パッチが配布されるようなものでもない。一方で攻撃は何時起こるかわからないからだ。
そこで考えるのが、自動車側にもAIを搭載し、「乗っ取られたら負け」「防御できたら勝ち」のゲームを強化学習させる、つまりAI同士の対決をさせるシステムだ。この場合、攻撃側AIももちろん自動車側が準備する。
この場合、「ハンドルを2秒サイクルで2回左右に10°切られたら三度目を阻止する」というものであってはならない。結果としてそうなってしまえばもちろん負けだが、阻止自体は不正な通信であることを見抜く必要がある。そうでなければ、独立したセンサを付けて非常スイッチにつなげれば実現できてしまう。
AlphaGoZeroと違って対等の勝負ではないから、学習環境には少し工夫が必要である。恐らくは勝敗判定マシンが別途必要であろうし、受け側(自動車側)の学習の効率は極めて悪いだろう。全自動ではできず、人手が必要になるかもしれない。
それでもこれを進めていくことでお互いが切磋琢磨し、脆弱性はどんどん塞がれていく。そして外部コンピュータ側の負荷ないしは通信量が一定以上になったら、つまり攻撃側のコストが見合わなくなったら、セーフティは一応完璧になったと言えるだろう。
なお、この手法は、自動車に限らずあらゆるコンピュータシステムに適用可能と思われる。小さい制御システムから始め、他のインフラにも適用される時がくるだろう。
登録:
コメントの投稿 (Atom)
注目の投稿:
国民生活補償制度
年金の制度を調べていて、なんと複雑で面倒なことかと辟易した。今ちょうど年金改革がされているけれども、現行のシステムを複雑にしているだけだ。年金に限らず、様々な社会保障制度が別の名前で呼ばれ、申請方法も異なり、審査も給付も別。ファイナンシャルプランナーや税理士、公認会計士などが必要...

人気の投稿:
-
「人はなぜ悪に憧れるのか」と「人はなぜ正義に憧れるのか」をGoogle検索してみたところ、前者は素直にヒットするのに後者はひねくれたサイトしかヒットしなかった。どうやら人は悪に憧れているようだ。 前者のサイトを読んでいると、様々な解釈が出てきて面白い。だが、検索前に自分...
-
「生成AIはミーハーである」の回でも少し触れたのだが、生成AIの回答は一次的には誤っていることが多い。それを指摘してAIが回答を修正していく様を見て楽しむ、というのが最近のマイブームだ。 どういう指摘をしているのか、と自己分析してみると、興味深いことに陰謀論者との議論とあま...
-
近年の世界的な右傾化、自国第一主義化について、その原因を生成AIと討論しながら考えた結果、そういう結論に達した、というお話。 まずトランプが未だに支持されている理由について議論したのだが、その理由はアメリカ白人低学歴層の貧困化だという。この白人貧困層は、人数的には数千万人と規...
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
実は前日に書いているのでたぶん、だけれども、「 たつき諒の予言は外れる、という私の予言 」は当たった。 ただこの間、トカラ列島で群発地震が起こり、最大震度6弱が1回、5強・5弱も複数回発生した。 トカラ列島で最大震度6弱含む1700回超の群発地震 収束見通せず今後も警戒が必要(S...
-
電子ペーパーを有し、360°回転できるキーボードを備える、Android端末が欲しい。画面サイズはB5くらいがよい。12型くらいか。重さはできるだけ軽く、できれば350g以下、せめて500g程度に。また、電磁ペンを内蔵してほしい。 この端末の用途はアイデア等のメモと...
-
世の中の話題はAGIを通り過ぎてASIに進んでいる。AGIがGeneral IntelligenceならASIはSuper Intelligence、即ち人類を遥かに超えた知性ということらしい。 2045年にシンギュラリティが起きると予測したのは、人工知能研究の世界的権威であ...
-
電気が止まった時、明かりや暖を取る、あるいは調理のために必要なのが、火だ。カセットコンロを持っている家も多いと思うが、カセットガスを大量に保存するのは躊躇する人も多いのではないか。ガソリンも灯油も同様だ。また、単に漏れるのも心配だが、これらは何れも経年劣化するから、大量に持...
-
映画と言えば、今でも娯楽のジャンルの一つとして確立したものではあるが、近年では衰退の兆しがある。そのたびに3DやCGなどのテコ入れが入ってきたわけであるが、ここにきて更に新しい提案ができるようになった。それがタイトルにあるインタラクティブ性の導入である。 とは言っても、...
-
度々著名人が不用意に発言しては炎上するこの問題だが、それが正しいのか(真っ当な主張なのか)。またそれ以前の問題として、そもそも外国人犯罪者は本当に多いのか。今回はこれを調べてみた。これも生成AIを使ったのだが、なかなか面白い結果が出た。 まず単純に犯罪率を比較してみると、 ...
0 件のコメント:
コメントを投稿