AIセーフティ設計

いつの間にか、自動車はコンピュータだらけになっている。このため、車のクラックという新たな脅威が発生している。鍵を開けられたなんてことはまだカワイイほうで、高速度運転中に急ハンドルするようなことも、理論的には可能だ。

自動車の場合、制御を奪われることは命の危険があるから、話は深刻である。物理的、理論的に様々な対策がされているにしても、対策には対策がある。今のコンピュータでもいたちごっこが続いているから、ある時点で相手が強くなる可能性は否定できない。

自動車はまだ物理的な存在であるから、物理的にエンジンと車軸を切り離すとか、「ケーブルを切る」ようなセーフティを付けることは可能だ。工業機械によくあるような「緊急停止ボタン」を付けることも考えられるだろう。それはそれとして、肝心のコンピュータセキュリティをどう向上させればよいのか。

自動車の場合、一般のサーバシステムと違ってリアルタイム且つ分散制御であり、アーキテクチャはかなり異なる。また自動車の型や規模によっても違う。技術者の市場規模は小さい。そんな中で、自動車ベンダが脅威と感じるのは、高度な知識を擁するクラッカーだろうか。それともAIだろうか。

自動車を1台買ってきて、これにAIを繋いで、「自動車の制御を乗っ取れたら勝ち」というゲームを強化学習させる、そんな時代がくるかも知れない。例えば、ハンドルを右に10°、左に10°を2秒サイクルで3回切れれば勝ち、とか、走行状態でエンジンを停止できたら勝ち、などだ。

これは自動車にとってはかなりの脅威ではないか。なぜなら、自動車はほとんどの時間オフラインだし、アップデートが頻繁にあるわけでもない。OSのように毎月パッチが配布されるようなものでもない。一方で攻撃は何時起こるかわからないからだ。

そこで考えるのが、自動車側にもAIを搭載し、「乗っ取られたら負け」「防御できたら勝ち」のゲームを強化学習させる、つまりAI同士の対決をさせるシステムだ。この場合、攻撃側AIももちろん自動車側が準備する。

この場合、「ハンドルを2秒サイクルで2回左右に10°切られたら三度目を阻止する」というものであってはならない。結果としてそうなってしまえばもちろん負けだが、阻止自体は不正な通信であることを見抜く必要がある。そうでなければ、独立したセンサを付けて非常スイッチにつなげれば実現できてしまう。

AlphaGoZeroと違って対等の勝負ではないから、学習環境には少し工夫が必要である。恐らくは勝敗判定マシンが別途必要であろうし、受け側(自動車側)の学習の効率は極めて悪いだろう。全自動ではできず、人手が必要になるかもしれない。

それでもこれを進めていくことでお互いが切磋琢磨し、脆弱性はどんどん塞がれていく。そして外部コンピュータ側の負荷ないしは通信量が一定以上になったら、つまり攻撃側のコストが見合わなくなったら、セーフティは一応完璧になったと言えるだろう。

なお、この手法は、自動車に限らずあらゆるコンピュータシステムに適用可能と思われる。小さい制御システムから始め、他のインフラにも適用される時がくるだろう。

究極カスタマイズDM

今でもDMは多数届くが、殆どは速攻でゴミ箱行きだ。それでも良いのが今のDMのモデルなのだろうが、資源の無駄であることこの上ないし、個人的には心象も悪い。もっと効率を上げられないだろうかと考えた場合、そのひとつの答えは「その相手に極端にカスタマイズすること」である。

百貨店の会員などであれば、顧客が買った品物のデータを基に好みを分析することは許されるだろう。あるいは顧客の家族構成や体のサイズなども推定できる。その上で、例えば年に４回、その季節の「その人(家族)へのお勧め」を強く打ち出したDMを作るのだ。
このためには、例えば同じ系列店の遠くの店の情報などは飛ばしてよいし、明らかに好みでないモノへの情報も減らしてよい。その代わり、顧客に似た顔・体系のモデルに着せたイメージを添えたり、サイズがあらかじめ記入されていてクリックひとつで購入できる専用Webページへ誘導するなど、究極のカスタマイズをする。

他にも、子供の年齢に合わせたイベント(七五三や受験など)、誕生日、結婚記念日などに合わせて、着る物だけでなくパーティのプランや贈り物の提案をしたり、買ったものから趣味の推定をして関連商品を提案する、収入レベルを推定して保険や年金を提案する、年代や家族構成からくる共通の悩みや相談事に答える(塾の選択や実家の整理など)なども考えられるだろう。

紙でのDMでは困難だというなら、メールでも良い。また、カスタマイズのための苦労の大部分は、AIによる分析に頼るようにすれば、労力はさほど掛からないはずだ。
ポイントは、気持ち悪くない程度に私生活への介入をすることだ。やり過ぎると嫌われるし、やらなさ過ぎると今までと変わらない。この加減も人によって違うだろうから、やはりカスタマイズの範疇になる。

遠隔地からの音声指示

音声認識が高度化してくると、電話で遠隔地から指示をしたくなってくる。例えば外出中に知人が訪ねてきた時に鍵を開けたいとする。その知人から電話が掛かってきて、「今玄関にいるんだが」と言ってきた。そこで「今開けるよ」と言って、続けて「Alexa、今知人が来ているから家の玄関のドアを開けてくれ」と言うと「わかりました。家の玄関のドアを開けます」と言って開けてくれる。

ここには、従来のスマートホームとは少し違った経路と手順が存在する。まず、その知人が本当に玄関の前にいて、しかも空き巣に脅されていないことが確認できなければならない。従来のスマートホームであれば、専用のソフトを立ち上げて、カメラを確認して、知人が確かに玄関前にいて、他の誰もいないことを確認してから、画面をタップして鍵を開けるところだ。このためには電話ではなくネット接続が必要で、しかも知人からの電話への応対中には操作できない。

つまり、自分の電話をAlexaが盗み聞きしている必要があり、またAlexaは自宅の鍵を開錠する権限、玄関前カメラで知人や他人を認識できる能力が必要だ、ということになる。当然本人認識も必要だ。

つまり、「今玄関にいるのは知人ではありませんが大丈夫ですか？」「知人だけでなくバールと目出し棒の男もいますが大丈夫ですか？」と言うこともあり得る。これは人が応対するなら当然の回答だ。

あるいは、スマホから顔を離すと自動的に玄関カメラの映像が転送表示され、開錠ボタンと通報ボタンが並んで表示される、ということも考えられる。これも、既存の電話ソフトに割り込んでの使い方をする必要がある。

「できる」と「使いやすい」「使い物になる」の差はここにある。当面は電話をいったん切って操作するしかないところ、電話で済ませるためにはまだ必要な機能がたくさんある。また、電話の際はセキュリティも気になるところだ。上の例で言うと、話者と機器の管理者が同一人物であることの確認をどうするか、などが挙げられる。

Alexaに単純にレシピを積むだけでは、これは解消しないと思われる。Echo前提のレシピと、遠隔からスマホで呼び出すときのレシピは分け、後者はある程度電話会社やソフトベンダが組んで根元を固める必要があるのではないかと思う。

画像レタッチの音声UI

画像の修正にはそれなりの技量が必要であり、ソフトがあっても使いこなすのはなかなか難しい。だが、最近の機能の向上は興味深い。邪魔なものを画面から消す作業などは、どうやっているのだろうかと思う。

これが発達していくと、「この人物のシミとほくろを消したい」という曖昧な指示にも対応できていくのではないかと思う。更には静止画から立体を起こしたり、それに骨格を推定させて動かしたり、というところまでも可能になるかもしれない。

例えば「人物を左側に立たせて、背景は海で、砂浜が広がってて、あ、人物は女性ね。太陽の位置はもっと左。人物のポーズはね･･･」としゃべり続けることでポスターや動画CMが出来上がっていく、といったことはもう見えてきているのではないか。

これには二つの側面があって、曖昧な指示を(想像を含めて)受け止めることができる、また細かい技術的な知識やソフトの操作が不要になる。これによって、感性さえあれば素人でも高品質な作品を作ることができるのだ。

最後の微修正は人間が直接作業するとしても、ここまでがあっという間に作れるのなら、広告は相当に低コストにできることになる。これは広告業界を震撼させるほどのインパクトがあるはずだ。それは、裾野が広がるところから始まり、業界全体でのコストが減っていくことで、需要は変わらずとも市場規模(額)が減少していくことで進む。

これは画像だけでなく、例えば書類のレイアウトひとつとっても似たようなことが考えられる。例えば学園祭のポスターが今のプロが作った広告並みになるとか、地域商店街の広告が動画付きになるとか、社内のちょっとした資料でもプロ並みのレイアウトになり、イメージ図や事例が豊富になり、直感的にわかるようになる。

プロ自身が使うことでその質が大幅に向上することは考えにくいので、裾野とプロとの差が縮まることにもなっている。これはちょうど、音楽がたどったのと同じような道に思える。LinkedInで探してきた時給1500円のフリーランスに頼んでもそれなりのものができるのなら、電通に頼むのも躊躇しようかというものだ。中小からどんどん離れていき、大手も値引き要求が強くなっていく。

それでもタレントやコピーライターが直ぐにいなくなるとは思わないが、今までのようにはいかなくなるのではないか。市場には高品質なデザインが溢れるがその価値は下がる、そんな世の中になる可能性は高い。

職業の絶対量は減っていく

AIが職を奪う云々の話の中で、「職業」そのものが総量として減っていく、ということは真剣に考えられているのだろうか、と思う。

言うまでもなく、AIやロボットが進化した際の究極の姿は、映画「ウォーリー」の如く、全てをロボットに任せて人間は何もしない、というものだ。で、ロボットやAIを誰が動かすのか、故障したときはどうするのか、そのコストを誰が負担しているのかと考えると、故障は自分自身で直し、AIが自分で考え、コスト(エネルギー)も自らが生み出す。つまり、本当に人間は何もしなくても生きていける。
その途中過程は無論存在する。

1. さまざまな職業がAIとロボットで置き換わり、その従事者は失業するけれども、その職業自体は低コストで運用可能になるため、あちこちで色々なものが安くなる。これは物質だけでなくサービスも含まれる。
2. 人間の能力はAIやロボットに大きく劣るため、生活保護層から抜け出るための難易度は上昇する。これにより生活保護比率は上昇する。
3. 生活保護層の比率が拡大するということは、すなわち生産層(非生活保護層)の人数や比率は減る、つまり職業を持っている人の数そのものは減っていく、ということになる。
4. 食料生産、エネルギー生産にロボットが大きく進出してくることで、生産層の生活保護層への負担が減る。また、ロボットによるロボットの生産や修理が本格化することで、ロボット自体のコストも安くなる。
5. ある組織体(例えば会社とその家族)の中だけで計算すれば、その構成員が生活するためのコストがマイナスになる、という現象が起こる。つまり、ロボットが使うエネルギー生産、ロボットの修理が全て組織体内で収支し、更に食料や衣料の生産が十分にでき、また余った生産物やエネルギーを売ることで、その組織体内ではできない残りのこと(例えば医療)ができるようになる。
6. ロボットの進化によって、組織体内ではできないことはどんどん減っていき、また組織体の必要規模も小さくなっていく。まずは国レベルで収支が取れれば、世界のいかなる国からも独立して過ごすことができるようになる。この時点で国際的な紛争は大きく減少する。資源争いの観点ではなくなり、宗教的対立も豊富な経済が心情を緩和する。
7. 最終的に、組織体のサイズは家族レベルにまで落ちる。この時代には生活保護者は徐々に組織体に取り込まれていき、生活保護の概念自体がなくなる。

ここに至るまでの年数は、今の発達具合から考えるに、数十年程度ではないかと思う。自分の子供か孫くらいの間に、こんな世界がくる可能性はズバリ「ある」と言える。

この過程では、変化の狭間に取り残される人が出る。最先端の技術者や経営者として生き残る覚悟がない大部分の人は、どこかで失業して生活保護層に落ちることになる。だが、それとても必ずしも好ましくない未来ではない。

生活保護層が少ないうちはまだ肩身が狭いだろうが、例えばその層が30%になったら、50%になったらと考えると、そちらの方が有権者の数が多いわけだから、政策がそちら寄りになると考えるのは自然だ。生産層の所得税を95%にするとか相続税を100%にするとかといった事態が発生することは十分に考えられることだ。

更に時代が進むと、本当に生産層はゼロになってしまうかもしれない。ここで「ウォーリー」の世界が完結することになる。

AIと点数化

https://deeplooks.com/

これは、顔写真を投稿して、5点満点で点数を付けてくれる、というサイトだ。何の尺度なのかもはっきりしないけれど、恐らくは美人度なのだろう。バックグラウンドの仕掛けが分からないながらも、ある程度は信頼できる点数を付けてくれているようだ。

AIの機能の一つとして、こういった曖昧なものに一定の基準での数値化ができることが挙げられる。もちろん精度をどう評価するかというのはあるけれども、こういったことが瞬時に判定できることは、世の中の仕掛けとして新たな側面が出てくるように思う。例えばどんな数値化がされるのか考えてみると、以下のようなものが挙げられる。

1. 職務質問をすべき人物の基準を与える。警官がライブカメラを胸や帽子に装着しておき、AIの指示によって職務質問をする。これは恣意の防止にもなるし、精度の向上にも繋がる。
2. 論述試験に対する点数を与える。採用面接における合否を与える。
3. 市場にてセリの値段を決める。鮮度の目利きをする。
4. レストランの格付けを行う。個々の料理の味を評価する。
5. 乱暴な運転と機敏な運転の評価をする。自動車に付けておいて、事故の際、量刑の参考にする。
6. 個人の性格や能力を点数化して、適職マッチングを行う。
7. 受験で、定期的に能力の向上を推定して、勉強の参考にする。
8. 生活習慣病の危険を数値で指摘し、防止策も同じく数値で(量的にも)アドバイスする。

点数化は何らかの序列化をも生み出す。今まで曖昧だった序列が明確になると、迷惑もあるだろうが効率も生まれる。例えばスクールカーストなんてものもあったが、あれは単なる心理的な力関係。人間性や学力で恣意のない点数が付けば、カースト(乗り越えられない壁)ではなく単なる序列になる。何時でも追いつき追い越すことが可能であり、そうされないための一定の努力は真っ当なものだ。

また、AIのアドバイスが適切なバックグラウンドを持っていることは、一種の信頼になる。このため、例えば医者のアドバイスは聞かなくてもAIのアドバイスは聞くかもしれないし、メンターの言葉にしても、一般論ではなく自分にカスタマイズされ、効果が確率的に予想できるとなれば従うだろう。

そうなれば、不摂生の類は大きく減ることになるのではないか。「これをしなければ糖尿病になる、失明する、心筋梗塞で倒れる」という言葉にリアリティが生まれるからだ。それも、しなければその分確率が高くなり、危機が迫ってくる実感も出る。

不摂生と言っても健康上のそれだけではない。仕事をサボる、人間関係の構築や修復をサボる、キャリアプラン育成をサボる。あらゆる面で、「人間として好ましい状態」へのサボり具合が数値化されるわけだ。もちろん能力は加味されているので、純粋に個人のサボりたがり具合までが数値化される。これは結構恐ろしい世界だ。

だが、総じて言えば、これは全体的には人間性の向上に寄与し、極端な犯罪や歪んだ性格を抑制し、世の中を良くする方向に動くはずだ。また、能力だけでなく努力が正当に評価されれば、本人にとっても納得のいく評価や給与体系ができ、精神的にも不満の少ない社会が形成されていくのではないか。

ボストンダイナミクス

ボストンダイナミクス社がソフトバンクに買収されたのは、もうだいぶ前のことだ。この会社はロボットを研究していたのだが、最も有名なのはBig Dogという名の四足ロボットだ。蹴っ飛ばされてもけなげに起き上がる姿で有名だ。他にもすべる、くずれやすいといった足元の不安定なところを歩き回る技術が秀逸だった。

これは米国の軍での売り込みを狙っていたところ失敗し、ソフトバンクに買収された。ではソフトバンクでどんなことを狙っているのかといえば、当然ながら軍ではなくtoBやtoCの市場だろう。それも警備や応対とは違う、「悪路を含めての移動」が念頭にあるわけだ。

軍事目的においてもその用途は「荷物持ち」だったわけで、民間になっても主用途はやはり荷物持ちだと思う。高齢者が買い物を頼んだり、尾道のような坂の多い町で郵便を配達したりする姿は容易に想像できるが、もっとぶっ飛んだ応用を考えてほしいものだと思う。

個人的なことを言えば、それで真っ先に思いついたのが山岳救助犬だ。セントバーナードに酒樽をくくりつけて、というのと同じで、ヘリコプターやボットでは近づけない、風の強い雪山での遭難などに当たる。しかも、束で行ってその場でテントを設営したり、担架を担いで連れて帰ってくれたりということすら期待できる。もちろん登山時の荷物持ちとしても有用だろう。

大きさ的な話をすれば、アンデスのロバ、つまり乗り物としてもちょうどよい(これ以上小さいと不安)。もちろんアスファルトの平地では非効率だが、地方や新興国ではちょうど良い場面も多いのではないか。

また、足元が悪いという意味で言えば、都心にもそういうところはある。歩道など狭いところでは、例えば電柱を避けてとか、側溝を踏まないようにとか、3段だが段差があるとか、車輪型の乗り物では不都合があるところも多くなる。

例えば宅配なら、2、3台これを積んで近所まで行き、エレベーターのない低層アパートや坂の上の数軒の荷物を纏めて積んでいく、あるいは高齢者や障害者が、玄関からアスファルトの平地にある車に乗るまでの繋ぎに使う、ということはありうることだ。また、もし宅配業者が大量導入してくれれば、大規模災害時に何とか物流を途切れさせないためにも使えるだろう。

宅配はボストンダイナミクス自身も意識していると思うが、日本の国土の狭さ、玄関までのアプローチの多様さについてまで意識しているだろうか。この技術がブレイクできれば、人が多く道が狭い、高低差があるなどの国や地域ではずいぶん重宝するだろう。