AIエージェント調停アーキテクチャ

はじめに

生成AI同士が話し合って問題を解決する、というのが次の生成AIのテーマだと思う。

今の生成AIエージェントの使い方は、あくまでも一個人が自分の代理人として使っているだけだ。外部とのやり取りはMCPで行っているケースが多いと思うが、これは生成AIと（生成AIではない）他のシステムとの接続プロトコルであり、つまりは相手方は決定論的回答を返すことが前提になっている。要するに仕事の依頼先であり、主従関係がある。AIエージェント側が主で、接続先が従だ。しかしこの先、相手側が生成AIであるというパターンは当然想定すべきである。つまり生成AI同士の会話が前提になる。

そしてここからが厄介な話で、相手が生成AIだとすると、自分と同じく、（自分とは違う）目的を持って能動的に行動しているかもしれない。すると、従来のような単純な情報提供や指示を実行させるだけではなく、時にはそれを拒否されたり、逆提案されたりすることも想像できる。つまり従来は主従だった関係が対等になるわけだ。

そこで問題になるのが、以下の2つである。

1. その相手と自分の目的が相反している可能性があること。更に言うと、複数の相手との協調や競争が起きる可能性があること。
2. その相手が悪意を持っている可能性があること。

人間の場合には人格があり、法律や商慣習がある。だが生成AIエージェント同士の会話の場（ネットワーク）にはこのどちらもない。エージェントは目的のたびに新たに作り出されるものだし、偽の（悪意を持った）エージェントの作成はボタン一つで可能なのだから、現実のように身を潜めて行動するという必要もない。つまり悪意のあるエージェントの割合は、現実世界に比べて極めて高いと考えるべきだ。

例えば、SNSの投稿の6割はボットによるものだとの研究がある。Web全体における悪意のあるボットの割合は、トラフィックの4割に達する。現実世界ではあり得ない比率だ。生成AIは更に能動的になれるから、少なくともこの割合よりは大きいと考えるのが妥当だろう。そういう「ウソの海」の中を泳いでいくのは、現実社会より遥かに難しい。

そういう中にあっても人間はうまくそれを排除して生きているのだが、生成AIエージェントが同じように賢く生きられるかは未知数である。そして使う人間側としても不安があるので、アーキテクチャでこれを補完（保証）してやる必要がある、と考えるのが妥当だ。

本稿の主旨は、「そのためのアーキテクチャが必要である」と訴えることだ。で、その主旨はここまででもう語った。だがそれだけでは心許ないので、そのためのアーキテクチャの一例も合わせて提示したいと思う。

AIエージェントと現実人格の紐づけ

人間社会の場合、悪意のある人間、悪意のある組織などは、表舞台にはなかなか出てこない。その理由は、一義的には法律があるからだが、電子の世界と比較した場合、実は決定的な違いがある。それは、その「悪意的存在」の寿命である。

つまり、あるところで犯罪を犯した人間は、その後の操作により誰かを突き止められて、逮捕され、罪を償わされる可能性を負うことになる。組織による犯罪であっても、その組織を構成している人間には同じ可能性がある。だがこれは、人間は概ね何十年と生き続ける、という暗黙の仮定に基づいているのだ。だから後から追って、捕まえることができる。

しかしAIエージェントは違う。一瞬の後に作られ、仕事が終われば消滅する。AIエージェントがどんなに罪を犯そうが、消えてしまえば罪に問うことはできない。

SNSの場合も同様で、ボット自体に罪を問うことはできない。だからそういうボットの作者は自分の存在を隠蔽する。それが簡単なら、悪意的存在の比率は高くなる。今のSNSがそうなっているのは、それが一つの原因である。

だから、AIエージェントが悪意的存在でないことを確認するためには、そのAIエージェントが誰のものであるかを明らかにする必要がある。

つまり、現実の人間のIDから派生するAIエージェントのIDを定義し、そのIDを確認すると、誰のエージェントかが分かるようにする、というのが提案の第一である。

このIDは、マイナンバーのような国民IDか、GビズIDのような企業IDを使うのが良いと思われる。そのIDによる電子証明書を持つAIエージェントしか相手にしない、また相手は毎回確認する、というのが、最初のスクリーニングである。

エスクローアーキテクチャ

そしてもう一つ、今のサイバー犯罪では結局警察が動いて人に罪を問うのだが、今後のAIエージェントの発展を考えれば、間違いなく物量的に足りなくなる。つまり犯罪の追跡は困難であり、また大量であるため、警察も追いつけないと考えられる。だから、法律の前に技術的仕掛けで大部分は抑制する必要がある。

そのための提案が、エスクローである。つまり、何かを依頼する時には相手に報酬を提供する必要があるが、直接渡すのではなく、双方（売り手と買い手）が信頼する第三者に報酬を預け、取引が完了すればその第三者から報酬を受け取る、という仕組みである。

その取引自体にもスマートコントラクトが採用され、望まない結果に対しては支払いが発動しないようにする。また、悪意が確認されると報酬は没収される。

他、報酬以外にも保証金を積むような仕掛けはあってよいだろう。リスクの高い取引ほど保証金が高くなるような仕掛けも良いと思われる。

調停者アーキテクチャ

多数のエージェントが各々要求を出しており、その要求が相反しているような場合、AIエージェント同士が話し合うのではなく、公平公正な第三者である調停者（アービトレーター）に委託する、というアーキテクチャである。

調停者は、いわば裁判所における調停案、和解案の提示のようなものだ。双方の主張の理由、法律や社会慣習などを総合して双方妥協が可能と思われる案を提示する。それに双方が合意すればよし、合意がなければ決裂となる。

調停者自身も、過去の合意・決裂事例から学習し、より良い調停案を提示できるようになる。もちろん悪意の交渉についても学習し、それを防ぐ案を提示する。

実行はエスクローとスマートコントラクトを使うので、その後も安心して取引ができる。

調停者はカスケード（階層化）しても良い。例えば個人対個人から国対国まで、調停にはレベルが多数ある。ある調停が別の調停の枝葉になることはいくらでも考えられる。

両者の運営

エスクローはある程度民間でもできるだろうが、調停者にはそれなりの資格が必要だろうと思う。国、ないしは地方自治体による許認可と定期審査が必要だろう。まあ国対国だとさすがに政府運用となるだろう。またエスクローにしても、認可と定期審査は必要と思われる。

両者のために新たな国の機関を作る必要があると思われる。

まとめ

IDの詐称や会社のポリシーの豹変など、それでも悪意を完全に排除することができない。そうであっても、このアーキテクチャが進むことによって、いわゆる表社会の人たちがある程度安心して過ごすことは可能になると思う。残りは警察の仕事である。

そして鍵となるのはその割合だ。このアーキテクチャによって、既存の社会よりも犯罪率がずっと低く抑えられる可能性はあると思う。そうすれば警察や軍隊の必要性も低下し、世の中は平和になる。そういう意味でも、このアーキテクチャの重要性は高いと考える。