AIから自己防衛するDB

 

生成AIには、ハルシネーションの他に、「命令を守らない」という問題が存在する。つまり、指示をして「ハイ分かりました」と答えて全然違うことをする、という問題がある。そんな中でも警戒すべきは情報漏洩である。AIに一度全てを見せてしまうと、ちょっとした拍子に情報を漏らしてしまう恐れがある一方、だからといって開示しなければ存在しないものとして扱われてしまう。これは痛し痒しと言える。これを改善するには、データを読まれる側にも工夫が必要である。

つまり、データを全部渡してしまうのではなく、「こんなデータある？」というAIの問いに対して「あるよ」とだけ答え、中身についてはまずは答えないとか、「あるけど何に使うの？」と聞くとか、そういう方向性があるのではないか、というわけだ。つまり、それがDBかWebページか、あるいはGitのようなソースコードかはさておき、何かしらのインテリジェンスを上にかぶせ、AIに相対させるAPIはそこを経由するものとする、というのがその構想である。

AIを通じてしかデータを渡さないのであれば、出す側のAIにはそれなりの知恵を授けておけば、最小限の被害で済む。例えば相手のAIが信頼できる相手か、課金はしているのか、聞いている内容がコンプラ違反ではないか、などをチェックして、生データは出さないが統計結果は出してやるとか、匿名で出してやるとかの判断を行うと共に、相手のAIとの交渉まで行う。

昔の感覚で言うと、これはオブジェクト指向型とも言える。だがAIが絡むことでその判断が高度になり、API経由でのデータやり取りだけでなく「交渉」まで行うとなると、これはエージェント型とでも言うべきアーキテクチャだろう。そしてこういう形態は、DB以外でも色々広がっていくに違いない。

そのやり取りを想像してみると、ちょっと人間臭くて笑ってしまうのだが、おそらくこういう方向性は次第に提案されるものになると思う。今から備えておいても損はない。