ファクトチェッカー

ある意見に対して賛成か反対か、各々の立場での論点整理をするAIというものが存在する。

http://www.hitachihyoron.com/jp/archive/2010s/2016/04/08/index.html?WT.mc_id=ksearch_1604_13

これと同じように、ある短い文書(例えば「南京大虐殺はなかった」という主張)に対し、それが本当のことかどうかを全て自動でチェックする、ファクトチェッカーのようなものが作れないだろうか。

意見に対する賛成反対というのより難しいのは、根拠となる文書の信頼度を測ることだ。人気はGoogleエンジンなどでも使われているが、人気が有るからといって正しい情報とは限らない。むしろフェイクニュースの方が早く広まるという論文もある。従って、別の仕掛けが必要である。

方法は幾つか考えられるだろうが、大まかな方向性は二つだろう。ひとつは、「信頼できる人の発言は信頼できる」というもの。信頼できるとされている人の多くが支持しているなら本当だろう、という考え方だ。もうひとつは、発言の中身の論理的整合性をチェックするもの。例えば根拠を探し、その根拠が正しいかを検証する。複数の発言の間に矛盾が無いかどうかをチェックするというものだ。

これらはどちらか一方ではなく、両方が切磋琢磨しながら、場合によっては相互に連携しながら精度を上げていく方向性に向かうのだと思う。例えば前者ならどうやって信頼できる人を評価するのか、後者は正に文章の意味を理解しなければならないし、根拠にも根拠が、と永遠にいたちごっこが続くかもしれない。

ここにも一つアイデアはある。結果に対する機械学習ではなく、手法に対する機械学習を積み上げるのだ。つまり、色々な手法を強化学習で試していくのである。

残念ながらゲームのような明確なゴールを自動で示すことができないので、ここは人間が判断してやる必要があるのだが、「この問題にその論拠では不足だ」「少ない論拠でよくここまで出せた、すばらしい」といったアナログな点数を付けてやる。

そうすると、例えば物理学が得意なファクトチェッカーとか、政治家の発言について得意なファクトチェッカーとかが出来上がっていくかもしれない。少々間違っていたとしても論拠が提示されれば読者が判断し、点数を加味してやるとか、方法はいろいろと考えられる。