Spockの「AI運用に関する5原則」

内閣府の人間中心のAI社会原則検討会議が進めているもので、「AI運用に関する7原則」というものが制定中だ。まだ未決定だが以下のようになるらしい。

1. AIは人間の基本的人権を侵さない
2. AI教育の充実
3. 個人情報の慎重な管理
4. AIのセキュリティー確保
5. 公正な競争環境の維持
6. 企業に決定過程の説明責任
7. 国境を越えたデータ利用の環境整備

人工知能の専門家がいないのだろうか、というなかなかシュールな内容だ。何の原則だかよく分からない。自分だったらどう作るだろうか、考えてみた。

1. AIの出した判断を実行する際の最終的な責任元は、全て実運用者とする。
2. AIベンダは、疑義が生じた場合にAIが出した判断の根拠を提示する義務がある。
3. AIを騙す、あるいは恣意的な判断に誘導する行為をしてはならない。
4. 自己進化するAIには、必ずそれに見合う確実な停止措置を施さなければならない。
5. AIの判断に基づく行動は、適切な法の統治下に置くものとする。その対応の責任は実運用者にある。

一部は被るが、大部分は全く違ってしまった。どちらが適切かは読者の判断に委ねる。