Up 「ロボット三原則」 作成: 2018-08-04
更新: 2018-08-04


       Asimov, Isaac (1963) 『われはロボット』
    第一条
      ロボットは人間に危害を加えてはならない。
    また、その危険を看過することによって、人間に危害を及ぼしてはならない。
    第二条
      ロボットは人間にあたえられた命令に服従しなければならない。
    ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
    第三条
      ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

    「また‥‥」「ただし‥‥」「‥‥かぎり」を加えながら論理を整合させようとしているが,矛盾している。
    例えばロボットの面前に人間A, Bがいて,Aから「Bに殺される,わたしを助けろ」と言われたとき,ロボットはどう行動すべきか。

    Bに殺される,わたしを助けろ」では,AとBのどちらを信用するか,あるいはどちらが大事か,が問われる。
    また,そもそも係わることの良し悪しが問われる。
    行動の選択で働くものは,経験値である。
    行動決定は, 「危害」「命令」といった単純な規準で収まるものではない。