图解人工智能（13）人工智能的风险

机器人三定律是由科幻作家艾萨克·阿西莫夫提出并在多部作品中发展的概念。其中小说《转圈圈》Runaround是展示这些定律应用的典型故事讲述了一个机器人因指令冲突而在原地转圈的情况。了解一下该故事的细节并据此讨论机器人三定律本身是否存在矛盾在《转圈圈》中人类派机器人去采硒按第二定律机器人必须执行命令但当地的环境恶劣机器人有被损毁风险按第三定律机器人需要保护自己。这种矛盾让机器人无所适从所以选择了一个折中方案就是绕着硒矿转圈圈。这说明机器人三定律之间确实会产生矛盾让机器难以执行。另一个例子是机器人去救人但这个人不让机器人去救这就在第一定律和第二定律之间出现了矛盾。类似的矛盾还可能发生在一个人命令机器人去伤害另一个人时机器人会因第一定律不伤害人类和第二定律服从人类命令的冲突而难以抉择。