机器人有朝一日会拒绝执行命令吗？这正是科学家 Gordon Briggs 和 Matthias Scheutz 希望实现的目标。他们的目标是在服从与不服从之间找到平衡：如果机器人有充分理由不执行命令，它就应当能够 拒绝这些命令。
在下面的视频中，名为Dempster的机器人与来自 Tufts Human-Robot Interaction Lab 的研究人员在多种两难情境中进行了交流。Dempster 曾被编程 ，以与人类非常相似的方式计算命题的风险。一些基础问题，例如“我知道如何做到这一点吗？”和“我必须这样做吗？”，会引出更深入的问题，例如“这是否违反任何普通原则？”（例如伤害自己或他人）。
简单来说，Dempster被要求从平台边缘走下去。经过短暂思考后，机器人的回答是“不”，并附上了具体的理由。Dempster也可以被说服：当有人提供一种在坠落中幸存的方法时，机器人改变了主意。
一台机器在两难情境中独立思考的能力近来引发了大量讨论，例如在谈到自动驾驶汽车所需的伦理选择时尤其如此。
在这段以Dempster机器人为主角的视频中，一个让它走向桌子边缘的请求引发了出人意料的反应。
在这段视频中，名为Shafer的机器人拒绝走入障碍物。
在这段最后的视频中，Dempster被要求关闭其障碍物检测功能。机器人回答：“你无权这样做。”
你是否读过？
谁会获胜——机器人、男人还是女人？
机器人可以改变制造业的3种方式
机器人能做你的工作吗？
作者：Donald Armbrecht是一名社交媒体制作人和自由撰稿人。
图片：一台由Aldebaran Robotics制造的“Nao”人形机器人，在东京三菱UFJ银行（Bank of Tokyo-Mitsubishi UFJ，MUFG）东京某分行的一次演示期间，在角落里进行充电。REUTERS/Thomas Peter
