英国赫特福德大学的科学家提出了一种名为“赋能”的理念，旨在帮助机器人保护和服务人类，同时保障自身安全。
机器人正日益普遍地出现在我们的家庭和工作场所，而且这一趋势似乎还将持续下去。许多机器人都必须在难以预料的情境中与人类互动。例如，自动驾驶汽车需要在保护车辆免受损坏的同时，确保乘客安全。照护老年人的机器人则需要适应复杂情境，并回应使用者的需求。
最近，斯蒂芬·霍金等思想家警告了人工智能可能带来的危险，引发了公众讨论。“公众舆论似乎在对进步充满热情、淡化各种风险和彻底恐惧之间摇摆，”参与这项研究的科学家丹尼尔·波拉尼说道。这项研究最近发表在《机器人学与人工智能前沿》。
然而，“智能”机器失控并反过来攻击人类创造者的设想并不新鲜。1942年，科幻作家艾萨克·阿西莫夫提出了机器人三定律，用以规范机器人应如何与人类互动。简单来说，这些定律规定，机器人不得伤害人类，也不得袖手旁观，任由人类受到伤害。这些定律还旨在确保机器人服从人类的命令，并保护自身存在，前提是这样做不会伤害人类。
这些定律出发点良好，但容易被误解，尤其是机器人无法理解人类语言中的细微差别和模糊之处。事实上，阿西莫夫的故事中有许多例子：机器人误解了定律的本意，酿成悲剧。
一个问题在于，“伤害”这一概念复杂且因情境而异，很难向机器人解释清楚。如果机器人不理解什么是“伤害”，又如何避免造成伤害？“我们意识到，可以从不同角度出发，塑造‘良好’的机器人行为，大体上遵循阿西莫夫定律，”另一位参与这项研究的科学家克里斯托夫·萨尔格说道。
研究团队提出的理念名为“赋能”。它并不试图让机器理解复杂的伦理问题，而是让机器人始终努力保留自己的选择空间。“赋能意味着处于这样一种状态：你对自己所能感知的世界拥有尽可能大的潜在影响力，”萨尔格解释说。“因此，对简单的机器人而言，这可能意味着安全返回充电站，避免陷入困境，因为困住会限制它的行动选择。对于更具未来感、类似人类的机器人来说，赋能不仅涉及行动能力，还可以纳入多种参数，从而产生更接近人类的驱动力。”
团队用数学方法对“赋能”理念进行了编码，使机器人能够采用这一理念。研究人员最初于2005年提出“赋能”理念；最近的一项重要进展是，他们扩展了这一理念，使机器人也会努力维护人类的赋能状态。“我们希望机器人能通过与之互动的人类的视角来看世界，”波拉尼解释说。“要保障人类安全，机器人就应采取行动，增强人类自身的赋能状态。”
“在危险情境中，机器人会努力确保人类存活并免受伤害，”萨尔格说。“我们不希望机器人为了尽可能避免任何伤害而以压迫性的方式保护我们；我们希望生活在一个机器人维护我们赋能状态的世界里。”
这种利他的赋能理念，或许能为遵循阿西莫夫三定律精神的机器人提供动力，从自动驾驶汽车到机器人管家皆可适用。“归根结底，我认为赋能可能成为机器人整体伦理行为的重要组成部分，”萨尔格说。
