人机交互时代即将到来，我们准备好了吗？

许多人珍视与家人和朋友共度时光的记忆，这些记忆塑造了我们的人格，并增强了我们应对世界挑战的韧性。正是因为我们愿意冒险将他人带入自己的个人空间和内心世界中，才使得这些关系显得尤为宝贵。

今天，我们面临着这样的挑战：我们在与机器人互动时所面临的风险，会与我们在人际关系中面临的风险有怎样的不同？与机器人互动，可能会如何改变我们的记忆？具体来说，我们赋予机器人什么样的角色，而这又会如何影响我们的个人成长以及探索世界的方式？

在此，我考虑了在人际关系与人机互动之间的差异，并将探讨我们所承担的风险如何在这两种互动方式中发生变化。这些差异包括例如可能会出现的新的欺骗方式，以及互动的非互惠性。

本文的重点并非详细列举这些差异，而是突出它们所带来的主要风险和关注点。

我提出的第一个关键观点是，我们的思考应该以对核心概念的清晰定义为基础。这样做的必要性之一，是因为不同文化对人机交互的接受程度差异巨大，最重要的是，这种交互挑战了我们对“何而为人”的理解。

此处，“人机交互”的解读是基于社交机器人而非工业机器人的语境。社交机器人被理解为具有自主性（或半自主性）的物理机器，它们通过模仿人类的行为和交流方式与人类进行互动和交流。

它们可以部署在不同的环境中，包括教育、儿童保育、医疗保健或陪伴，但前提是这种互动总是包含某种形式的人际交流。

一类核心的社交机器人是所谓的类人机器人，这些机器人被设计成像人类一样。这引发了伦理问题以及对技术信任的讨论。在某些使用场景中，例如用于精神健康问题的护理机器人和陪伴机器人（特别是性爱机器人），确实存在侵犯人权的风险。

此外，将机器人拟人化，即故意设计出人类能够产生同理心的机器人，也引发了人们的担忧：虽然“外形上讨人喜欢”的机器人在社会环境中实现目标的可能性更高，但仅仅凭借其外表，它们的使用和与人类的互动可能会产生潜在操纵性的影响。

我的第二个观点是，我们需要关注社交机器人和潜在人工智能代理与“道德代理”融合所涉及的风险。

机器伦理学的争论不仅在于人工智能系统是否应该能够在道德敏感的环境中做出决策，还在于是否应该允许它们产生可能导致直接行动的价值判断，例如为老年人提供护理的机器人。

在这些争论中，出现了各种来自伦理和人权角度的担忧。这些问题包括如何尊重和促进人类尊严、透明性和问责性等方面的风险。

在赋予社交机器人某种形式的个人身份时，尤其是在陪伴机器人的背景下，会出现一系列相关问题。其中一个担忧是隐私保护不足的风险。

如果一台具备机器学习能力的社交机器人存储了与“它的”人类互动中生成的数据，是否应当以使第三方分享成为可能的方式进行存储，或是以使机器人发展出“身份”的方式进行存储？随着机器人技术与更具“主体性”的AI融合，这些担忧可能会加剧。

我的第三个观点聚焦于“何而为人”这一概念本身。

与机器人的社交互动会影响人类如何定义自己吗？这是好事还是坏事？它最终会促成“温和奇点”的出现吗？像OpenAI 首席执行官Sam Altman 最近写道的那样，“温和奇点”指的是人工智能带来的科学进步将极大地提高人类的生活质量和生产力。

一系列相关问题围绕着我们是否应当保护我们目前所理解的“人类意味着什么”这一问题展开。这些问题指向了深刻且历久弥新的哲学难题，而这些问题如今比以往任何时候都更加值得关注。

如果人类想要与机器人和人工智能等新兴技术共同繁荣发展，那么思考人际互动与人机互动的风险差异至关重要。

虽然由于当前技术和经济方面的限制，社交机器人的全球普及可能还遥不可及，但我们应当早已从经验中学到，负责任地参与新兴技术不仅仅是确保政策制定跟上其发展的步伐，还在于确保自身能够自下而上、稳健且具有前瞻性地参与该技术。这反过来又会自动为其监管和治理提供依据。

理解并应对人机交互带来的风险，是实现这种自下而上的参与的第一步。

本文作者：

Emma Ruttkamp-Bloem，比勒陀利亚大学教授

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。

编辑：王灿