我的母亲住在5,000英里之外的埃及开罗。当她给我打电话时，只需听我说“喂”或“我很好”的语气，就能立刻察觉我是否出了什么问题。与我们亲近之人的许多关系一样，我与母亲之间已建立起一种信任，她只凭一个简单的词或短语，就能知道我的感受。
但遗憾的是，我和当今世界上的许多人一样，与身边亲近的人相处的时间（如果不是更多的话）同样大量地花在与科技的互动上。然而，与和母亲或朋友交谈不同，我们与设备的互动完全是交易性的。我的手机无法读懂言外之意，也无法理解我真正的状态。
随着我们与科技的互动越来越多地运用人工智能（AI），这一问题正变得愈发明显。随着AI在社会中承担起新的角色——从与我们并肩工作，到驾驶我们的汽车、辅助医疗保健等等——我们正在与科技缔结一种全新的伙伴关系。而随着这种伙伴关系而来的，是一份新的社会契约：它建立在相互信任、同理心和伦理道德之上。
AI能信任我们吗？
一切始于相互信任。毕竟，如果我们与那些我们不信任、也不信任我们的人无法有效地共事或共处，那么AI也不例外。
人与AI之间相互信任为何重要，其例子比比皆是。以半自动驾驶汽车为例。由于这些汽车仍处于研发阶段，一旦汽车的AI无法再安全地导航，就需要人类驾驶员随时准备重新接管控制权。
但AI如何能相信驾驶员已准备好接管？如何相信应当驾驶的人保持警觉并专注，而不是昏昏欲睡或以其他方式分心？AI系统需要能够真正理解我们的情绪和认知状态——在此情境下，识别某人是否表现出分心迹象，或是否处于可能危险的受损状态——然后才能将控制权交给他们。
因此，问题在于：我们如何与机器培养出一种与信任一样私密的感情，又如何使这种信任变得相互？
作为富有同理心的伙伴的AI
哈佛商学院技术学教授Frances Frei表示，同理心是人与人之间建立信任的最重要要素之一。因此，同理心或许也是在AI与人类之间建立理解和信任的关键。
要构建真正“懂”我们的AI，关键不在于仅关注认知，而在于开发具备情商的算法。正如人与人之间的伙伴关系一样，只有让AI能够理解他人的感受，半自动驾驶汽车才能知道其驾驶员是否适合驾驶，协作机器人也才能理解其人类同事在某一天是否有状态胜任工作。
对一些人来说，这或许显得过于私人化或不自然。但在我看来，继续推进AI的研究与开发，并不会对我们的工作或人类构成威胁。真正的问题在于：人们将如何使用这项技术，以及我们对AI的选择将如何改变世界？
概述AI的伦理开发与部署
设计用于与人类互动的AI系统将拥有大量数据，并且会对与之互动的人了解很多。这引发了担忧：虽然AI有很大潜力改善我们的生活，但它同样有很大可能加剧不平等或造成伤害。
在设计这一新的社会契约时，我们需要为AI的伦理开发和部署制定标准。这意味着要确保AI由多元化的团队、基于多元化的数据来构建，以确保该技术不会复制社会中固有的偏见。这还意味着，在人们与AI互动时，应考虑选择加入和同意的必要性，并优先保护数据隐私。
有鉴于此，技术、学术界及其他领域的一些顶尖人才已经开始合作，制定相关标准，以确保人们合乎伦理地、为了公益地使用AI——从麻省理工学院与哈佛大学的“AI伦理与治理倡议”，到人工智能合作伙伴关系（Partnership on AI），该组织由微软、亚马逊、谷歌、Facebook和苹果等大型科技公司，以及Affectiva等初创企业共同合作组成。这也是我作为世界经济论坛全球青年领袖的职责之一。论坛为我们提供了机会，与来自各个领域和不同背景、带来多元视角的领导者共同探讨AI的影响。
随着我们驾驭与AI不断变化的关系，仍有许多问题有待厘清。但当务之急是开始以这种方式构建讨论框架——将其视为一种伙伴关系，建立在信任、同理心和理解之上，而不是继续以恐惧的心态讨论AI，并在研发技术时不使其真正能够与我们建立联系。
我们将在Affectiva第三届年度情绪AI峰会（10月15日于波士顿举行）上探讨人与AI之间的新社会契约及其所有相关影响。报名。如果您希望参与并推动这一对话，欢迎在此报名，我们非常期待听到您的想法。
