如今，人造机器可能反过来对付其创造者，已成为热门话题。毫无疑问，艾萨克·阿西莫夫的机器人三定律已不再适用。为了全球公共利益，我们需要更严肃、更具体的规则，来守护人类无限的抱负，也守护人类自身。
如今，互联网连接着全球超过一半的人口。互联网为我们带来便利和效率，同时也带来威胁。在大数据和人工智能深度影响日常生活的时代，这一点尤为明显。算法已被广泛用于决定我们读什么、去哪里以及如何抵达，听什么音乐，以及以什么价格购买什么商品。自动驾驶汽车、自动癌症诊断和机器写作从未像今天这样接近大规模商业应用。
如果说数据是新的石油，那么人工智能就是新的钻井设备；沿着这个比喻，失灵的算法就是新的污染。
需要指出的是，失灵不等于恶意。同样，善意也不能保证不会出现法律、伦理和社会问题。人工智能领域已经出现了许多此类问题，例如非预期行为、缺乏预见、监测和监督困难、责任分散、侵犯隐私、算法偏见和滥用。此外，一些研究人员开始担忧，智能机器取代人类劳动可能导致失业率上升。
问题正在逼近
如今，人工智能行为失当的情况日益普遍。一款人脸识别应用将非裔美国人标记为大猩猩；另一款则将28名美国国会议员识别为通缉犯。美国法院使用的一款风险评估工具被指存在针对非裔美国人的偏见；优步的自动驾驶汽车在亚利桑那州撞死了一名行人；Facebook和其他大型公司因歧视性广告做法遭到起诉；致命的人工智能武器正在研发中。
我们正迈入未知领域，因此迫切需要规则和指导原则作为指南针，引领我们走向正确方向。技术伦理比以往任何时候都更加重要，必须成为这套规则和原则的核心。
我们应当肯定早期为建立此类框架所作的一些努力。值得一提的例子包括阿西洛马人工智能原则，以及IEEE的伦理标准与认证计划。
2018年末，腾讯创始人兼首席执行官马化腾提出了一个人工智能治理伦理框架，即ARCC（普惠、可靠、全面、可控）。
普惠、可靠、可理解、可控：ARCC
马化腾的框架可以成为中国乃至全球人工智能系统治理的基础。其目标是确保未来数千年里人类与机器保持友好、健康的关系。
普惠。
人工智能应惠及大众，而非少数人。我们早已习惯智能手机和笔记本电脑带来的便利，却往往忘记，全球仍有一半人口被隔绝在这场数字革命之外。
人工智能的进步应当解决这一问题，而不是让情况恶化。我们需要让发展中地区的居民、老年人和残障人士融入这个数字世界。人工智能发展的唯一目的应是增进全人类福祉。这样才能确保人工智能不会只增进部分人的利益，而损害其他人的利益。
近期医疗机器人的发展就是一个例子。觅影是腾讯推出的人工智能医学影像诊断解决方案，目前正与数百家地方医院的放射科医生合作。这套癌症预筛查系统已研究数十亿张医学影像，并检出数十万例高风险病例。随后，机器人会将这些病例转交专家。这样一来，医生不必每天耗费大量时间查看影像，便能腾出更多时间诊治患者。
此外，普惠的人工智能也应是公平的。完全理性的机器理应公正，不受情绪化或偏见等人类弱点影响，但这一点不能想当然。近期发生的事件，例如微软聊天机器人使用粗俗语言，表明人工智能在输入不准确、不完整或带有偏见的数据时，可能严重出错。为此，宜采用“伦理融入设计”的方法，即在人工智能开发过程中谨慎识别、解决并消除偏见。
监管机构已经在制定应对偏见和歧视的指导方针与原则。谷歌和微软等企业也已设立内部伦理委员会，指导其人工智能研究。
可靠。
人工智能已进入数百万个家庭，因此我们需要确保它们安全、可靠，并能够防范网络攻击及其他事故。
以自动驾驶汽车为例。腾讯正在开发L3级自动驾驶系统，并已获得许可，可在深圳公共道路上测试自动驾驶汽车。但在取得测试许可前，其自动驾驶汽车已在封闭场地进行了超过一千公里的测试。如今，真正的自动驾驶汽车尚未在我们的道路上投入商业使用，因为相关认证标准和法规仍有待制定。
此外，要做到可靠，人工智能还应保障数字、物理和政治安全，尤其是隐私安全。我们已经看到，有些案例未经用户同意就收集个人数据，用于训练人工智能系统。因此，人工智能应符合隐私要求，在设计中保护隐私，并防范数据滥用。
可理解
人工智能系统极其复杂，因此说起来容易做起来难。深度神经网络输入与输出之间的隐藏层令其难以理解，连开发者也不例外。因此，如果发生涉及算法的车祸，我们可能需要数年才能查明故障原因。
值得庆幸的是，人工智能行业已经对可解释人工智能模型开展了一些研究。算法透明是实现人工智能可理解的一种途径。用户或许不关心产品背后的算法，但监管机构需要深入了解其技术细节。尽管如此，良好的做法是向用户提供易于理解的信息和说明，解释人工智能系统辅助或作出的决策。
要开发可理解的人工智能，应保障并鼓励公众参与和个人行使权利。人工智能开发不应成为商业公司的秘密活动。作为最终用户的公众可以提供宝贵反馈，这对开发高质量人工智能至关重要。
应要求科技公司向客户提供有关人工智能系统用途、功能、局限性和影响的信息。
可控
最后一项原则同样重要：确保我们人类始终掌握主导权。
每一项创新都伴随风险。但我们不应因担心某种通用人工智能会导致人类灭绝，就放弃借助新技术追求更美好未来。我们应确保人工智能带来的益处远大于潜在风险。为此，必须建立适当的预防措施，以防范可预见的风险。
目前，人们往往比起人工智能更信任陌生人。我们经常听说自动驾驶汽车不安全、过滤器不公平、推荐算法限制选择、定价机器人向我们收取更高费用。这种根深蒂固的怀疑源于信息匮乏，因为我们大多数人要么不在意，要么缺乏理解人工智能所需的知识。
我们该怎么办？
我想提出一套从伦理框架出发、涵盖不同层次的规则，以帮助人工智能开发者及其产品赢得应有的信任。
在规则光谱的一端，是较为宽松的规则，例如社会惯例、道德规范和自我监管。前面提到的伦理框架就属于这一类。在国际层面，谷歌、微软等大型公司已提出各自的人工智能原则；阿西洛马人工智能原则和IEEE人工智能伦理计划也广受好评。
沿着这一光谱向前，还有标准和法规等强制性、具有约束力的规则。今年，我们撰写了一份关于自动驾驶汽车的政策报告，发现许多国家正在制定法律，既鼓励也规范自动驾驶汽车的发展。未来还将出台新的人工智能法律。
再往前，还有刑法，用于惩罚恶意使用人工智能的不法行为者。在最严格的一端，则是国际法。例如，一些国际学者一直推动联合国制定一项关于致命性自主武器的公约，类似于《关于禁止或限制使用某些常规武器的公约》。
任何新技术，无论是可控核反应还是人形机器人，本身都无所谓好坏。要确保它成为有益之物，取决于我们。
