这听起来像是出自Netflix的未来反乌托邦剧集《黑镜》。聊天机器人现在会问：“我能为您做些什么？”回复的文字是：“您是人类吗？”“当然，我是人类，”对方回答道，“但我怎么知道您是人类？”如此循环往复。
让人工智能背后的人承担责任
所谓的图灵测试，即人们质疑机器模仿人类智能的能力，如今正在发生。强大的人工智能（AI）依托日益复杂的算法，并输入海量数据（PB级），以及数十亿英镑的投资，如今正以指数级速度“学习”。人工智能也越来越多地参与决定人们的生活。
这给企业、社会、政界人士以及监管机构带来了许多紧迫的伦理问题。如果机器学习越来越多地决定向谁发放抵押贷款、向法院通报起诉案件、评估员工表现以及招聘哪些人，我们如何确定计算机化决策是公平、合理且不存在偏见的？
“问责是关键。人工智能背后的人必须承担责任，”TechUK首席执行官朱利安·戴维（Julian David）解释道。“因此，在赋予机器法律身份之前，我们需要非常审慎地考虑。真正希望行善并值得信赖的企业，将需要更加重视伦理问题。”
“真正希望行善并值得信赖的企业，将需要更加重视伦理问题”
随着剑桥分析公司因社交网络数据采集问题而倒闭，以及《通用数据保护条例》已于五月底生效，这些问题因此受到关注。它们凸显了一个事实：人类不应为数据或大企业服务，而数据最终必须服务于人类。
“公众开始对这一问题产生反感。人们说他们对欧盟法律和信息治理一无所知，但他们确实了解数据泄露以及像Facebook事件那样的丑闻，”上议院人工智能特别委员会主席克莱门特-琼斯勋爵（Lord Clement-Jones）说道。
前谷歌工程师约纳坦·祖格（Yonatan Zunger）更进一步指出，数据科学如今面临一场重大的伦理危机，这与历史上其他学科曾经面临的问题如出一辙：例如，化学家阿尔弗雷德·诺贝尔发明炸药，物理学在广岛核爆后经历了反思；医学经历了沙利度胺事件；人类生物学则因优生学而遭遇类似的问题。
伦理必须先于技术，而非相反
但历史告诉我们，伦理往往是跟在最新技术后面亦步亦趋，而非走在前面引领。“近期的丑闻表明，如果创新在未来要保持一定的可持续性，我们就需要仔细考虑数据科学和人工智能等变革性技术的伦理影响，”艾伦·图灵研究所数据伦理研究助理乔什·考尔斯（Josh Cowls）说道。
若要在21世纪蓬勃发展，企业必须正面应对伦理问题。据研究机构IDC预测，今年全球在认知系统上的支出预计将激增至约190亿美元，较2017年大幅增长54%。Gartner预测，到2020年，人工智能将在全球创造230万个新工作岗位，同时使工作场所中的180万个岗位消失。
核心关切在于：随着机器日益尝试复制人类行为并做出复杂的专业商业判断，我们如何确保决策过程中的公平、公正、诚信以及透明度？
“最简单的答案是，在我们能够克隆人脑之前，我们可能无法做到，”特许银行家协会董事总经理贾尔斯·卡斯伯特（Giles Cuthbert）解释道。“我们必须明确指出，人工智能本身不能对其行为承担责任。当然，当人工智能开始学习时，情况会变得更加复杂，但即便如此，学习能力也是被编程设定的。”
平衡道德权利与经济权利
行业内的情况远非公开透明；许多算法是企业最严密的商业机密，因为它们让私营企业在市场中占据优势。然而，不透明的所谓“黑箱人工智能”令许多人感到担忧。美国人工智能Now研究所呼吁停止使用这些未经审计的系统，因为它们超出了有意义的审查和问责范围。
“我们还需要从全球视角审视这一问题。企业未来将需要设立伦理委员会。在人工智能原则方面，这些委员会需要通过国际层面的行为准则加以协调，”大创新中心（Big Innovation Centre）首席执行官伯吉特·安德森教授（Professor Birgitte Andersen）说道。
“是的，我们拥有个人的道德权利，但我们不应忽视社会因共享数据而产生的经济权利。获取健康、能源、交通及个人数据，已帮助新兴企业和经济体实现增长。数据是新的石油，是新的增长引擎。要使人工智能发挥作用，数据就必须流动起来。”
英国可以在人工智能伦理方面率先发力
英国在人工智能伦理领域具备有利地位，可以率先发力。首相特蕾莎·梅（Theresa May）已呼吁设立新的数据伦理与创新中心。毕竟，英国是数学家艾伦·图灵的诞生地，图灵是早期人工智能思想的核心人物；谷歌的AlphaGo和DeepMind也起源于此。亚马逊Alexa的说话能力，也是由英国人教会的。
在多雅其他问题上，英国企业同样高度重视良好治理，包括多元化与包容性或环境问题。“英国拥有全球最优质的资源，可以在此基础上发展。伦理领域的领导力可以成为英国独特的卖点，但把握这一机遇的窗口相对较窄。现在正是采取行动的时候，”TechUK的戴维先生总结道。
为人工智能撰写一部“大宪章”
在世界经济论坛年度高管盛会上，首相特蕾莎·梅本可以谈论许多话题，但今年早些时候，她选择聚焦人工智能（AI），表示希望英国在塑造全球治理方面成为世界领导者，并即将设立一个全新的咨询委员会。
“我们希望新设立的、世界领先的数据伦理与创新中心与国际伙伴密切合作，以就如何确保安全、合乎伦理且具有创新性地部署人工智能达成共同理解，”她在达沃斯的演讲中表示。
“这包括制定各项规则和标准，以负责任的方式充分发挥人工智能的作用，例如确保算法不会延续其开发者的人类偏见。”
今年四月，英国首次就人工智能展开公开调查。上议院人工智能特别委员会建议制定一项国家及国际层面的人工智能行为准则，供各组织签署遵守。其报告还呼吁竞争与市场管理局对大型科技公司的“数据垄断”采取行动。
“在许多方面，我们需要一部新的《大宪章》，这次是为人工智能而制定，”特别委员会主席克莱门特-琼斯勋爵解释道。“我认为这已是一场与时间的赛跑。人工智能已经到来，复杂算法已经在影响人们的生活。我们需要的是快速而全面的应对方案。我们认为该领域不需要新的监管，而需要一个伦理框架。”
该委员会的调查以及设立数据伦理中心的举措，已经产生影响，使伦理成为英国人工智能政策思考的核心。阿达·洛夫莱斯研究所、信息专员办公室等机构的工作也日益获得动力，呼吁设立人工智能全球治理委员会的声音同样如此。
“令人鼓舞的是，政府正认真对待这些技术所带来的机遇和风险，”艾伦·图灵研究所数据伦理研究助理乔什·考尔斯说道。
“企业自身在伦理发展中也扮演着重要角色。这些努力协调得越有效，其成功的可能性就越大。如果它们成功，英国将能够主办人工智能技术的发展，这些技术既对社会有益，也对企业有利可图。”
