人工智能（AI）或可帮助我们应对新冠肺炎疫情。
但首先，我们必须认真审视其可靠性、安全性和公平性。
以下介绍我们如何共同设计人工智能系统审计框架。
设想这样一个假设情境：一位国家元首会见一家健康科技初创企业的创始人。该企业声称，他们设计了一款由人工智能（AI）驱动的应用程序，可以预测哪些新冠肺炎患者更有可能发展为严重呼吸系统疾病。从健康和经济角度看，事关重大。此外，时间紧迫。
接下来应该怎么做？
全球确诊病例超过100万例之际，这样一款应用程序将会是有益的工具。它可以协助医生进行病床分配决策，并改善患者流转管理。如果配合在已发现感染的地点以及机场、火车站等战略地点开展大规模检测，这类工具理想情况下可以帮助防止医院过度拥挤，并有助于放宽社交距离规定。
目前还没有此类工具投入使用，不过纽约大学的一组研究人员正在开发类似的工具类似的。尽管如此，让我们继续这一思想实验，以理解人工智能带来的治理挑战，以及为何在危机时刻开展审计、确保问责至关重要。
尽职调查始于提出正确的问题。
面对这类假设应用等新技术解决方案，任何领导者都必须提出三个主要问题。首先，应用程序可靠吗？其次，它安全吗？最后，它公平吗？这些问题又引出一系列相关问题，涉及所考虑的可靠性、安全性和公平性定义，以及相应的评估指标。
理想情况下，对这些问题的回答应能为这类人工智能系统的审计提供依据；也就是说，研究委员会或任何受委任且具备相应能力的第三方，都应能够通过审查适当的文档，评估该系统是否可信。
遗憾的是，在实践中，获取并审查此类文档可能颇具挑战。相关困难主要与深度学习（DL）——机器学习的一个子类——以及人工智能行业的成熟程度有关。
机器学习是一种强大但有限的统计技术。
从本质上说，深度学习（DL）是一种统计技术，它利用多层神经网络，根据样本数据对模式进行分类。借助人类生成和机器生成的数据呈指数级增长，深度学习系统已在多个领域取得令人瞩目的突破，尤其是在计算机视觉和语音识别领域。
这些成果在一些重要方面令人瞩目，但在另一些方面也存在局限。首先，深度学习系统向来以不透明著称。事实上，人们难以用通俗语言解读其逻辑。如果我们要依靠自动化系统协助作出关键决策，例如判断哪位患者需要重症监护，这些系统就必须让医生和患者都能理解 。在实践中，这意味着在此类应用程序的规划、设计和开发过程中纳入医生和患者的观点，使他们能够参与决策过程。
此外，数据是深度学习学习过程的核心。深度学习所依赖的知识主要来自训练集所识别出的模式；训练集通常是带标签的数据，也就是用于训练预测模型的初始临床数据集。这又带来了隐私和数据完整性方面的挑战：确保准确的带标签临床数据得到妥善维护和保护相当困难。
人工智能服务的文档编制尚无标准化流程。
更根本地说，评估人工智能时，“适当”究竟意味着什么？是关于训练数据集的信息吗？是对模型的描述，包括其性能特征和潜在缺陷吗？全面的风险评估框架又该如何纳入偏见缓解策略？
回答这个问题尤其困难，部分原因在于，当前人工智能行业尚无记录人工智能系统的标准化流程。与软件行业不同，软件公司早已建立成熟流程，以提高服务的透明度并确保问责（包括设计文档、性能测试和网络安全规程）；人工智能从业者仍在摸索这些流程应当是什么样。这种标准化规程的缺失，既提醒我们这一领域尚处于发展早期，也体现了这一点。
前进之路
鉴于人工智能正在高风险领域迅速普及，“我们如何通过审计框架确保人工智能得到可信赖的使用？”这一问题重要至极，不能只交由行业处理。另一方面，相关应对方式因具体应用场景而异，需要深入了解所引入的系统，因此仅靠政策制定者无法解决这一问题。
只有真正的多方利益相关者参与进程，才能给出令人满意的答案。在世界经济论坛，我们已为这一目标采取切实行动：建立一个由政策制定者、公民社会、行业参与者和学术界组成的社群，共同设计人工智能系统审计框架。
只有携手合作，我们才能为新冠肺炎患者打造一种可接受实质性审计的人工智能，并帮助世界抵御和应对全球风险。
