应对新冠疫情需要加强对人工智能等前沿技术的治理——原因如下

• 新冠疫情危机对政府和企业领导层提出了新的特殊要求。

• 使用人工智能/机器学习工具的公司和机构，需要制定切合实际的治理实践，以维护消费者在中长期内的信心。

新冠疫情危机让人工智能/机器学习（AI/ML）在现实生活、实时场景中的快速发展和应用备受关注。无论是否有病毒，技术进步（以及全球深刻的人口结构变化和气候变化）都预示着未来十年将是变革与动荡的十年。然而，我们已经看到，AI/ML是新冠疫情应对图景的核心；而这些技术一旦投入使用，就需要进行协同评估、审慎治理，并由使用者小心处理。因此，这场危机对政府和企业领导层提出了新的特殊要求。

限制新冠病毒传播最有效、最及时、最广泛的工具，基本上都是“低科技”手段：保持身体距离、待在家中、勤洗手，并在可能的情况下保持身体健康。我们的祖母们一定会为此感到骄傲。但与这些措施相辅相成、并将在很大程度上决定我们能否以及多快走出这场危机的，是由AI/ML驱动的工具和技术——它们的应用如此新颖而出色，以至于我们甚至还不知道它们的名称，更不用说如何评估或管理其潜力与风险，或如何将其产出融入更广泛的战略和人类制度之中。

极度简化地说，任何AI/ML模型都会利用海量历史数据，对未来作出有力预测。按照定义，这些预测和洞见超出了人类处理能力，这既是它的优势，也可能是它的弱点。

• 这些预测的技术准确性和质量取决于：a）用于训练模型的基础数据的质量、完整性和无偏性；b）用于生成预测的数据；c）算法本身的设计和稳健性；以及d）模型遇到现实世界数据和实际影响时会发生什么。

• 人类是否适合依赖这些预测，取决于人们能否：a）根据技术当前的能力界定、选择并匹配应用场景（例如，AI/ML工具是否适用于要解决的问题）；b）设计模型以避免偏见、错误及其他不利影响（无论有意还是无意）；c）理解并结合具体情境考量依赖预测所带来的特定影响（不同应用场景的影响各异）；以及d）承诺持续主动监督模型的运行。

换言之，AI/ML工具的技术层面只是故事的一半，另一半在于我们——人类——如何构建、使用和治理这些工具。这正是当前新冠疫情危机带来重大机遇和重大挑战的地方：匆忙推动AI的长期应用，也使政府和企业领导层必须加紧关注如何设计和管理这些强大的早期技术。

如何保护人权和价值观，是深入讨论和初步监管工作的主题。然而，企业和政府正在当下作出决定，确定如何使用这些工具以及它们会产生什么影响。尽管如此，目前不同AI/ML应用尚无通用的内部质量标准或外部使用标准，也没有适用于所有情况的解决方案。因此，每一家使用AI/ML工具的公司和机构都需要针对具体应用场景制定切实可行的治理实践，既体现其更广泛的使命，也符合快速变化的市场标准。

如果不将这些技术的治理列入更广泛的战略和监督工作并予以优先考虑，企业和机构就可能面临原本可以避免的客户和公众信心流失、运营中断、法律责任，以及信任和声誉危机。终有一天，使用AI/ML工具的企业或机构若没有管理相关风险并发挥其效益的计划或战略，将令人难以想象。但这项工作确实需要现在就开始，因为这场公共卫生危机正在加速此类工具在直接影响患者、医疗服务提供者和我们其他人的场景中的使用。

新冠疫情及其引发的问题

• 当下：加速医学研究与药物发现
  诚然，这些工具的质量及其潜力各不相同，但鉴于人们已经依赖人工智能加速疾病研究和药物开发，我们也应加快制定防护措施。
  
  治理面临的重大挑战之一，是评估此类工具的可靠性、安全性和公平性。在许多情况下，设计完善的审计框架能帮助领导者评估系统是否值得信赖，但这在实践中可能颇具挑战。
  

• 未来：助力人口管理并遏制疾病传播
  追踪新冠患者及其接触者，被普遍认为是遏制疫情传播、最终放宽对人员流动和经济活动限制的关键措施。AI/ML赋能的接触者追踪工具曾在新加坡和韩国发挥显著作用，如今很可能以某种形式进入欧盟和美国。
  
  政府和企业正携手讨论隐私和效能问题，目标是兼顾两者；但认为必须二选一，是一种错误的取舍。如何实现并维持这种平衡，既取决于我们对技术功能的要求，也取决于我们对开发者、数据处理者、政府以及彼此的要求。除了个人数据的收集和保护，其具体用途、使用时长、与哪些其他数据集和技术结合，以及为公民自由设置哪些保障措施，都是未来需要认真考虑的问题。正如其他人提醒我们的，建立恰当的人工智能治理架构本身就是解决方案有效性的内在组成部分。
  

• 再往后：重启经济、优化资源与全面远程化
  除了具体的疾病管理，后疫情时代的经济也需要依靠AI/ML工具重启。这些工具将用于各种领域，从为员工匹配并评估就业机会、重建供应链库存，到为数百万学生提供并定制教育。随着企业重启并着眼于提高效率、增强灵活性和降低成本，采用这些工具的压力将会很大。
  
  一个值得关注的问题是，历史数据能否很好地用于预测后疫情时代的情况。可以说，AI/ML的处理能力对于企业和政府把握我们正在经历的深刻变化及其后果至关重要，而且必须足够迅速，才能作出必要调整。与此同时，错误风险和过度依赖历史做法的风险尤其高。这些风险叠加在已知的偏见、结果失控以及其他表现不足或过度的风险之上，也进一步凸显了企业必须将这些工具融入审慎设计的系统，并纳入人的意见、经验和情境判断。

将人工智能政策付诸实践：管理人工智能应用，实现长期成功
这一切都提高了对企业和政府高层领导者的要求：他们必须了解这些技术的应用场景、其真实（而非理想化）的能力，以及管理这些旨在超越人类分析能力的工具的特殊方式，从而增强整个组织的韧性。何时使用这些技术才真正合理？谁在使用？其数据如何管理？谁负责？如何培训团队开发、评估和运行这些工具？如何激励并衡量持续合规？

不存在现成的解决方案，也没有适用于所有情况的一刀切方案。通用人工智能政策并不少见，其中一些非常完善，监管也已提上日程。然而，企业和政府当前面临的挑战，是如何将这些原则转化为实际行动。这需要针对具体公司或政府、应用场景和技术开展密切而审慎的工作，并适应持续变化和挑战不断加剧的极速节奏。

其中一些工作最好由董事会层面监督，着眼于制定AI/ML战略并培育相应文化，以治理促进韧性和长期可持续发展。另一些工作最好由管理层负责，以支持上述战略和文化工作，同时落实相关流程，用于确定AI/ML工具及其他前沿技术的质量和影响，并确保其与组织使命相一致。无论如何，既然已有少数董事会和高管具备在这一不断演变的环境中履行监督职责所需的具体经验，我们就应在后疫情时代迅速推广这些经验。同样，要真正走出这场危机，企业和机构就必须制定战略、政策和计划，明确具体何时、何地以及如何使用这些技术（以及何时不使用）。

AI/ML正在促成此前未知的解决方案，其实现所需的时间尺度也前所未见。这些解决方案将成为我们走出当前危机的关键。从长远来看，它们还将改变我们工作的方式、彼此及与技术互动的方式、制定预测和共享数据的方式、招聘和受聘的方式，以及他人对我们的了解。令人振奋之处很多，我们都能支持更好的诊断和疗法、更少的疾病传播、更高效而稳健的劳动力市场和供应链。更快复苏将带来共同受益。只要承诺实行务实有效的治理，我们就能让这些效益长期延续。