新冠疫情扰乱了我们的行为模式，也打乱了AI系统的正常运行。
了解AI系统运行背景的领域专家，应评估新冠危机可能对其造成的影响。
麻省理工学院《技术评论》上周报道称，在新冠疫情背景下，多个AI系统正在失灵。从库存管理到推荐在线内容，这些系统都已无法正常运行。
这场冠状病毒危机的影响，反映出AI系统一个众所周知的局限：它们难以很好地应对新情况。事实上，两个月前，我曾警示这一挑战，即在新冠危机中使用AI所面临的问题。当时我关注的是为应对新冠问题而开发新算法的困难，但这一问题同样对既有的AI系统构成挑战。
因此，现在正是重新审视贵组织当前部署的AI系统，并评估它们在新冠时代是否仍然可行的时候。
为什么AI会出现问题？
目前几乎所有AI系统都采用某种形式的机器学习，其工作原理是分析大量训练数据，这些数据通常是系统所要学习任务的过往实例（例如过往的库存波动或内容流媒体行为）。机器学习系统会在训练数据中寻找规律，部署之后，则依据这些规律对新案例作出预测（例如下周的库存需求将是多少，某位新用户会喜欢什么）。
“新冠疫情等重大颠覆可能意味着，原本不属于算法组成部分的全新因素会突然变得重要。”
马蒂萨·霍利斯特
当新案例与训练数据中的实例相似时，机器学习方法的效果很好。机器学习算法能够识别训练数据中的细微规律，使其做出的预测可能比人类更快，甚至更准确。然而，如果新案例与训练数据存在根本性差异，尤其是当我们面临一套全新的规则时，训练数据中的规律就不再能作为有效的预测依据。部分算法被设计为持续加入新的训练数据并据此更新，但若发生重大变化，这种渐进式更新将不足以应对。要学会全新的规则，机器学习算法需要大量新数据。
除了缺乏训练数据中的相关实例外，如果一些在原始设计中未被考虑的新因素变得重要，AI系统也可能出现故障。AI开发者会挑选纳入训练数据的信息，并预先考虑与任务相关的所有因素。新冠疫情等重大颠覆可能意味着，原本不属于算法组成部分的全新因素会突然变得重要。此类情况需要对系统本身进行重新设计，改动范围可大可小，从微调到全面overhaul不等。
预判AI问题
并非所有AI算法都会在新冠疫情下遭遇性能问题。有鉴于此，您可以寄希望于系统不受影响，或仅对其性能下滑进行监控。不过，更积极的做法是预判问题，并采取战略行动加以应对。预判问题未必需要理解AI的技术细节。相比之下，更重要的是领域专业知识，即了解AI系统运行背景以及新冠危机如何影响该背景的人员。
领域专家应从两个方面审视AI系统。首先，训练数据的来源是什么？该训练数据在今天的相关性有多大？当前情况是否与训练数据中的实例足够相似，以至于算法所识别的规律仍然适用？
其次，系统考虑了哪些因素，其设计中内置了哪些关于因果关系的假设？当前是否有影响人们行为的新因素，而系统中却缺少这些因素？
制定行动计划
如果您的分析表明新冠疫情可能给AI系统带来问题，您有以下几种选择。
短期内，很可能需要加强人工监督。在新冠时代，我们人类同样难以理解世界的运行方式，但在大多数情况下，我们比AI更擅长应对新情况。甚至可能需要在一段时间内由人类发挥主导作用。例如，Facebook正借助事实核查机构，先行识别新冠虚假信息案例，再将这些案例与AI系统配对，以标记每个案例的大量变体，否则这些变体将超出事实核查能力的承载范围。随着AI系统获得更多新冠虚假信息的实例，它将学会识别其中的规律，并逐步能够自行识别新案例。
同样，如果缺乏相关训练数据是您系统面临的核心问题，您可以设法收集符合当前状况的新训练数据。如果您已识别出目前模型中未予考虑的、新出现的相关因素，那么您还需要重新设计AI系统，将这些因素纳入考量。
不过，如果您预计背景环境会再次发生剧烈变化，这些步骤可能并不值得投入。以识别假新闻为例，我们可以合理预期，新冠虚假信息今后的演变速度足够缓慢，使得训练AI系统来检测它是值得的。这类虚假信息的重大影响，以及目前已大量产生的数据，同样使这样的重新设计具有价值。相比之下，影响库存AI系统的突然消费变化是否代表一种稳定的“新常态”，并值得花费时间和成本去建模，目前尚不明确。
更深层的启示
尽管AI素有颠覆性技术之名，但它并不善于应对颠覆。新冠疫情凸显了这一问题，而它仍是一个持续存在的弱点。即便是缓慢的变化，也可能累积成足以威胁AI系统的显著偏移。因此，定期监控和重新审视是必要的。不过，监控AI系统最重要的一步，并非沉迷于技术细节，而是理解不断变化的环境。无论环境是缓慢演变，还是在我们脚下以令人不安的速度转变，都要确保系统仍然与之相适应。
