据传说，16世纪时，布拉格精神领袖的妻子召唤了一个用泥土制成的魔法生物——泥人（golem），以解决城市缺水的问题。她命令泥人去取水，却忘了告诉它何时停止。布拉格得到了所需的全部水源，甚至更多，由此引发的洪水淹没了城市，造成许多人死亡。
如今，我们也拥有自己的“魔法造物”，即被称为人工智能算法的数学公式。若运用得当，这些基于数据的决策引擎可以解决许多棘手的商业难题。若使用不当，这些引擎则可能造成严重破坏，使企业被狭隘的行动方案所淹没，从而带来财务和声誉上的双重损害。
目前正在实施或计划在其决策流程中引入人工智能的企业，必须学会明智地运用这些数字泥人，否则将付出代价。
人工智能是一股不可阻挡的力量
切勿误判：人工智能正在许多全球企业中走向成熟。麻省理工学院与波士顿咨询公司（MIT / BCG）近期开展的一项调查发现，在全球范围内，被调查企业中有20%开始将人工智能规模化应用，其人工智能团队配备齐全，人工智能引擎已全面产业化。该调查得出结论认为，这一小群人工智能领先者将能够利用人工智能的自学习能力，持续扩大其领先优势。因此，对于落后的企业（以及整个国家而言），挑战在于必须在这一差距变得无法弥合之前将其缩小。
遗憾的是，一些短视的管理团队试图通过一种“蛮力式”的人工智能实施方式追赶领先者，这反而可能招致更为惨重的失败。
基于人工智能的决策模型旨在最大化某一目标函数，无论其目标是优化利润率、减少库存，还是实现任何数量的商业目标。然而，这些算法缺乏人情味和灵魂，仅依据数字做出决策，有时会带来严重后果。
缺乏约束的人工智能在现实世界中的影响
如果您认为这只是数学家、数据科学家和程序员关在房间里争论的晦涩问题，不妨思考以下三个由人工智能主导、而非由人类参与决策所导致的现实案例。
⦁ 数家零售商曾因算法而陷入困境，这些算法旨在通过管理价格以最大化短期利润率。这些算法被设计用于评估各个零售门店的价格敏感度。那些产品需求受价格上涨影响相对较小的门店，被认为是进行一轮轮涨价的理想对象。
唯一的问题在于，算法所选定的门店位于贫困社区。当消息传开，得知这些公司竟对其最贫困的客户提价时，媒体的强烈抨击随之而来。各家公司很快便取消了涨价措施，但声誉损害已然造成。如果这些公司中有任何一家建立了包含人工复核人工智能决策的流程，这场公关灾难或许本可避免。
⦁ 一家时装零售商开发的人工智能引擎旨在识别特定客户最可能积极回应的商品。即便算法完全不存在偏见，该零售商仍发现，这一人工智能引擎会机械地向特定族裔群体的成员推送特定族裔的时装。该零售商面临的风险在于，这种筛选方式可能看起来助长了刻板印象。而如果零售商对算法进行硬编码以防止此类情况发生，这是否只是一种更隐蔽的刻板印象形式？
⦁ 某健康保险公司基于人工智能对每位客户的医疗治疗序列进行分析，随后启动了一项计划，为更可能住院的客户提供特殊服务。当该保险公司首次向部分选定客户提出这些服务时，呼叫中心员工发现，一些患者尚未意识到自己实际上更可能需要住院治疗。人工智能引擎的实施欠缺周全考虑，使该公司员工陷入尴尬境地：他们不得不向客户解释，为何向其提供了客户原本并不知道自己会需要的住院服务。
以常识化解过度计算的弊端
领导者习惯于为团队设定目标。这些目标往往以较为宏观、抽象的形式呈现，未能充分考虑现实世界的实际情况。所幸的是，团队成员通常凭借经验，知道如何运用常识、商业道德和道德价值观来实现目标。
例如，有这样一位员工，她理解更宏大的目标，但会在心中想：“我知道我不应当为那位客户提供这笔折扣，但如果我不提供，就会失去这位客户”；或者，她知道“我本应让这位年长者像其他人一样排队等候，但我还是会让她插队到队伍前面”；又或者“我本不应允许人们在不付账的情况下离开，但在这种情形下，给予他们更多时间在商业上更为明智”。
算法的问题在于，它们完全不具备这种“商业判断力”。它们是缺乏现实世界经验、常识或道德原则的机器。由于缺少这些关键属性，人工智能无法根据我们现实世界的复杂性来调整其决策。若任其肆意运行，算法完全有能力产出数以百万计的不当决策——而且其速度几乎达到光速，每一项决策都会对公司的盈利能力和声誉构成风险。
需要明确的是，我并非在谈论那些由意图违法或传播有害意识形态的人所开发的算法。我所指的是由怀抱最良善意图的团队所召唤出的数学造物。
认识新任首席执行官（“e”代表伦理 Ethics）
对于企业而言，为避免缺乏思考、缺乏情感的人工智能决策所带来的风险，它们首先必须学会如何预判意外后果。为此，企业必须建立“防护栏”——即一系列保障措施，以确保人工智能指令不会被机械地执行。这些防护栏可以通过将其硬编码至算法本身加以建立，并通过围绕算法设置具体的关键绩效指标（KPI）来加以执行。
有时，防护栏的建立可以相对简单。例如，一家知名快餐连锁企业开发了一款先进的引擎，用于向其忠实客户发送个性化促销信息。如果促销仅依据算法生成，该公司可能无意中提供过多的套餐优惠，从而有可能损害客户的健康。所幸该公司在方程中引入了常识，即每周对其所推广食品的卡路里总量设定上限。
在其他情况下，要建立防护栏以缓解人工智能决策的影响则要困难得多。必须部署一项新的“伦理”职能，以培训运营管理人员，使其能够预判人工智能所带来的实际商业风险。该职能的目标是与数据科学家合作，始终牢记关于算法的一个简单事实：即使是无偏见的人工智能引擎，也依赖于现实世界的数据（而这些数据就其本质而言是有偏见的），因此，基于人工智能的信息处理同样可能导致有偏见的决策，正如基于人类的信息处理一样。
伦理职能的作用必须比典型的合规导向型职能更为广泛，后者旨在建立并执行相关流程，以保护企业免受法律风险。与人工智能相关的伦理职能的总体目标，是培训管理人员和数据科学团队，以避免当这些类泥人算法被错误实施时可能导致的失败。为使该职能获得应有的重要地位，企业应任命一位首席伦理官，以协助另一位首席执行官制定人工智能政策并界定人工智能指导原则。
面对赶超领先人工智能企业的压力，企业必须极为审慎地推动人工智能的规模化应用，不能仅局限于算法设计和技术实施等较为直接的问题。正如布拉格泥人的案例所示，创造一个魔法生物在某种意义上是较为容易的部分。真正的挑战在于，如何使这一造物真正发挥作用。
在人工智能领域，算法编码约占所需总资源的10%。将算法集成到传统IT系统中又占20%。绝大部分精力——即最后的70%——则用于将人的因素与算法相融合，以做出明智的商业决策。企业往往低估了这最后的70%，但这是确保人工智能所带来的决策在现实世界中真正具有智慧的唯一途径。
