机器学习领域的新文档标准可以助力负责任的技术应用。
这些风险管理策略说明了企业如何在保护其宝贵知识产权的同时确保合规。
随着机器学习（ML）的使用日益普及，并且全球正加速推进数字化，一个问题随之而来：“谁在看管这家店？”
我们已见识过机器学习模型的强大之处与潜在陷阱。尽管企业日益意识到这些弊端（我们的研究显示许多企业仍落后于时代），但它们发现自己在没有一套公认工具或标准的情况下努力管理这些风险。与此同时，它们也深切意识到竞争环境，并理性地保护其专有方法。
部分地区的政府已率先提供早期护栏，开始监管底层模型数据；然而，全球标准尚未确立，针对机器学习模型的监管也尚未跟上。
对于企业而言，负责任地使用机器学习有两个关键要素，可作为审慎的“起点”：模型可解释性与数据透明度。若无法解释模型为何得出某一特定结果，几乎每个行业都会面临一定风险。在医疗等领域，当模型可能提出患者护理建议时，利害关系尤为重大。在金融服务领域，监管机构可能需要了解放贷机构为何发放某笔贷款。数据透明度可确保用于构建模型的训练数据集不存在不公平或非预期的偏见，否则可能导致受保护群体受到不成比例的影响；而且，消费者越来越多地拥有一项受法律保护的权利，即了解其数据如何被使用。
但是，当开发机器学习模型的企业需要公开特征、数据集和模型框架时，如何才能落实可解释性与透明度标准？而这些内容恰恰代表着该企业的专有知识产权（IP）。
通过文档管理风险
鉴于机器学习的复杂性和跨学科性质，高管应采用多种方法管理相关风险，包括将风险管理纳入模型开发和应用整体风险框架，这些框架借鉴并调整了用于管理其他类型企业风险的原则。高管还必须定期退后一步，思考使用机器学习对员工和社会产生的广泛影响。
这些方法背后共通的一项横向实践是文档记录。文档可同时作为可解释性与透明度的机制，并在不暴露底层数据或模型特征的前提下，为模型各方面及其内容提供一种替代性说明。
标准技术文档的编制旨在帮助从业者部署模型，而聚焦于可解释性与透明度的文档则向消费者、监管机构及其他相关方说明模型或数据集为何被使用以及如何被使用。此类文档包括对模型本身的高层概述，内容涵盖：其预期用途、性能与来源；关于训练数据集和训练过程的信息；模型已知的问题或权衡取舍；已识别的风险缓解策略；以及其他有助于理解该技术背景的任何信息。文档可以以模型说明卡、评分卡、算法影响评估和/或数据集标签的形式提交。
列出成分而不透露配方
我们可以用食品制造商销售的饼干来做一个很好的类比（该类比受到“数据营养项目”启发，本文一位作者以个人身份参与了该项目）。虽然生产此类饼干的企业不愿分享专有配方，但食品监管机构要求在包装上附有营养标签，并向消费者列出成分。消费者无需知道确切配方即可对饼干做出明智选择；他们只需要以易于理解的方式获得成分概述和宏量营养素概况。
同样，模型文档可以成为与外界分享模型、其特征及数据集的替代方式，而非分享真正的“饼干配方”。这使他人能够检查模型的“健康状况”及其设计依据，而无需知道或能够推导出如何复现该模型。由此并不会泄露任何商业秘密。
世界经济论坛如何帮助各国政府负责任地采用人工智能技术？
重要的是，文档有助于企业及早识别关键问题。在一个切合时宜的例子中，某州政府在构建模型以帮助管理COVID-19疫苗分配时，通过编制模型文档意识到若干地区代表性不足，并迅速重新校准模型以纠正这一问题。
文档还为企业带来其他益处。例如，它可以帮助企业应对市场变化。以饼干为例，这类似于营养学家看到饼干含有大量反式脂肪时亮起的红灯。一旦消费者意识到过量反式脂肪的危害，并转而购买不含反式脂肪的饼干，食品生产商可能会自主决定开发更健康的配方，以满足消费者需求。
将文档落到实处
企业若希望将这一做法付诸实施，可采取自下而上的方法：由从业者和业务相关方共同决定需要记录模型内容与流程的哪些信息。随后，可为机器学习或数据集开发人员提供一份与选定类别相对应的问题清单。例如，对于数据集，我们已看到描述、构成、来源、收集和管理等类别的出现。
编制文档的过程还需要跨职能团队的支持。其他团队成员可能包括：主题专家（以理解模型和数据用例的影响）、法律/监管专家，以及参与数据整理和管理的人员。团队中还可能包括受人工智能系统影响的任一群体的代表，以确保受影响者真正理解文档内容。
并非所有模型都需要相同程度的风险管理。文档编制过程可能耗费时间和精力，因此我们建议将这一做法纳入风险评估框架。高风险模型很可能是合适的起点。随着文档编制的某些环节逐步实现自动化，低风险用例也可能成为更为审慎的文档编制的良好候选对象。
无需等待通用文档标准
营养标签之所以有用，是因为其已标准化，使消费者知道在哪里查看特定成分。同样，当模型和数据文档被普遍应用并被理解，或至少具备互操作性时，其作用会更加强大。目前有多项机器学习文档编制倡议正在推进，但尚无胜出者。
各国政府将在这一领域进一步加强监管，而我们并不主张制定具体法律或政策变革。但开始参与文档编制本身，可以成为推动协作与进一步研究的强制性驱动力，同时保护您的知识产权。
