在炒作浪潮中推动AI走向公平，我们需要回归基本原则。
基本的公平原则适用于庞大的AI开发生命周期的各个层级。
对采集数据的人员的公平待遇正被忽视。
近来，关于开发AI应用的领导者需要构建“公平AI”的讨论不断；这种AI应当不带偏见、公正公平，并理想地改善所有受其影响者的生活质量。
然而，大多数关于伦理AI的思考都集中在模型、可解释性、技术团队和数据治理方面。
但是，何不考虑AI开发生命周期中的基本公平问题呢？这一生命周期十分庞大。它涵盖数据采集和标注承包商、管理数据的企业和个人、构建AI模型的技术专家、开发AI应用的市场推广专家，以及使用AI驱动产品和服务的企业和个人。
唯有采取这样的方法，我们才能确保技术持续让世界变得更美好。
什么是公平AI？
当AI产品部署到现实世界时，它必须按预期运行，在任何情况下都为所有预期受益者带来公平的结果，且不得在身体、心理或情感上伤害任何人。这是一项艰巨的任务，而它始于构建一个无偏见且全面的数据集。
尽管这一点似乎显而易见，但开发团队很容易将无偏见数据搁置一旁，转而专注于尽快取得成果。然而，这样做会产生一项长期责任，而开发人员很容易忘记持续履行这一责任。
AI何时会不公平？
不公平的表现形式为偏见可以以多种方式出现在AI中。
以刑事风险评估算法为例，这类算法利用行为数据和人口统计数据来判断再犯风险。
在解读复杂情境并发现可能造成现实后果的细微错误方面，基于计算机的标注系统无法单独完成这项工作。
Mark Brayan
一项最新研究 发现其中一种此类算法存在种族偏见。例如，一名18岁的黑人女性因盗窃一辆价值80美元的自行车而被以小额盗窃罪起诉。尽管她此前仅有一次青少年轻罪记录，但她被评定的再犯风险却高于一名41岁白人男性，后者因类似罪行被起诉，但曾有多次前科。
此后，该女性没有再犯任何其他罪行，而该男性如今正因盗窃价值数千美元的电子产品而服刑。显然，该算法基于质量低劣的数据。
不公平的AI也存在于日常技术之中。例如，某公司在多个国家销售配备语音识别功能的汽车，但该产品仅使用每种语言的本地男性说话者进行训练，那么该系统可能难以理解女性或带有不同口音的任何人。
这可能导致驾驶人被导航至错误的目的地。更糟糕的是，它可能引发分心驾驶，进而导致事故。除了对部分用户不公平之外，有偏见的数据还可能使解决方案提供商背负质量不达标的产品，从而损害其声誉。
人类的优势所在
开发全面且无偏见的数据集需要数据的多样性和广度。这可以确保产品在现实生活中可能遇到的每种情境下接受训练，例如汽车语音识别系统在目标市场中可能遇到的所有口音、语音语调和语言。
要实现这一点，就需要与能够代表整体客户画像的人员合作，共同采集、标注和验证AI模型的训练数据。
这还意味着在模型构建本身的环节中与多元化团队合作。在解读复杂情境并发现可能造成现实后果的细微错误方面，基于计算机的标注系统无法单独完成这项工作。
例如，为自动驾驶汽车应用标注图像或视频的人员可能会判断，一个以某种姿势走在两辆汽车之间的人可能正推着婴儿车，而婴儿车会先于此人出现在交通之中。
即使是最好的基于计算机的标注系统，也难以做出这一判断。同样，阅读产品评论的人比机器更有可能察觉讽刺意味。
数据背后的人
致力于公平AI的领导者在构建全球AI产品或服务时，必须纳入AI开发生命周期中的另一个重要环节：数以百万计采集和标注数据的人员。以公平和合乎伦理的方式与这些人员合作至关重要，理应成为每个组织责任宪章的一部分。
公平待遇意味着承诺提供公平的薪酬、灵活的工作时间，接纳来自任何背景的人，尊重隐私和保密，并以让对方感受到被倾听和尊重的方式与其合作。
领导者还应以一种让承包商为参与全球经济所使用的最具影响力技术而感到自豪的方式激励他们。
除了显而易见的原因之外，公平AI为何重要？
简单来说，它对社会有益，对企业也有益。例如，产品团队在打造能对其市场和世界产生积极影响的产品时会受到激励。但公平的产品还能带来哪些好处？
它们能够服务于整个目标客户群：基于具有代表性的数据开发的产品能够无偏见地服务所有用户，因此销售表现更佳，减少用户挫败感，并降低退货率。
它们更加安全：全面且无偏见的训练数据将带来更安全、质量更优的产品，降低故障的可能性。
它们能够建立忠诚度：优质的产品和良好的声誉是提升客户忠诚度的关键。
它们能够保护品牌：按预期运行的产品往往能降低品牌遭受严重且持久损害的风险。
根据一项MIT斯隆管理学院研究的研究，目前仅约十分之一的企业报告从AI中获得了“显著”的财务收益。
2021年，随着董事会专注于缩小AI潜力与现实之间的差距，他们将越来越重视采纳公平AI原则。他们知道，这将确保项目按设计运行、带来预期收益，并促进更美好的社会。
依赖AI的应用也正渗透到各行各业，包括公共部门。因此，AI开发者负有一定责任，确保其产品基于无偏见且全面的数据集构建，并服务于所有人。
商业和技术领导者应将公平AI奉为核心原则，以改善其业务，同时助力整个社会。
