当Netflix的电影推荐出错时，你大概会觉得这没什么大不了。同样，当你最喜欢的运动鞋没有出现在亚马逊的推荐商品清单中时，这大概也不是世界末日。但当一种算法给你分配了一个威胁评分（取值范围为1至500），并用于裁定刑期时，你可能会对这种预测分析的应用心存担忧。
人工智能（AI）如今已渗透到我们生活的方方面面。自然，机器预测不可能总是100%准确。但是，出错的代价会在人工智能被应用于高风险场景时急剧增加。这可能包括用于推荐新的癌症治疗方案的医学领域，或用于帮助法官评估嫌疑人再次犯罪的可能性的刑事司法领域。事实上，近年来人工智能最具争议的应用之一是预测性警务。
对普通受众而言，预测性警务方法最为人熟知的，大概是2002年的科幻电影《少数派报告》，由汤姆·克鲁斯主演。该片改编自菲利普·K·迪克的短篇小说，影片描绘了一个未来图景，在其中犯罪可以被预测并加以预防。这听起来或许像是遥不可及的乌托邦设想。然而，预测性司法已经存在于今天。借助先进的机器学习系统，一批新兴公司正在为法院提供预测服务，例如以风险评估算法的形式，估算罪犯再次犯罪的可能性。
机器能够识别未来的罪犯吗？
埃里克·卢米斯于2013年被捕后，被判处六年监禁，判决部分依据于一项不透明的算法预测，认为他会再次犯罪。Equivant（原名Northpointe）是这家公司，其背后的专有软件被用于埃里克·卢米斯的案件，该公司称其能够为被告提供360度全景视角，以便在司法决策中提供详细的算法辅助。
这家公司是众多在美国预测性司法领域的参与者之一。近期，一份由电子隐私信息中心发布的报告发现，算法正越来越多地被用于法庭，以“设定保释金、决定刑期，甚至参与有罪或无罪的认定”。法庭上更多地引入机器智能，使人工智能能够辅助人类判断，这一转变可能极为有益，对整个司法系统而言。
然而，由ProPublica进行的一项调查报告发现，这些算法往往会强化执法数据中的种族偏见。算法评估往往错误地将黑人被告标记为未来罪犯的概率，几乎是白人被告的两倍。更甚者，依赖这些风险评估的法官通常并不了解评分是如何计算的。
这是个问题，因为机器学习模型只能与其训练所用的数据一样可靠。如果基础数据以任何形式存在偏差，结构性不平等和不公平的偏见就不仅会被复制，还可能被放大。在这方面，人工智能工程师必须特别警惕自身的盲点和隐含假设；重要的不仅是机器学习技术的选择，还包括为人工智能模型查找、整理和标注训练数据过程中的所有细小决策，涉及为人工智能模型查找、整理和标注训练数据。
有偏见的数据催生有偏见的算法
即便是微小的不规则性和偏见，也会在最终的风险评估中造成可测量的差异。关键问题在于，种族偏见和结构性歧视等问题已深深嵌入我们周围的世界。
例如，有证据表明，尽管吸毒率相似，美国黑人因毒品相关指控而被捕的比例是美国白人的四倍。即便工程师忠实地收集了这些数据，并以此训练机器学习模型，人工智能仍会把内嵌偏见作为模型的一部分吸收进来。
系统性的不平等模式无处不在。如果你查看2014/2015年票房最高的电影，就会发现女性角色在银幕时间和台词时间两方面都严重代表性不足。新的机器学习模型能够量化这些不平等，但关于工程师如何主动缓解这些不平等，仍有许多悬而未决的问题。
谷歌近期推出的“Quick, Draw!”实验生动地说明了为何解决偏见问题至关重要。该实验邀请全球网民参与一场有趣的绘画游戏。每一轮游戏中，用户需要在20秒内画出一件物品，人工智能系统随后会尝试猜测他们所画的内容。来自100个国家的超过2000万人参与了游戏，由此产生了超过20亿幅多样化的绘画，涵盖各种物品，包括猫、椅子、明信片、蝴蝶、天际线等。
但当研究人员检查数据集中的鞋子绘画时，他们意识到其中存在强烈的文化偏见。大量早期用户所画的鞋子形似匡威运动鞋。这使模型习得了运动鞋的典型视觉特征，并将其视为“鞋子”应有模样的原型示例。因此，不像运动鞋的鞋子，例如高跟鞋、芭蕾平底鞋或洞洞鞋，并未被识别为鞋子。
近期的研究表明，若不加以控制，机器学习模型会习得过时的性别刻板印象，例如认为“医生”是男性、“接待员”是女性。类似地，基于美国历届总统图像训练的人工智能模型，被证明会预测只有男性候选人会成为总统竞选的可能胜者。
为人工智能设计公平性
2018年10月，国际数据保护与隐私专员会议发布了《人工智能伦理与保护宣言》，这是迈向人工智能国际治理原则体系的首批步骤之一。该宣言指出，“应当减少并缓解因人工智能中数据使用可能导致的非法偏见或歧视”。这一理念隐含的主张是：人工智能需要依据更广泛的伦理与法律标准进行评估，而不仅仅基于分类准确率和混淆矩阵。在此论点基础上，我为预测性司法的目的提出以下人工智能公平性原则：
1. 代表性
为防范不公平的偏见，所有群体在数据中都应有平等的被代表机会。有时这意味着需要审慎地将代表性不足的人群纳入任何训练数据集。有时这也意味着，有偏见的机器学习模型需要基于多样化的数据来源进行大幅度再训练。在谷歌的“Quick, draw!”实验中，工程团队不得不刻意寻找其他鞋型的额外训练样本，例如高跟鞋和洞洞鞋，以弥补代表性方面的不足。此外，近期研究提供了新的算法技术，以衡量代表性失衡，并帮助减轻不必要的偏见，应用于机器学习。
2. 保护
机器学习系统需要避免对个人产生不公正的影响，尤其是与社会和身体脆弱性相关的影响，以及其他敏感属性的影响。这些属性可能包括种族、民族、性别、国籍、性取向、宗教和政治信仰。算法的整体公平性必须依据其对受其影响的最脆弱人群所造成的影响来判断。
然而，仅仅从机器学习模型中剔除敏感变量并不能解决问题，因为存在各种混杂因素，它们可能与敏感变量相关。就刑事司法而言，研究表明，即使从犯罪史数据集中剔除种族信息，预测结果仍会呈现种族层面的显著差异。相反，有早期证据表明，可以利用辅助性机器学习算法从数据集中去除种族差异及其他敏感信息。希望未来这一方法能够帮助工程师构建用于再犯预测的“种族中立”人工智能系统。
3. 责任担当
算法公平远不止于不存在不公正；它代表着在机器学习系统设计中持续追求公平的积极责任。在这方面，这种责任担当精神只能由相互挑战彼此隐含假设的多元化团队来承担。
在常规的无意识偏见破除练习中，例如，团队可以培养对多元视角的欣赏。包括ProPublica和Privacy International在内的若干非政府组织，也已开始倡导在构建大规模人工智能模型的企业中落实多元化责任担当。因此，只有营造包容的文化，企业才能为团队处理机器学习中的不公平偏见创造合适的条件。
4. 真实性
最后一项原则不仅涉及训练数据的真实性，还涉及人工智能预测在辅助人类决策时的真实性。例如，尽管人们持续努力限制潜在有害或滥用的应用，机器学习过去仍被遗憾地用于通过深度伪造扭曲现实。在此背景下，人工智能的普遍滥用可能会帮助恶意行为者生成虚假视频（画面中人物说出他们从未说过的话），或虚假场景图像（描绘现实中从未发生过的情景）。推向极端，这可能导致这样一个世界：法官无法再判断所呈现的任何媒体或证据是否与真相相符。因此，这已促使一些媒体评论人士得出结论：AI 带来的“最大损失不会是工作，而是人们对所见所闻的一切彻底丧失信任。”所幸，AI 研究人员已在致力于有效且可扩展的应对措施，以检测各类被篡改的媒体内容。
以机器对抗机器偏见
这四项原则有助于开启关于 AI 公平性的讨论，尤其是在用于预测性司法的场景中。在机器学习中，公平从来不是默认设置。因此，工程师需要采取积极措施来改变这一默认设置。如果我们不主动设计 AI 的公平性，就有可能延续有害的偏见和刻板印象。
然而，AI 最令人瞩目之处之一在于，算法同样可以被有效用于衡量并缓解不公平的偏见。展望未来，我们有理由期待，工程师将把这些技术延伸应用于切实协助人类决策者，使预测结果不再带有偏见。
