人工智能系统是企业和政府处理数据、应对不断变化形势的强大工具，无论是在股票市场上还是在战场上。但目前仍有一些事情是人工智能尚未准备好应对的。
我们是从事 计算机科学 研究的学者，致力于理解并改进算法与社会互动的方式。当目标明确且数据质量较高时，人工智能系统的表现最佳，例如在从大量已正确标注身份的照片中学习后，区分不同的人脸。
有时人工智能系统表现出色，以至于用户和观察者对该技术的洞察力感到惊讶。然而，有时成功难以衡量或定义有误，或训练数据与当前任务不匹配。在这些情况下，人工智能算法往往会以不可预测且极为惊人的方式失败，不过往往不易立即察觉出现了错误。因此，对人工智能所能做的事情的炒作与热情应保持警惕，不应想当然地认为其得出的解决方案总是正确的。
算法运行时，应设有人类安全网，以防止对人造成伤害。我们的研究表明，在某些情况下，算法能够识别自身运行中的问题，并请求人类协助。具体而言，我们的研究表明，在某些情境下，请求人类协助有助于缓解算法偏见。
算法有多确定？
人工智能系统正被用于刑事量刑、基于面部的人格画像、简历筛选、医疗保健参保登记以及其他涉及人们生命和福祉的艰难任务。美国政府机构正开始加大对人工智能系统的探索与应用力度，以响应近期美国总统唐纳德·特朗普（Donald Trump）发布的行政令。
但需要记住的是，人工智能可能会固化人们对某项任务处理方式的错误认知，或放大现有的不平等。即使没有人明确告诉算法要区别对待任何人，这种情况仍可能发生。
例如，许多公司拥有试图通过面部判断人的特征的算法，比如猜测其性别。美国公司开发的系统往往在识别白人男性方面表现明显更好，相比女性和肤色较深的人群；在深色皮肤女性上表现最差。然而，中国开发的系统则往往在白人面孔上表现较差。
造成这种差异，并非因为某一群体的面孔比其他群体更容易分类。相反，两类算法通常都是基于一个多样性不及整体人口的大规模数据集进行训练的。如果数据集以某一特定类型的面孔为主（美国的白人男性，中国的中国人面孔），那么算法在分析这些面孔时，很可能会比分析其他面孔表现更好。
无论差异如何产生，结果都是：算法可能因为对某一群体比另一群体更为准确，而产生偏见。
以人类视角审视人工智能
对于高风险情境，算法对其自身结果的置信度，即其对系统给出正确答案的可能性的估计，与结果本身同样重要。接收算法输出结果的人需要知道应当如何认真看待这些结果，而不应仅仅因为结果来自计算机就假定其正确。
直到最近，研究人员才开始尝试识别算法和数据中的不平等现象，更遑论尝试加以修正。算法可以被编程以识别自身的不足，并在此识别的基础上请求人员协助完成任务。
许多类型的人工智能算法已能计算其内部的置信水平，即对其分析某一特定输入数据效果的预测。在面部分析中，许多人工智能算法的置信度较低，尤其体现在深色皮肤面孔和女性面孔上，低于对白人男性面孔的置信度。目前 尚不清楚执法部门在对这些算法进行高风险应用时，在多大程度上考虑了这一点。
目标是让人工智能自身定位其对不同群体未能达到同等准确度的领域。对于这些输入，人工智能可以将决策转交给人工审核员。这一技术特别适用于内容审核等高度依赖语境的任务。内容审核。
人工内容审核员无法应对社交媒体网站上涌现的海量图片。但人工智能内容审核却以未能考虑帖子背后的语境而闻名，例如将关于性取向的讨论误判为露骨内容，或将《独立宣言》识别为仇恨言论。这可能导致对某一人口群体或政治团体进行不准确的审查，而对另一方则不然。
为兼顾两者之长，我们的研究建议以目前已普遍使用的相同人工智能方法，以自动化方式为所有内容评分。随后，我们的方法采用新提出的技术，自动定位算法在不同受保护人群上准确度可能存在的不平等，并将某些个体的决策移交给人工处理。因此，算法对其实际作出决策的那些人而言可以做到完全无偏。而对于算法决策必然会产生偏见的那些个体，则由人类做出决策。
这一方法并未消除偏见：它只是将潜在的偏见“集中”到数量较少的一组决策上，再由人类运用常识进行处理。人工智能仍可承担大部分决策工作。
这是一个示例，展示了人工智能算法与人类协同工作时，既能获得人工智能良好决策所带来的益处与效率，又不会受制于其不良决策。随后，人类将有更多时间处理那些模糊而艰难、但对确保公平与公正至关重要的决策。
