人工智能（AI）为世界带来的机遇——从发现疾病的疗法（这些疾病每年导致数百万人死亡），到大幅减少碳排放——每天都在扩大。这其中包括人工智能的一个分支——机器学习，它利用机器从海量数据中学习并据此进行预测的能力。机器学习（ML）已经为实现以下目标开辟了途径：普惠金融、公民参与、更负担得起的医疗保健以及许多其他重要系统和服务。机器学习系统可能会根据你的在线活动，在 Facebook 新闻动态中突出显示某条帖子，也可能在招聘过程中筛选申请人。机器学习是人类创造的最强大工具之一——如今，学会善用其力量比以往任何时候都更加重要。
公众关注往往集中在人工超级智能对人类构成的生存威胁（“机器人要来杀我们了”），或与之相反的救世叙事（“人工智能会解决我们所有的问题”）。但机器做出决策时，还存在一种更迫切、也更不易察觉的风险：系统性偏见和歧视可能因此加剧。机器学习技术每天都在做出足以改变人们生活的决定。正如吉姆·德怀尔在《纽约时报》中所写：“算法可以决定孩子去哪里上学、垃圾多久清运一次、哪些警区会配备最多警员、建筑规范检查应当重点针对哪些地方，甚至决定用哪些指标评估教师。”
学会不歧视
当我们赋予机器权力，让它们对谁能获得重要机会做出关键决定时，就必须防止歧视性结果。毕竟，机器学习只是一种工具。明智地使用它的责任在人，尤其在推动其发展的引领者身上，从企业领导者到系统工程师皆是如此。换句话说，我们需要以一种既能提高商业效率、又能促进和保护人权的方式来设计和使用机器学习应用。利用技术自动化决策并非新做法。但机器学习技术的特性——无处不在、复杂、排他且不透明——可能加剧长期存在的机会获取不平等问题。机器学习中的歧视性结果不仅会损害人权，也可能削弱公众对使用这项技术的公司的信任。我们必须评估歧视可能进入机器学习系统的途径，以应对这些风险，继而让这些系统“学会”不歧视。
机器学会歧视会带来什么后果？
我们听到的大多数有关机器学习歧视的案例都发生在美国和欧洲。诸如谷歌照片系统误将两位黑人朋友的合影标记为大猩猩，以及已被证明会加剧种族偏见的预测性警务工具等事件，都获得了大量且重要的媒体报道。在世界许多地区，特别是中低收入国家，如果在没有采取充分预防措施以防止歧视的情况下使用机器学习做决策，很可能造成影响深远、持续时间长且可能无法挽回的后果。以下举例说明：
• 在印度尼西亚，经济发展在地理区域（继而也在族群）之间并不均衡。尽管全国范围内接受高等教育的机会相对均等，但排名前十的大学都位于爪哇岛，且就读这些大学的学生绝大多数来自爪哇。白领行业的企业若训练机器学习系统，根据受教育程度等因素筛选求职者，可能会系统性地排斥来自巴布亚等较贫困岛屿的人。
• 如今，保险公司已有办法预测个人未来的健康风险。墨西哥是多数人只能通过私人保险获得优质医疗保健的国家之一。目前，至少有两家在墨西哥运营的跨国私人保险公司正在使用机器学习来最大限度地提高效率和盈利能力，这可能影响人们公平获得适足医疗保健的人权。设想保险公司利用机器学习挖掘购物记录等数据，识别与高风险客户相关的模式，并向他们收取更高费用：最贫困、病情最重的人将最无力承担医疗服务费用。
• 尽管公开信息有限，但有报道称，中国正在建立一种模型，通过分析从银行、税务、职业和绩效记录，到智能手机、电子商务和社交媒体信息等广泛数据，为公民打分。《华盛顿邮报》将此描述为试图“利用这些数据，推行由共产党设计的道德权威”。未来，如果政府依据使用不完整或带有历史偏见的数据计算出的分数采取行动，而所用模型又并非以公平为目标构建，这将意味着什么？
这些情景说明，机器学习虽然能为世界带来巨大益处，但也有重要风险需要考虑。我们需要仔细审视歧视可能潜入机器学习系统的途径，以及企业可以采取哪些措施来防止这种情况。
正如克劳斯·施瓦布在其著作《第四次工业革命》中所主张的，如果我们希望携手“塑造一个造福所有人的未来：以人为本，赋能于人，并不断提醒自己，所有这些新技术首先且最重要的，都是由人创造、服务于人的工具”，我们就需要设计和使用机器学习来防止歧视，而不是加深歧视。
如何防止机器学习产生歧视性结果。点击此处下载完整报告。
