埃丽卡·科奇是联合国儿童基金会创新主管，同时负责领导世界经济论坛全球未来理事会
人工智能（AI）为世界带来的机遇——从发现疾病的治疗方法——这些疾病每年夺去数百万人的生命；到大幅减少碳排放——都在与日俱增。这些机遇也包括人工智能的一个分支——机器学习。机器学习利用机器从海量数据中学习并据此进行预测的能力。机器学习（ML）已经为实现金融普惠、公民参与、更实惠的医疗服务等许多重要系统和服务创造了可能。机器学习系统可能会根据你的在线活动，在 Facebook 新闻动态中突出显示某条帖子，也可能在招聘过程中筛选申请者。机器学习是人类创造的最强大工具之一；学会善用它的力量，比以往任何时候都更加重要。
公众的关注往往集中在两个极端：一是人工超级智能对人类构成的生存威胁（“机器人要来杀我们了”），二是与之相反的救世叙事（“人工智能会解决我们所有的问题”）。但机器做出决策时，还存在一种更迫切、也更隐蔽的风险：系统性偏见和歧视可能因此加剧。机器学习技术已经在日常生活中做出影响人们人生的决策。正如吉姆·德怀尔在《纽约时报》中所写：“算法可以决定孩子去哪所学校上学、垃圾多久清运一次、哪些警区配备最多警员、建筑规范检查应重点针对哪些地方，甚至决定用哪些指标来评价教师。”
学会不歧视
随着我们赋予机器权力，让它们决定谁能获得重要机会，我们必须防止产生歧视性结果。毕竟，机器学习只是一种工具。人们有责任明智地使用它，尤其是那些推动其发展的人员，从企业领导者到系统工程师皆是如此。换言之，我们需要以这样的方式设计和使用机器学习应用：既提高业务效率，也促进并保护人权。利用技术实现决策自动化并非新鲜事。但机器学习技术的特性——无处不在、复杂、排他且不透明——可能加剧长期存在的机会获取不平等问题。机器学习造成的歧视性结果不仅会损害人权，还可能削弱公众对使用这项技术的企业的信任。我们必须评估歧视可能进入机器学习系统的途径，以应对这些风险，并让这些系统“学会”不歧视。
机器学会歧视会带来什么后果？
我们听到的大多数有关机器学习歧视的故事都来自美国和欧洲。诸如谷歌照片系统误将两位黑人朋友的合影标记为大猩猩，以及预测性警务工具被证明会加剧种族偏见等事件，都受到媒体广泛而重要的报道。在世界许多地区，尤其是中低收入国家，如果使用机器学习做出决策时没有采取充分措施防止歧视，很可能造成影响深远、持续长久且可能无法逆转的后果。以下是几个例子：
在印度尼西亚，经济发展在不同地理区域（继而也在不同族群）之间并不均衡。虽然全国各地接受高等教育的机会相对均等，但排名前十的大学都位于爪哇岛，入读这些大学的学生也绝大多数来自爪哇。当白领行业的企业训练机器学习系统，根据受教育程度等因素筛选求职者时，可能会系统性地排斥来自巴布亚等较贫困岛屿的人。
如今，保险公司已有办法预测个人未来的健康风险。墨西哥是这样一些国家之一：对大多数人而言，只有通过私人保险才能获得优质医疗服务。目前，至少有两家在墨西哥运营的跨国私人保险公司正在使用机器学习来提高效率和盈利能力，这可能影响人们公平获得适当医疗服务这一人权。设想保险公司利用机器学习挖掘购物记录等数据，识别与高风险客户相关的模式，并向他们收取更高费用：最贫困、病情最重的人将最无力负担医疗服务。如今，保险公司已有办法预测个人未来的健康风险。墨西哥是这样一些国家之一：对大多数人而言，只有通过私人保险才能获得优质医疗服务。目前，至少有两家在墨西哥运营的跨国私人保险公司正在使用机器学习来提高效率和盈利能力，这可能影响人们公平获得适当医疗服务这一人权。设想保险公司利用机器学习挖掘购物记录等数据，识别与高风险客户相关的模式，并向他们收取更高费用：最贫困、病情最重的人将最无力负担医疗服务。
尽管公开信息寥寥，报道称中国正在创建一种模型，通过分析从银行、税务、职业和绩效记录到智能手机、电子商务及社交媒体信息等广泛数据，为公民打分。《华盛顿邮报》将此描述为一种尝试，旨在利用数据来推行由共产党设定的道德权威。”未来，如果政府依据不完整或带有历史偏见的数据计算出的分数采取行动，并使用并非为实现公平而构建的模型，这将意味着什么？尽管公开信息寥寥，报道称中国正在创建一种模型，通过分析从银行、税务、职业和绩效记录到智能手机、电子商务及社交媒体信息等广泛数据，为公民打分。《华盛顿邮报》将此描述为一种尝试，旨在“利用数据来推行由共产党设定的道德权威”。未来，如果政府依据不完整或带有历史偏见的数据计算出的分数采取行动，并使用并非为实现公平而构建的模型，这将意味着什么？
这些情形表明，机器学习虽然能为世界带来巨大益处，但也伴随着需要考虑的重要风险。我们需要仔细审视歧视可能渗入机器学习系统的途径，以及企业可以采取哪些措施来防止这种情况。
如果正如克劳斯·施瓦布在其著作《第四次工业革命》中所言，我们希望携手“塑造一个惠及所有人的未来，以人为本，赋予人们力量，并时刻提醒自己，所有这些新技术首先都是由人创造、服务于人的工具”，那么我们就需要设计并使用机器学习来防止歧视，而不是加深歧视。
