几乎每天都会出现新的报道，讲述人工智能的力量以及它将如何改变我们的世界。然而，机遇伴随着风险。我们理应为人工智能革新眼疾和癌症诊断而感到振奋，也应期待自动驾驶汽车带来的交通变革，但不应忽视其中的风险——最紧迫的问题之一就是偏见。
人工智能偏见不像杀手机器人穿越时空那样会成为下一部好莱坞大片的题材，但它仍可能是一个重大问题。
人工智能为何会带有偏见？
尽管把人工智能算法想象成完全没有情感且中立的系统令人宽慰，但事实并非如此。人工智能程序由遵循规则的算法构成，而这些规则需要经过教导。教导的方式是向算法输入数据，随后算法利用这些数据推断隐藏的模式和异常情况。如果训练数据收集不准确，错误或不公正的规则就可能成为算法的一部分，进而导致带有偏见的结果。
一些日常例子包括面部识别软件对非白人群体的识别效果较差，或语音识别软件对女性声音的识别效果不如对男性声音。此外，信贷机构和假释委员会所使用的人工智能被指存在种族歧视，更令人担忧。
信贷机构使用的算法可能依据现有信用评分数据开发，也可能基于某一特定群体的贷款还款记录。它也可能使用互联网上广泛可得的数据，例如某人的社交媒体行为，或其居住社区的一般特征。如果我们的数据源中哪怕只有少数存在偏见，包含性别、种族、肤色或族裔信息，或者我们收集的数据未能平等代表所有利益相关者，我们就可能在不知不觉中将偏见植入人工智能。
如果我们向人工智能输入的数据表明，高级职位大多由男性担任，人工智能可能会突然认定公司想招聘男性，即便性别并非招聘标准。使用质量欠佳的数据集训练算法，可能会让它得出这样的结论：女性不适合担任高管职位，或者来自贫困邮政编码区域的少数族裔更可能犯罪。
正如基础统计学所告诉我们的，即使两个特征之间存在相关性，也不意味着一个特征导致了另一个特征。这些结论可能并不成立，因此不应因此让个人处于不利地位。相反，这说明算法使用了收集不当的数据进行训练，应当予以纠正。
幸运的是，我们可以采取一些关键措施，防止人工智能产生这些偏见。
1. 认识偏见
承认人工智能可能带有偏见，是至关重要的第一步。认为机器人没有情感，所以人工智能不会有偏见，这种看法会妨碍我们采取必要措施解决偏见问题。忽视我们自身的责任和采取行动的能力，也会产生同样的后果。
2. 激励
认识到问题会带来一些改变的动力，但对所有人而言都不够。面向消费者开发产品的营利性公司有经济动机避免偏见、打造包容性产品；例如，如果X公司的最新智能手机语音识别不准确，不满意的顾客就会转投竞争对手。即便如此，成本效益分析仍可能导致某些用户受到歧视。
对于缺乏此类经济动机的群体，我们需要施加外部压力，促成另一种改变动力。政府机构使用带有偏见的算法，可能会不公正地影响数百万公民的生活。
在多个合作方共同部署人工智能的情况下，我们还需要明确的责任准则。例如，某项政府计划采用了私人开发、后由另一方重新包装的软件。谁该对此负责？我们必须避免出现人人互相推诿、永无止境的局面。
3. 确保使用优质数据
人工智能算法产生的所有偏见问题，根源都在于受污染的训练数据。如果我们能避免在数据收集方式和输入算法的数据中引入偏见，就已经在避免这些问题方面迈出了重要一步。例如，使用涵盖多种用户和口音、且各类用户均得到充分代表的数据训练语音识别软件，有助于确保少数群体不被排除在外。
如果人工智能使用廉价、易于获取的数据进行训练，这些数据很可能未经审查，无法确认其中是否存在偏见。这些数据可能来自代表性不足的来源。因此，我们需要确保人工智能以优质数据为基础，并以能减少偏见引入风险的方式收集这些数据。
4. 透明度
AI Now倡议认为，如果公共机构无法解释某种算法或说明它如何得出结论，就不应使用该算法。在这种情况下，我们可以找出偏见和不公正决定产生的原因，让人们有机会质疑输出结果，并据此提供反馈，以便妥善解决问题。这也有助于追究相关责任，并防止公司推卸责任。
人工智能无疑具有强大力量，也有潜力为社会带来巨大帮助，但我们不能把维护平等的责任推给所谓无所不知的人工智能这一幻象。偏见可能在无意间悄然出现，但我们仍能采取行动加以缓解和预防。这需要我们提高认识、建立动力、增强透明度，并确保使用正确的数据。
