第一印象
第一次见到某人时，我们会在心里对其作出瞬间判断。我们无法控制自己，就是会这样评判别人。只看几秒钟，我们可能就会留意到对方的性别、种族和年龄，或判断自己是否觉得他们有吸引力、值得信任或心地善良。
真正了解一个人之后，我们可能会发现最初对他们的看法是错的。没什么大不了的，对吧？
然而，想到我们的假设可能会影响未来人工智能（AI）如何作出越来越重要的决策，这就成了大问题。
为了向公众说明这一问题，墨尔本大学的研究人员创建了生物识别镜。
公众认知
生物识别镜是一种人工智能，可以分析一个人的面部，并显示有关此人的14项特征，包括年龄、种族以及其被感知的吸引力程度。
为了训练系统完成这项工作，墨尔本大学的研究人员首先请人类志愿者根据相同特征评判数千张照片。这些评判构成了生物识别镜分析新面孔时参考的数据集。由于志愿者提供的信息带有主观性，生物识别镜的输出结果也如此。如果大多数受访者认为留胡子的人看起来不太值得信任，这就会影响生物识别镜对留胡子的人的评判。
人工智能伦理
使用生物识别镜时，一个人只需在系统前站几秒钟。系统会迅速扫描其面部，然后在屏幕上列出它所感知到的特征。接着，人工智能会让此人思考：如果系统把这些信息分享给别人，他们会作何感受？如果因为人工智能认为他们的可信度较低而没能找到工作，他们会有什么感受？或者，如果执法人员因为系统认为他们的攻击性很强而决定将其列为目标，他们又会作何感受？
“我们的研究旨在引发关于人工智能边界的棘手问题。它向用户展示，部署会以不道德或有问题的方式进行歧视、并可能造成社会后果的人工智能，是多么容易。”首席研究员尼尔斯·沃特斯在一份新闻稿中说。“我们希望通过推动围绕隐私和大规模监控的讨论，增进人们对人工智能伦理的理解。”
消除偏见
随着人工智能得到更广泛的应用并作出越来越重要的决策，像生物识别镜这样带有偏见的系统可能造成重大后果。而这并非遥远的未来可能性；我们已经在当今的系统中看到了一些例子。研究人员正在努力寻找方法，确保未来的系统不含有同样的缺陷；与此同时，公众也应考虑带有偏见的人工智能可能对社会造成的影响。生物识别镜或许能帮助他们做到这一点。
