面部识别技术有可能帮助加快调查进程、将犯罪者绳之以法，从而解决、制止和预防犯罪。
执法机构最终的广泛使用引发了人们对错误逮捕、监控以及侵犯人权的潜在风险的担忧。
一份新的白皮书由世界经济论坛与国际刑事警察组织（国际刑警组织）、联合国区域间犯罪与司法研究所人工智能与机器人中心（UNICRI）以及荷兰警方合作发布，提出了一个框架，以确保负责任地使用面部识别技术。
该框架的测试将于2022年1月开始。
2021年4月，欧盟委员会（EC）发布了备受期待的《人工智能法》，这是一项全面的监管提案，将人工智能应用划分为不同风险类别。在已识别的高风险应用中，包括面部识别技术（FRT）在内的远程生物识别系统尤其令人担忧。如果缺乏稳健的治理机制，此类系统的部署，特别是在执法领域，可能导致侵犯人权。
执法与面部识别技术
在各个司法管辖区，政策制定者日益意识到执法部门使用面部识别技术所带来的机遇与风险。这里的面部识别是指通过将探测图像（嫌疑人或关注人员的照片或视频/静态画面）与存储在一个或多个参考数据库中的罪犯和失踪人员面部图像进行比对，从而（可能）识别某人身份的过程，以推进警方调查。
一方面，面部识别技术有潜力帮助解决、制止和预防犯罪，并将犯罪者绳之以法。更具体地说，它可用于各类调查，包括查明自动取款机欺诈犯罪者的身份、在公共场所寻找恐怖分子、打击儿童虐待，甚至寻找失踪人员。另一方面，早期经验表明，如果缺乏适当监督，面部识别技术可能导致侵犯人权并损害公民利益。
在这种背景下，要取得恰当的平衡似乎很困难。政策制定者可以探索多种选择，从全面禁止到引入额外的问责机制，以限制错误逮捕的风险。在美国，旧金山、奥克兰和波士顿等城市已禁止公共机构使用面部识别技术，而旧金山、奥克兰和波士顿已禁止公共机构使用面部识别技术，而华盛顿州、弗吉尼亚州和马萨诸塞州已出台立法以规范其使用。在其他地区，法院裁决在塑造政策议程方面发挥着重要作用。英国上诉法院裁定南威尔士警方部署面部识别技术以识别在某些活动和被认为可能发生犯罪的公共场所中的通缉人员，此举属于违法行为。
在更具全球性的层面上，联合国人权事务高级专员办事处（OHCHR）近期发布的报告关于数字时代隐私权的报告建议各国政府暂停在公共场所实时使用远程生物识别技术，直至其能够证明不存在重大的准确性或歧视性效应问题。报告还建议，这些人工智能系统必须遵守严格的隐私和数据保护标准。
面部识别技术需要健全的治理结构
尽管取得了这些重要进展，但世界上大多数政府都认识到面部识别系统对国家安全和保障的潜力，却仍在应对监管面部识别技术的挑战，因为一些关键考量在很大程度上被忽视了。如果我们授权为合法的警务目的按比例使用面部识别技术，那么应由哪个监督机构负责评估执法活动是否符合人权要求，并处理来自公民的潜在投诉？我们如何保持所部署的面部识别解决方案的高水平性能？执法机构应采用怎样的采购流程？
为应对这些挑战，世界经济论坛与国际刑事警察组织（国际刑警组织）、联合国区域间犯罪与司法研究所人工智能与机器人中心（UNICRI）以及荷兰警方合作，发布了一份白皮书，提出了一个治理框架，该框架由两个关键组成部分构成：
一套行动原则，通过涵盖所有相关政策考量，界定执法调查中负责任使用面部识别技术的具体内涵；
一份自我评估问卷，详细列出执法机构为确保遵守行动原则必须满足的要求。
因此，该倡议代表了针对执法调查中面部识别技术相关风险最全面的政策应对方案，由一个全球性的多利益相关方社群主导。
展望未来
该项目目前进入试点阶段。在此期间，我们将测试该治理框架，以确保其可实现性、相关性、可用性和完整性。我们将根据观察到的结果对其进行更新。
荷兰警察部队是首个同意参与测试过程的执法机构。然而，考虑到此用例的敏感性，我们强烈鼓励其他执法机构加入我们，共同为这一全球性努力做出贡献。我们也邀请参与面部识别技术治理全球政策辩论的政策制定者、行业参与者、民间社会代表和学者加入我们的倡议。
试点阶段完成后，我们将更新行动原则和自我评估问卷，并发布最终版本。
