人脸识别软件（FRS）可能被滥用，这引发了关于伦理使用、隐私和可及性的根本性问题。
开发人脸识别软件的人员可以制定标准，帮助确保技术设计符合伦理且负责任。
人脸识别软件（FRS）近来成为头条新闻，这也理所应当。其被滥用的可能性引发了关于伦理使用、隐私和可及性的根本性问题。在某些情况下，主要公司甚至已暂停开发，一些非政府组织也呼吁全面禁止。
此类举措促使一些人推动人脸识别技术开发的标准化，因为许多人意识到该技术可能被用于进行不可接受的自由侵犯。美国一座主要城市的警察局长甚至指出，FRS的准确率较低，可能导致执法部门误认某人 96%的时间，如果执法人员 仅依靠该技术本身。
为缓解这些担忧，开发人脸识别软件的人员可以制定标准，帮助确保技术设计符合伦理且负责任。这类以人为本的标准有助于建立信任，并防范偏见或误用。
过去一年，世界经济论坛人工智能团队发现，可以对人脸识别技术设定负责任的限制。其人工智能团队与公共和私营部门合作，开发了一个独特的FRS框架 ，该框架以工程师的负责任开发和政策制定者的负责任部署为核心。
该框架是首个超越一般原则、将商业用例落实到伦理和负责任人工智能旗帜下的框架。它包括四个简单步骤：
1. 制定定义负责任使用的原则。
新冠疫情推动非接触式服务成为安全核实身份的方式，人脸识别因此获得特别重要的地位。虽然无接触、无密码技术是未来方向，但企业可以决定前进的方向。
为引导这一历程并防止滥用，企业可以起草一套“行动原则”，明确构成负责任人脸识别技术的要素。这些原则应聚焦于7个关键领域，以保护用户免受该技术的任何滥用，并应与行业参与者、政策制定者、倡导团体和学者协商制定，力求使这些利益相关方达成高度共识。这些领域包括：
隐私：保护终端用户的个人数据
风险评估：建立流程，以降低错误及其后果的风险
技术的比例性使用：评估使用风险与机遇之间的权衡
问责：明确平台提供商和使用该技术的组织的责任
同意：规定终端用户自由同意的规则
可及性：确保技术能够适应不同能力的人群
适应性：在情况变化时提供备用选项，并安排人员进行监督
为确保有效采纳这些行动原则，必须通过内部流程和监督将其嵌入业务运营的核心，以降低潜在风险。
综合考虑这些要点，可以确保高水平的安全性并尊重数据隐私。其应用可体现为以下机制：例如在24小时后自动删除生物识别数据，在设计人员中开展影响评估以识别任何潜在偏见，或设计公共标识，使路人知道人脸识别系统正在运行。
“以人为本的标准有助于建立信任，并防范偏见或误用。”
2. 设计支持产品团队的系统。
在开发“设计即负责任”的技术时，产品团队需要特别的支持、最佳实践以及用于测试或质量控制的系统。设计此类支持系统时需考虑的因素包括：
人脸识别的合理性论证
与终端用户特征相匹配的数据方案
偏见风险缓解
告知终端用户的方法
在考虑每个因素时，使用该技术的组织与平台提供商之间的密切合作将有助于降低任何风险。例如，在偏见风险缓解方面，平台提供商提供的算法必须使用能够真实代表服务用户的数据进行训练，并在发布前测试系统，以确保其运行正常。为此，组织应评估其终端用户的多样性，并与平台提供商共享，以相应地训练算法。
虽然承认偏见仍可能发生，但组织应通过建立足够稳健的备用系统来预见这一风险，确保为任何人提供同等水平的服务，从而减少因算法偏见导致的任何形式的歧视。
3. 自我评估您的工作。
最佳实践和原则不能孤立存在。自我评估是检查行动原则是否得到遵守、并识别潜在盲点的必要步骤。为此，评估问卷可以帮助团队检验其设计的系统在多大程度上符合其所设定的标准。
例如，在评估比例性使用时，组织可以检查是否考虑过人脸识别的替代方案，并记录拒绝这些替代方案的原因。它们还可以分析假阴性和假阳性的水平，并判断该水平是否适合其所部署的用例。它们还可以比较不同肤色群体的结果，以证明该系统不会产生任何形式的歧视。
发现差距时，评估过程可促使团队参照其最佳实践，采取内部行动弥补差距，并提升其对客户的问责水平和可信度。
4. 通过第三方审计验证合规性。
企业往往仅依赖自行制作的标签来建立用户透明度。这些标签的质量有时值得怀疑，还可能引发行业的系统性信任危机，进而削弱更广泛的透明度建设工作。
由独立的第三方进行审计，并依据行动原则颁发认证，可能是一条可行之路。可借鉴会计行业的经验，通过独立且经认可的机构增加透明度和安全性。[例如，在起草我们的FRS框架时，世界经济论坛人工智能团队与法国认证与评估服务领先机构AFNOR Certification开展了合作。]
这些评估应在系统向终端用户部署后立即进行，并定期开展，以证明标准在一段时间内持续得到遵守。如此一来，获得认证的组织便能够向客户传达其在一系列要求方面的合规情况。
虽然认证在许多行业和服务中被广泛采用，但人脸识别尽管受到高度审查，目前仍在没有任何现行认证的情况下部署。我们认为，只有借助此类机制，才能在该领域实现透明与信任。
展望未来
这四个步骤有助于为FRS中的流量管理用例设计负责任的系统。它们还可以确保其设计者和用户切实遵守这些可实现的原则。
认证是迈向FRS监管的可行一步。行业参与者、政策制定者、学者和民间社会在这一政策项目中的合作，表明各方强烈希望为FRS的商业用途制定标准。
然而，政府必须介入，通过法案以确保对FRS实施可持续的监管，并制定国际标准，界定该技术的负责任使用应是什么样子。政府还需解决执法领域使用FRS这一棘手问题，并为相关用例确定适当的监督和问责水平。
IBM、微软和亚马逊等组织近期呼吁监管，此后应出台新的法规或指导意见，否则我们可能会看到FRS的部署导致信任缺失和消费者回避。
