负责任地使用人工智能，如何营造更安全的网络空间

• 人工智能算法对人类生活和更广泛的社会有着重大影响。
  

• 人工智能带来的伦理困境包括数字鸿沟及其武器化。
  

• 应在自主性与人工监督之间取得平衡，并提升人工智能的负责任使用水平，以便借助人工智能应对歧视。

随着计算机技术进步、数据科学发展以及海量数据集的普及，人工智能（AI）已成为日常现实和商业工具。大型科技公司——谷歌、亚马逊和Meta——如今都在开发基于人工智能的系统。这项技术可以模仿人类语音、检测癌症、预测犯罪活动、起草法律合同、解决无障碍问题，并比人类更出色地完成任务。对企业而言，人工智能有望预测业务成果、改进流程，并以大幅节省成本的方式提升效率。

然而，人们对人工智能的担忧仍在不断加深。

人工智能算法已变得极其强大——一些专家甚至称人工智能具有知觉能力——因此，任何腐败、篡改、偏见或歧视都可能对组织、人类生活和社会产生重大影响。

人工智能算法与数字歧视

人工智能决策日益广泛地影响人们的生活。不负责任地使用这些决策可能加剧现有的人类偏见和歧视性做法，例如种族画像、行为预测或性取向识别。这种内在偏见的产生，是因为人工智能的表现取决于我们能够提供多少训练数据，而这些数据可能受到人类偏见的影响。

如果用于训练和测试机器学习算法的数据对某些亚群体代表不足，也可能产生偏见，例如女性、有色人种或特定年龄群体。例如，研究表明，有色人种尤其容易在面部识别技术中遭受算法偏见。

使用方式也可能造成偏见。例如，为特定应用设计的人工智能算法可能被用于其设计时未预见的其他用途，进而导致输出结果被误解。

验证人工智能算法性能

人工智能导致的歧视可能抽象、不符合直觉、隐蔽、无形且难以发现。源代码很可能不向公众开放，审计人员也可能不了解算法的部署方式。要深入了解人工智能算法的编写方式并作出应对，其复杂性不容低估。

现行隐私法律依赖告知与选择机制，因此，消费者收到大量通知、被要求同意冗长隐私政策的情况屡见不鲜，而这些政策很少有人阅读。如果将此类通知机制应用于人工智能，将对消费者和社会的安全与隐私造成严重后果。

作为武器的人工智能

真正由人工智能驱动的恶意软件或许尚未出现，但可以设想，具备人工智能能力的恶意软件将增强攻击者的能力。可能性无穷无尽：恶意软件可以从环境中学习，以识别并利用新的漏洞；工具可以针对基于人工智能的安全系统进行测试；恶意软件也可以用错误信息污染人工智能。

人工智能操纵的数字内容已被用于实时制作高度逼真、合成的个人形象（也称为深度伪造）。因此，攻击者将利用深度伪造实施高度针对性的社会工程攻击、造成经济损失、操纵公众舆论或获取竞争优势。

降低人工智能算法相关风险

由于人工智能决策日益广泛地影响人们的生活，企业在以合乎伦理的方式管理人工智能应用方面，负有道德、社会和受托责任。企业可以通过多种方式做到这一点。

1. 将伦理转化为衡量指标

符合伦理的人工智能遵循明确界定的伦理准则和基本价值观，例如个人权利、隐私、不歧视，以及尤为重要的非操纵原则。组织必须制定明确原则，以识别、衡量、评估并降低人工智能带来的风险。接下来，还必须将这些原则转化为实用、可衡量的指标，并融入日常流程。

2. 了解人工智能算法中偏见的来源

要开发符合伦理的人工智能，拥有合适的工具来调查偏见来源，并了解公平性对决策的影响至关重要。应识别使用机器学习的系统，确定这些系统对业务的重要程度，并建立流程、控制措施和应对手段，以防范人工智能引发的偏见。

3. 在自主性与人工监督之间取得平衡

组织应成立跨领域伦理委员会，持续管理和监测组织内部及供应链中人工智能系统引入的风险。委员会成员应来自多元背景，以确保对各种伦理问题保持充分敏感。

算法设计必须纳入专家意见、情境知识，并考虑历史偏见。在关键领域，例如金融交易，必须强制要求人工授权流程，以防遭到恶意行为者侵害。

4. 赋能员工，提升负责任人工智能的地位

培育一种文化，让个人能够提出对人工智能系统的担忧，同时不扼杀创新。通过透明地明确角色、预期和责任，在内部建立对人工智能的信任和信心。认识到新岗位的需求，并积极开展技能提升、技能再培训或招聘。

通过提供更好的控制权和必要时寻求补救的渠道，可以赋能用户。强有力的领导也对赋能员工、提升负责任人工智能作为业务要务的地位至关重要。

5. 借助人工智能应对歧视

程序性审查是评估人类公平性的传统方法，也可以借助人工智能加以改进：让算法与人工决策流程并行运行、比较结果，并解释机器决策背后的原因。另一个例子是麻省理工学院（MIT）关于打击系统性种族主义的研究计划，该计划致力于开发和使用计算工具，在社会多个不同领域实现种族平等。

总而言之，人工智能模型在设计之初就必须值得信赖、公平且可解释。随着人工智能日益普及、治理模式逐步成形，更多由人工智能赋能的创新也将不断涌现。