本文是世界经济论坛地缘战略平台的一部分
关于人工智能中无意识偏见的讨论，通常聚焦于那些无意中对整个社会群体造成不成比例伤害的算法，例如错误预测黑人被告未来会犯罪的算法，或主要利用白人男性照片开发、却难以准确识别女性和肤色较深人群的面部识别技术。
但问题可能远比这更深层。社会应当警惕另一种手段：恶意行为者可能试图通过将偏见隐藏在帮助人工智能系统学习的数据中，从而对人工智能系统发动攻击。蓄意地向其植入偏见。这可能为网络攻击、虚假信息运动或假新闻的扩散带来一个令人担忧的新维度。
根据一项美国政府关于大数据与隐私的研究（PDF），有偏见的算法可能使歧视性贷款、招聘或其他不良商业行为更容易被掩盖。算法可能被设计为利用看似无害但实际上具有歧视性的因素。采用现有技术，但借助有偏见的数据或算法，可能使隐藏恶意意图变得更加容易。商业数据经纪商收集并留存各类信息，例如网上浏览或购物习惯，这些信息都可能以此方式被利用。
以数据作为诱饵
有偏见的数据也可能充当诱饵。企业可能发布带有偏见的数据，希望竞争对手会用其训练人工智能算法，从而导致竞争对手降低自身产品质量，并削弱消费者对其产品的信心。
算法偏见攻击还可能被用于更便捷地推进意识形态议程。如果仇恨团体或政治倡导组织试图基于种族、性别、宗教或其他特征来针对或排斥特定人群，有偏见的算法可能为其提供正当理由，或为其直接实施此类行为提供更先进的手段。有偏见的数据还可能被用于选区重划工作，以固化种族隔离（“红线划分”）或限制投票权。
最后，来自外国行为者的国家安全威胁可能利用蓄意偏见攻击，通过破坏政府合法性或加剧公众极化来动摇社会稳定。这与据报道旨在利用意识形态分歧的策略十分吻合，即通过发布社交媒体帖子和购买网络广告，刻意激化种族矛盾。
将蓄意偏见注入算法决策，其破坏力可能极其简单而有效。这可能涉及复制或加剧已存在的、会产生偏见的因素。许多算法已经在使用有偏见的数据。攻击者可能明知这些数据集中包含的偏见，仍继续使用它们训练算法。这种由此产生的似是而非的推诿空间，正是使此类攻击如此隐蔽且可能极为有效的原因。攻击者将借助科技行业中围绕偏见的持续关注浪潮，加剧围绕多元化与包容性议题的极化。
被投毒的算法
通过篡改训练数据来“投毒”算法的想法并非完全新颖。美国高级情报官员已经 警告（PDF）网络攻击者可能暗中访问并随后更改数据，以破坏其完整性。证明恶意意图将是一项重大挑战，因此也会增加威慑的难度。
但动机或许并非关键所在。任何偏见都值得关注，它是社会基础设施完整性中的结构性缺陷。政府、企业和个人正日益以多种方式收集和使用数据，而这些做法可能引入偏见。
这表明，偏见是一项系统性挑战，需要整体性的解决方案。针对人工智能中无意偏见的既有应对方案，旨在推动劳动力多元化、扩大获取多样化训练数据的渠道，并建立算法透明度（即能够看清算法如何产生结果的能力）。
目前已有一些推动落实这些理念的进展。学术界与行业观察人士已呼吁建立针对技术偏见的立法监督。科技公司承诺通过实现员工多元化并提供无意识偏见培训，来应对其产品中的无意识偏见。
与历史上的每一次技术进步一样，我们必须持续审视算法在社会中的应用方式及其产生的结果。识别并解决算法开发者以及用于训练算法的数据中存在的偏见，将极大地有助于确保人工智能系统造福所有人，而不仅仅是那些意图加以利用的人。
蓄意偏见是人工智能可能伤害我们的另一种方式，兰德公司 Douglas Yeung
