人工智能是对企业乃至各类组织影响最为深远的发展之一。
然而，这一快速且不可阻挡的趋势也引发了伦理问题。
当人工智能算法的核心设计中含有种族主义、性别歧视或其他往往属于无意识的偏见时，要确保人工智能的开发公平，可能颇具挑战。
以下，Lorena Blasco-Arcas与Hsin-Hsuan Meg Lee提出了一种以人为本的视角，用于设计特定的框架和监管体系。
“好的，谷歌，今天天气怎么样？”“抱歉，我听不懂。”
这种体验——与不响应指令的智能机器互动——是否似曾相识？这种失败可能让人感到目瞪口呆，仿佛自己的智力与机器的并不在同一频道上。虽然这并非人工智能开发的本意（即有选择地进行互动），但对科技领域的“少数群体”而言，此类情况很可能更为频繁。
全球人工智能（AI）软件市场预计在未来几年将迅速增长，到2025年将达到约1260亿美元。人工智能技术的成功正迫使许多现有企业转变其商业模式并转向人工智能。然而，随着技术进步，人们对所有这些工具的算法开发中存在的偏见日益担忧。
人工智能缺陷如何显现
算法偏见并非新鲜事物。然而，迄今为止，工程师更侧重于开发人工智能算法以解决复杂问题，而非监测和报告这些技术进步可能带来的潜在问题。随着歧视性做法的兴起，我们已经看到了技术失败的例子。例如，2016年，微软在Twitter上推出了其自我学习聊天机器人Tay。它本应是一项关于“对话理解”的实验。该人工智能工具能够学习语言基础，并且随着时间推移，它能够自行参与对话。然而，该机器人最终在社交媒体上形成了种族主义和性别歧视的特质。另一个例子发生在麻省理工学院，当时在进行面部识别研究时，Joy Buolamwini进行了一项带有歧视性的实验，但她当时并不知情。作为一名肤色较深的女性，她未能被人工智能像其白人朋友那样精确地识别。实验结果完全偏离了该体验的本意，她发现计算机识别出了99%的白人女性，而识别出的黑人女性仅占65%。
人工智能的行为背后是否存在人类意图？或许有，或许没有。这些例子并不意味着人工智能工具本身存在根本缺陷，或被刻意设计为具有种族主义倾向。尽管如此，它们的设计确实存在偏见，并且在公开上市之前未受到足够的管控。数据偏见可能导致源于人类意图或无意行为的歧视性做法，从而使代代相传的偏见（们）得以延续。更糟的是，由于由此产生的歧视几乎总是算法使用过程中无意产生的涌现属性，而非程序员的有意选择，因此很难查明问题根源，也难以向法庭作出解释。机器往往给人一种——虚假的——中立印象。
在一个无疑存在偏见且不平衡的社会中，如何开发符合伦理且无偏见的人工智能应用？人工智能能否通过打造克服传统不平等与排斥的更加平衡的社会，成为解决问题的“圣杯”？现在下结论还为时过早，而且很明显，在就人工智能应如何在我们的社会中合乎伦理地使用达成共识之前，我们将经历许多反复试错的阶段。正如制度性种族主义需要整个生态系统发生根本性转变，人工智能开发中的问题同样需要类似的变革，才能产生更好的结果。为解决这一问题，我们建议在应对技术进步时优先考虑人的因素，并从三个方面着手：
1. 消除（有偏见的）人类的偏见
在算法的开发与实施背后，是开发者以及身居权力位置的特定人群。正如数据所示，当今开发者的职业领域远非多元化，这也解释了一些助长偏见的思维逻辑。增加主导该行业的大型企业中开发者岗位的多样性并提高其可及性，将为算法的开发方式提供更具批判性的视角。这将增强人的包容性，而非相反。假如我们将算法偏见理解为借助计算机和数学作为托词、强加特定观念，那么我们便可以质疑那些使偏见与歧视性做法得以延续的制度逻辑。
有必要加强管控、监测体系、监管以及共同的伦理框架，以确保人类偏见不会渗入算法的创建与开发过程。我们赞同佐治亚理工学院的Ayanna Howard与Charles Isbell两位教授的观点：认识到数据与领导层多元化的重要性，并在某些决策中要求问责，是未来实现人工智能更加公正的开发与应用的重要指导原则。
2. 以数据向善，而非以数据助长偏见
一些重要举措正在推进，或有助于解决历史数据集中的偏见问题，例如安大略大学的一名研究人员所开展的研究，该研究人员使用了MNIST数据集，并将该包含6万张图像的数据库精简至仅5张，用于训练一个人工智能模型。如果这些方法能够成功应用于不同场景，将使人工智能对于可能无力承担庞大数据库成本的企业而言更易获得。这同时还将改善数据隐私与数据收集，因为训练相关模型所需的个人信息将随之减少。
3. 向公民普及人工智能应用的优势与风险
人工智能的开发在理解社会、政治、商业乃至我们作为公民的日常生活方面，带来了多样且显著的挑战。随着人工智能日益深入影响个人选择与可能性的商业流程，有必要通过更多教育来提升对这些议题的认识与理解。
公民的技术素养将推动人工智能的普及，并对人工智能的实施及其影响的批判性评估产生积极作用。具备更强意识的公民将较少容忍操纵行为，也较少接受具有偏见或不公平的人工智能技术应用，例如可能与公民自由和权利相冲突的监控类应用。
使机器更具人性，甚至压制人类智能，长期以来一直被视为技术进步的终极目标之一。以人为本的技术开发意味着，开发者与使用这些机器的企业不应只追求创新，还应关注其对社会的潜在影响。人类是有缺陷的，这意味着我们的社会天然充斥着系统性与制度性的偏见，而我们并不总是能意识到这些偏见。但我们应避免在自己所构建的机器中复制同样的问题。
