在解决世界上一些最紧迫的问题时，我们越来越依赖人工智能（AI）。从医疗保健到经济建模，再到危机预测与应对，AI正变得相当普遍，在某些情况下，它已内在地融入我们的运作方式之中。
尽管AI提供的洞见极具价值，但我们也必须认识到，它并非一个完美无缺的系统，无法像许多从业者所宣称的那样为我们提供完美答案。我们的AI系统是构建算法的产物，这些算法虽然并非有意为之，却继承了许多偏见，而正是这些偏见助长了我们希望解决的全球性挑战。因此，AI和机器学习并非纯粹中立的客观数据分析过程。
为了使这些技术取得进展、消除偏见并帮助应对重大全球性问题，我们需要重新思考开发AI驱动工具的方法，摆脱那种将我们的认知模型强加于数据之上的系统。相反，我们需要一种迭代式、多元化的方法，能够纳入更多视角和多样化的思维。由全球分布式智能网络开发的模型，或许能为应对严峻的世界问题指明前进方向，并提供更具独特性、更加无偏见的解决路径。
解构AI中的偏见
随着AI日益融入商业领域，我们系统内在偏见所引发的问题愈发明显。我们开始认识到使用选择性数据集所带来的影响，以及AI算法如何吸纳并加剧其开发者的无意识偏见。
以亚马逊为例，其已中止的AI招聘与人才选拔系统。该系统本应通过分析招聘和员工业绩数据来帮助识别潜在求职者，并筛选出最符合其最高效员工特征的应聘者。或许，AI甚至能够利用这些数据，识别出亚马逊人力资源团队未曾考虑过的、其最优秀员工所具备的某些特质或品质。
然而实际情况是，机器学习算法处理了长达10年的申请记录，结果反而延续了亚马逊试图消除的偏见。可以看出，该系统对男性申请者的评分高于女性，因为数据中的趋势显示出历史上对男性候选人的偏好。亚马逊的案例是由于依赖反映历史偏见的有限数据集，从而导致机器学习模型吸纳了训练数据中固有的偏见。
类似问题也正出现在AI的其他应用中，从贷款申请到刑事量刑等各类决策都受到影响。如果我们不解决数据科学开发流程中更广泛的系统性问题，AI将无法被视为有助于解决这些问题的有用工具。
我们方法的缺陷在于开发商业应用AI系统的方式。我们正在创建用于检测数据模式的算法，而且我们常常采用自上而下的方法。正如《连线》（WIRED）近期的封面报道所指出的，我们的AI系统日益依赖于深度学习，这是一种在过去十年中不断演进的机器学习技术。将深度学习应用于模式识别时的核心挑战在于，它在某些类别的问题上正开始触及实用性的瓶颈。此类模型完全依赖数据，其输出中不包含任何证据性逻辑，这意味着AI无法直观地解决某些问题，也无法解释其得出结论的过程。此外，如果数据存在系统性历史偏见，这些偏见将被大规模复制。借用一句话来说：偏见输入，偏见输出。
随着开发者日益意识到这些偏见，他们正尝试通过人为对策来应对这一状况。这些努力涵盖了多个方面，从利用更加多元化的数据集以更好地兼顾被视为异常值的情况，到提升整个行业的多元化程度。正如谷歌用户体验研究员Vyacheslav Polonski在另一篇博客中指出的那样，目前的努力主要集中于落实代表性、管理责任、保护和真实性等原则。
然而，这些努力仅仅是在试图修补系统内嵌的问题，而我们真正应该做的，是修复系统本身。随着我们继续依赖AI，我们应当停下来思考：当前的AI开发模式是否正引领我们走向正确的方向，抑或事实上存在其他更具成效、且更不易产生偏见的模式。
重新思考AI
我认为，AI系统的问题并非仅仅源于数据的局限性或开发者的盲点，而是源于我们构建这些系统的整体方法。我们一直以自上而下的方式推进AI开发，而这在很大程度上受到发达国家和第一世界文化观点的主导。因此，毫不意外，我们在这些系统的输出中所看到的偏见，恰恰反映了这些视角中的无意识偏见。
数据多元化无疑是缓解这些偏见的一个步骤，因为它能够引入更具全球化的输入，这些输入可能蕴含截然不同的优先事项和洞见。但是，如果多元化数据被输入到一个存在固有偏见的模型中，那么再多的多元化数据也无法解决所有问题。
我们需要的是一个能够兼顾全球多元视角的系统，一个能够适应新数据、融合新思维模式并受益于文化多样性的分布式智能网络。我们需要从将劳动力套利作为技术开发关键价值衡量标准，转向“思想套利”。全球研究与预测公司WorldQuant Predictive的创始人Igor Tulchinsky坚信，“人才分布是均等的，但机会并非如此”。同样，杰出的洞见和想法是全球性的，但在我们当前的模型构建方法中，它们却鲜少得到体现，甚至很少被看到。
与其采用自上而下的方法，将模型强加于可能超出其适用语境的数据之上，我们不如将AI视为一个迭代式、演进式的系统。如果我们将当前模式翻转过来，从数据中逐步构建模型，而非将模型强加于数据之上，那么我们就能开发出一种基于证据、富含思想的方法，用以构建可扩展的AI系统。其结果可能提供超越我们现有思维模式的洞见与理解。
这种自下而上的方法还有另一个优势，即系统可以变得更加灵活且反应更迅速。它能够随数据变化及新视角的引入而自我调整。可以将该系统视为由渐进式洞见构成的支架，这样一来，即便其中任何一部分被证明不够充分，整个系统也不会崩溃。我们还能够纳入来自全球各地更加多元化的输入，逐步形成迭代信号，从而构建出AI能够响应的累积模型。
今天我们面临的全球性问题是前所未有的。它们需要我们认识新型数据、采用新的信息理解方法并形成新的思维模式。AI是人类应对当前和未来挑战的最佳潜在工具之一，但前提是我们不重蹈过去错误的覆辙。
