随着人工智能走出学术界和研究实验室，进入现实世界，它正迅速融入我们的日常生活。
我并不担心人工智能超级智能会“失控”，进而危及人类的生存——那是科幻情节，当今没有任何科学研究为此提供依据。但我确实认为，我们必须思考使用这项技术可能带来的任何意外后果。
Salesforce伦理人工智能实践架构师凯西·巴克斯特恰如其分地指出了问题所在。她提醒我们，人工智能并无感知能力，只是一种工具，因此在道德上是中立的；它如何被使用，取决于我们人类为其发展设定的标准。“人工智能有望带来巨大的益处，但也可能在不知不觉中伤害个人。”
未经管理的人工智能是人类偏见的一面镜子
人工智能造成伤害的一种方式，是算法反映了组织收集的数据集中的人类偏见。在人工智能时代，这些偏见的影响可能会不断叠加，因为算法本身会继续从数据中“学习”。
例如，假设一家银行想预测是否应该向某人发放贷款。再假设，这家银行过去向女性或某些少数群体发放的贷款较少。
这些特征会出现在该银行的数据集中，从而可能使人工智能算法更容易得出这样的结论：女性或少数群体成员更可能存在信用风险，因此不应向他们发放贷款。
换句话说，过去针对某些人群的贷款数据不足，可能会影响银行的人工智能程序未来如何处理他们的贷款申请。系统可能会识别并放大偏见，或者至少让偏见延续下去。
当然，人工智能算法也可能被赤裸裸的偏见操纵：有人可以通过筛选人工智能系统中的数据，排除例如有色人种女性的贷款申请。
无论如何，人工智能的表现取决于我们提供的数据，尤其是“训练数据”。因此，所有参与训练人工智能程序的人都必须认真考量所用训练数据究竟有多具代表性。
正如凯西所说，仅仅从互联网上随意抓取数据来训练人工智能，很可能会让我们“放大现存的刻板印象、偏见和错误信息”。
融入多元视角，消除偏见
那么，我们该如何管理带有偏见的人工智能所构成的威胁？首先，人类要主动识别并管理这些偏见，其中也包括训练人工智能系统识别偏见。
人工智能偏见并非技术本身有缺陷所致。算法不会自行产生偏见，而是从我们这里学到偏见。因此，我们必须承担起责任，帮助避免自己创建的人工智能系统造成任何负面影响。例如，银行在建立人工智能系统、评估贷款申请人的资格时，可以从数据集中剔除性别和种族信息。
与此同时，企业还需要留意隐性偏见。假设我们设想的银行从人工智能模型中删除了性别和种族信息，却保留了邮政编码——在美国，邮政编码往往是种族的替代指标。这样做仍可能导致银行的算法产生带有偏见的预测，歧视历史上处于弱势的社区。
要防止偏见以任何方式影响人工智能系统的建议，我们需要依靠人类的理解力，而不能只靠技术。
其中的关键，是确保构建人工智能系统的人拥有多元的视角。观点同质化的群体可能只会听到与自身想法相符的意见——换句话说，他们受限于自身所知，也就更难发现偏见可能存在的地方。
在这样的指导下，组织可以从训练数据中筛除偏见，以减轻负面影响。这也有助于提高人工智能系统的透明度，使其不那么难以理解，进而让企业更容易检查可能出现的错误。
推动伦理人工智能更进一步
好消息是，我看到当前应对偏见的努力，正与一场更广泛的全球人工智能伦理讨论同步推进。这场讨论由多个团体引领，例如人工智能伙伴关系。这是一个由科技和教育领域的领军者组成的联盟，成员来自不同领域，其中包括Salesforce。
这些团体正携手合作，致力于人工智能技术的负责任使用与开发。他们通过加深对人工智能的理解、制定最佳实践，以及利用人工智能助力解决人类面临的一些最棘手的问题来推进这一目标。
将这些讨论带到更广阔的舞台十分重要，因为任何涉及负责任使用人工智能的流程，都不应被视为又一组待办事项。相反，我们需要从根本上改变人们的思维和行为，而且必须现在就行动。
换句话说，如果人工智能确实映照着人类，那么我们现在就有责任承担起责任，并确保镜中呈现的是我们最好的一面。
