Mala Anand是本篇观点文章的作者，现任SAP智能企业解决方案及行业业务总裁。
人们对人工智能系统如何体现伦理判断和道德价值的担忧日益加深，这促使人们提出了正确的问题。然而，人们往往把答案归结为技术本身或技术开发者的责任。
推卸责任并非答案。
打造合乎伦理且高效的人工智能应用，需要整个C-suite高管层的共同参与。做好这件事，既是关键的商业问题，也是需要首席执行官领导的价值观问题。
人工智能引发的伦理问题因行业而异。例如，自动驾驶汽车面临的困境，与面部识别中的偏见问题或新兴营销应用相关的隐私问题截然不同。不过，它们有一个共同的问题：即便是设计最为周全的算法，其决策所依据的输入也反映了开发者的世界观。
人工智能及其相关技术，即机器学习和RPA（机器人流程自动化），已经成为长期存在的事实。2017年至2018年间，麦肯锡公司的研究发现在业务流程中至少嵌入一项人工智能能力的企业比例翻了一番以上。在另一项研究中，麦肯锡估计，跨行业部署人工智能和分析技术的价值为每年9.5万亿美元至15.4万亿美元。在我们自身的工作中，我们看到各行各业的领导者纷纷采用这项技术，既在现有业务中寻找新的效率，也在测试新商业模式的机会。
已经没有回头路了。
“打造合乎伦理且高效的人工智能应用，需要整个C-suite高管层的共同参与。”
undefined
面对这一发展势头，监管呼声日益高涨，但要在全球范围内建立统一的监管框架将十分艰巨。监管机构必须在两者之间取得平衡：既要回应合理的社会关切，又要继续鼓励创新与生产力提升，同时保持在国际市场上的竞争力。
安永（EY）近期发表的一篇论文认为，人工智能和机器学习的发展速度已超出我们对其应用进行监管的能力，并指出，若缺乏周密的治理和伦理框架就使用人工智能，存在风险。安永将这些考量视为风险管理问题，但实际上，它们更是在开发和部署任何新兴技术时建立信任的指南。
安永并非孤军奋战。世界经济论坛的“第四次工业革命中心”等机构，第四次工业革命中心、IEEE、AI Now、The Partnership on AI、Future of Life、AI for Good，以及DeepMind等机构，均已制定旨在最大化人工智能益处、限制其风险的原则。
不可预测的风险？
根据我们的经验，能够妥善处理这些问题的组织，往往都采用了一种新的思维方式：承认后果可能并非有意为之，但未必是不可预测的。
换言之，我们不应将失误、判断不当和短视与意外后果混为一谈，以此逃避责任。随着技术有可能超越社会的制衡机制，所有商业领袖都必须自问，自身应用可能产生怎样的影响。
组织可以通过聚焦非常具体的业务成果来指导其工作，从而确保人工智能得到负责任的构建和应用。为明确界定的业务成果而量身打造的应用，可以成为负责任发展的护栏，降低出现意外后果的可能性，并能及早发现负面影响，以便加以缓解。
但这一点只有在企业价值观清晰、且C-suite高管层与IT部门合作，将这些价值观应用于创建应用过程中的诸多决策时，才能成立。
我们在为25个不同行业提供服务的工作中已经看到这一点。最佳实践正在涌现。尽管不同应用所涉及的伦理问题各不相同，但同一框架仍能提供帮助。专注于明确业务成果的组织，最有条件开发负责任的应用：在这些应用中，个性化是一种价值而非侵犯，数据来源经过偏见审查，数据隐私是指导原则，透明度与效率同样受到重视。
当企业采用人工智能来解决特定的业务需求时，例如自动化账单、总账会计、预算编制、合规，或采购、物流和客户服务等，其影响比单纯为了人工智能而采用人工智能更加可知、更易管理。由于这些成果是组织核心使命的关键所在，且被充分理解，因此将企业价值观映射到开发流程中只需迈出很小的一步。
核心业务应用
假设您是一家汽车零部件制造商。通过整合互联设备、预测分析、人工智能和机器学习来提升制造过程中的深度学习性能，您可以利用工厂设备健康状况的相关数据，避免代价高昂的停机。如果您重视客户服务并将其视为核心企业价值，那么在应用开发中考虑这一点可能会很有价值。
“在PwC近期的一项调查中，77%的首席执行官表示，人工智能将增加其经营方式的脆弱性和颠覆性。”
undefined
或者，假设您正在构建另一类应用，以服务于另一种成果，例如识别不同地区的销售模式，以帮助您开展更有针对性的营销活动。您的策略可能涉及互联设备、分析、人工智能和嵌入式机器学习。您还可以开发借助物联网追踪物料流动的方式。借助按门店划分的销售历史，您的店内审计可以被监控，以衡量营销活动的成效。因此，您的年度业务计划可能在数分钟内即可完成，而自动生成的报告将免去数周的人工数据整理工作。
与新闻中一些备受关注的案例相比，这些案例或许显得较为平淡，但它们是我们在各家企业中看到的、典型的核心业务应用类型。这些应用围绕一项被充分理解的成果而设计，该成果既是企业核心使命的关键所在，也是其价值体系的核心。两个示例均表明，企业可以通过将应用聚焦于其已有深刻洞见的领域、假设清晰透明的领域、核心数据熟悉可靠的领域，以及——或许最重要的是——风险高到高级管理层必须进行监督的领域，从而预见并避免意外后果。
首席执行官认识到风险，是迈出的良好第一步。事实上，在PwC近期的一项调查中，77%的首席执行官表示，人工智能将增加其经营方式的脆弱性和颠覆性。
如果诉诸价值观无法打动C-suite高管层，那么自身利益应当能够做到。Capgemini Research Institute近期的一项研究得出结论：践行合乎伦理的人工智能的组织，将获得客户和员工更高的忠诚度、更多的业务，甚至他们为其宣传的意愿；而未能如此的组织则会受到惩罚。该研究证实，对于未审慎对待这一问题的企业而言，既存在声誉风险，也会直接影响其底线。
根据我们在各行各业的经验，当企业领导层全面参与、应用以核心使命所需的明确业务成果为依据、IT部门与领导层共同应对业务和伦理难题时，负责任的人工智能才最有可能实现。
