透明度如何释放人工智能潜力

本内容由人工智能自动翻译。

人工智能(AI)有望在多个方面显著改变行业、企业以及个人的生活。它将改善健康、安全和教育。此外,人工智能还能助力我们应对不平等、贫困和气候变化等全球性挑战。

然而,尽管人工智能具有成为一股重要向善力量的潜力,巨大的恐惧与不信任依然存在。在一项针对美国受访者的YouGov调查中,近一半(49%)受访者承认对这项技术感到担忧,另有22%表示感到害怕。

此外,一些媒体评论员指出,对人工智能的反弹日益加剧,这可能会限制组织部署能够节省时间、有时甚至挽救生命、并为我们的世界带来积极改变的人工智能系统的能力。

那么,领导者如何回应人们的担忧,从而自信地引领人工智能转型?

采取透明的方法

我坚信,在当前普遍存在不确定性和不信任的时代,要树立对人工智能的信心,就需要参与实施的每一方都秉持诚实与透明——遗憾的是,这一方法并非总是得到贯彻。

将人置于组织人工智能战略的核心——包括客户、员工及其他利益相关方——同样至关重要。

根据我与客户合作的亲身经验,我发现,要做到人工智能实施的透明,领导者需要:

框架有助于确保人工智能得到负责任的使用,即公平、安全、包容,并具备适当的问责性、透明度,同时考虑其对环境的影响。当利益相关方相信某一组织负责任地使用人工智能时,他们更可能信任该组织的人工智能模型。

组织可以采用外部人工智能指南,例如美国国家标准与技术研究院(NIST)人工智能风险管理框架,也可以制定内部框架。安永已制定道德与负责任的人工智能原则,这是一个在内部以及与客户之间共同使用的框架。

在人工智能系统开发过程中保持人类参与至关重要,原因有二。其一,利益相关方应在各个层级参与其中,而非仅依赖自上而下的决策。其二,人类提供了支撑透明度的关键监督与把关——他们为人工智能模型按预期运行提供了不可或缺的保障。

对人工智能保持透明,意味着坦诚说明某一系统的预期用途。

在规划人工智能实施时,至关重要的是询问利益相关方存在哪些痛点,以及人工智能工具如何能够解决这些问题。事先就系统的预期目标及其如何助力人们开展工作进行沟通,将有助于形成稳健的商业论证;同时也有助于消除人们对人工智能可能取代其工作的担忧。

只有在设计和构建过程中融入多元技能,人工智能工具才会被视为对社会和组织效率有益。多元化的开发团队对于降低偏见风险至关重要——偏见是与人工智能系统相关的最大风险之一。

此外,多元化团队能够带来不同的经验和视角,从而帮助组织的人工智能工具满足广泛利益相关方的需求与期望。

从技术角度而言,构建一套新的人工智能系统需要集体的力量,既需要技术专家,也需要项目管理人才。同样的原则也适用于系统建成后的部署。

这一“团队”涵盖整个组织——从数据科学家、业务流程负责人到人力资源、变革管理和法务人员——共同推出系统,并提升员工负责任地使用该系统的技能。协作有助于增强新系统的透明度,并促进员工高度认同。

董事会应协助确定组织的人工智能风险偏好,并对其人工智能战略进行高层级监督。董事会还应确保人工智能得到负责任的使用和部署,并确保所有人工智能工具的用户均接受适当培训。

另一项良好原则是为每个人工智能应用场景设立审批流程,以便对风险和机遇进行适当评估,并恰当地设置护栏。

护栏是负责任使用人工智能模型不可或缺的组成部分。它们可被视为算法保障机制——即一组预先设定的过滤器、规则和工具,旨在确保人工智能系统在伦理和法律层面运行。

在使用人工智能模型之前进行严格测试,有助于揭示风险与漏洞所在,从而便于实施护栏。例如,护栏可以防止模型产生幻觉,并将模型生成有害输出的风险降至最低。

对人工智能保持透明,意味着坦诚说明某一系统的预期用途、其与组织整体战略的契合之处、它带来的益处与隐患,以及它可能如何影响人们。这还意味着需要解释人工智能模型做出特定决策的原因。

遗憾的是,当今许多人工智能的实施往往笼罩在神秘之中,强大的解决方案由少数利益相关方在闭门之中开发。因此,人们不信任这些工具并抗拒使用,这对我们的社会造成了不利影响。

由于这种抵触情绪,我们可能会错失利用人工智能技术来变革企业、推动经济增长和改善生活的机会。这正是我们必须对人工智能保持透明的原因。

本文所反映的观点仅代表作者本人,未必代表安永全球组织或其成员所属公司的观点。

授权与转载

世界经济论坛发布的文章，可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。本文所表达的观点仅代表作者个人立场，并不代表世界经济论坛的观点。