我们询问了4位科技战略负责人,他们如何推动问责与监督。以下是他们的说法

• 在智能时代,数字信任是任何科技组织的核心组成部分。

• 世界经济论坛的数字信任框架旨在支持决策者。

• 我们询问了四位科技战略负责人,他们如何推动问责与监督。

在智能时代,技术深刻影响着我们的日常生活,数字信任因此变得愈发重要。世界经济论坛的数字信任框架旨在帮助决策者围绕三大核心目标达成一致,以建立社会信任:安全与可靠性;问责与监督;包容、合乎伦理且负责任的使用。

在本系列的第二部分,我们聚焦问责与监督。这要求组织通过明确界定并指派具体的利益相关方、团队或职能部门来承担可信度的责任,并设立应对失误的安排。此外,它确保规则、标准、流程和做法按要求得到遵守和执行。

实现这一目标,以下三个维度至关重要:

• 透明度:要求在数字运营和应用方面坦诚清晰。提升组织数字流程的可见性,可以减少组织与其利益相关方之间的信息不对称,同时向个人表明,组织不仅旨在维护个人利益,还致力于使这些行动对组织内外的人员都清晰可理解。

• 可申诉性:指当个人、群体或实体因技术流程、系统或数据使用而受到负面影响时,获得救济的可能性。鉴于无意的错误或意外因素可能造成始料未及的损害,值得信赖的组织设有完善的补救方法,在有人寻求救济时予以处理,并建立相应机制,使受害者的损失得到弥补。

• 可审计性:指组织本身及第三方能够审查并确认技术、数据处理和治理流程的活动与结果。可审计性是对组织承诺的一种检验,也表明组织有意履行这些承诺。

可信智能技术的开发与部署是共同的责任。因此,我们向论坛ICT战略官社区征询意见,该社区由来自全球的40位资深战略负责人组成,具有多元化的背景。我们请他们分享在采用论坛的数字信任框架原则方面的经验与见解。

以下是其中部分人士就推动问责与监督所分享的看法。

Vivek Mohindra,企业战略高级副总裁,戴尔科技

人工智能是共同的责任。这在确保人工智能模型的决策过程透明且可问责,从而帮助实现公平、有效和可信赖的结果方面尤为重要。在戴尔,我们以战略和核心理念为基础,采取全面的风险管理方法。我们是业内最早任命首席人工智能官的企业之一,并通过跨业务治理委员会落实监督。

我们始终将问责与监督放在首位,审视数据的使用方式以及模型驱动的行动,同时注重透明度和可解释性。在此基础上,我们在整个IT环境中(从数据中心到个人电脑)采用最负责任的方法,并围绕我们的重点人工智能应用场景实现业务成果。

一个例子是软件开发:我们已对工程师进行负责任地使用代码辅助技术的培训,以确保现有开发框架和工具中的问责。这包括代码审查流程,以及多项针对代码安全性和质量的集成验证扫描。

随着人工智能系统日益普及,我们也在加强推动问责与监督的努力,重要的是我们要重视人类独有的品质,例如批判性思维和同理心。通过共同努力,人机协作将带来最强大、最安全的长期成果。

Christopher Young,业务拓展、战略与投资执行副总裁,微软

我们相信,信任需要通过行动来赢得。我们在可信智能技术的开发与部署中对问责与监督的承诺,正体现了这一信念。早在2016年,我们就已致力于负责任的人工智能,远早于2022年生成式人工智能的兴起。

我们的负责任人工智能标准指导我们的团队在整个人工智能开发生命周期中,基于具体情境做出审慎的决策。制定标准和治理框架,只有在言行一致的情况下才有效。虽然公司每位员工都在负责任人工智能中发挥作用,但我们也设有治理机构,例如负责任人工智能办公室以及工程与研究中的人工智能伦理与影响委员会(Aether),负责推动这些标准的制定与实施并进行监督。

一个例子是微软Security Copilot,这是一款由人工智能驱动的软件,可帮助客户将海量数据信号汇总为关键洞察,在网络威胁造成危害之前将其检测出来,并加强其安全态势。该产品依据我们的负责任人工智能标准开发,Security Copilot可识别并缓解关键风险,确保潜在有害内容仅在安全专业人员提出请求时才会呈现。在分阶段发布期间,团队通过持续监测,每周对负责任人工智能问题进行分类并予以解决。这一做法结合专家验证,最终打造出一款安全、透明且可信赖的生成式人工智能产品。

尽管做出了这些努力,我们也认识到,人工智能发展的动态性和快速节奏带来了持续的挑战。因此,我们以灵活的方式设计了负责任人工智能标准,采用以结果为导向的方式,并允许将任何法规纳入我们的开发周期。我们还参与全球人工智能安全与保障论坛,推动基于科学的安全与保障测试及标准取得进展。我们承诺开发的人工智能不仅具有创新性,而且值得信赖,并在此过程中保持透明。

Steve Rudolph,战略与转型副总裁,Pegasystems

人工智能的问责与监督至关重要,许多组织已设立治理团队,以识别人工智能应用场景并降低风险。然而,如果这些原则未能深度融入平台,治理将失去效力,因为平台将缺乏所需的数据和工具来加以支持。

以下是Pega帮助客户实现有效监督的三种方式:

决策能力:人工智能不仅限于机器学习;有效的决策能力将机器学习驱动的预测与业务规则和政策相结合,形成决策策略。这使组织能够在单个决策层面,平衡客户和利益相关方的利益与业务目标及政策。

模拟与主动监测:仅在模型设计阶段获得洞察是不够的。对模型和逻辑进行持续的端到端监测至关重要,尤其是在每天做出数千万项决策的情况下。客户可以借助伦理偏见检查模拟决策逻辑,在发布新决策和逻辑之前,主动检测下一最佳行动策略中的偏见。这还包括跟踪相对于一般业务和客户目标或风险控制的绩效,并建立机制,在出现问题时实时发出警报或进行自我纠正。

可解释人工智能与审计:为了问责,不仅数据科学家,领域专家、终端用户和客户也应理解人工智能决策和生成式人工智能的输出。明确行动背后的原因至关重要,例如贷款拒绝或理赔调查,或解释生成式人工智能答案的依据。此外,Pega会保留决策及生成式人工智能调用与响应的审计追踪,包括所用的输入和逻辑(例如提示词与答复的历史记录),以帮助确保透明度,并保障对自动化结果提出质疑的权利。

Nitesh Aggarwal,首席战略官,Tech Mahindra

我们致力于践行问责与监督的原则,以赢得主要利益相关方的信任。这一承诺体现在我们开发和部署可信智能技术的方法中,确保伦理考量贯穿每个阶段。

通过严格的治理框架和专门委员会落实问责与监督原则,确保所有技术发展与伦理标准和利益相关方的期望保持一致。我们还定期进行审计和审查,以维持高标准的诚信与透明度。

这一承诺的一个例子是Makers Lab,这是一个孵化尖端技术的创新中心。所有项目在部署前均须经过严格的伦理审查。例如,该实验室的人工智能医疗解决方案须经过全面审查,以确保患者数据隐私并符合全球数据保护法规。这一流程不仅提升了技术的可靠性,也增进了用户和利益相关方的信任。

可申诉性是另一个关键方面。针对一家美国科技客户,我们建立了完善的机制,以处理利益相关方的关切与申诉。这包括专门的支持团队和清晰的上报路径,以迅速高效地解决问题。

但我们面临的最大挑战是技术发展的动态性,它可能超越现有的伦理框架和法规。要跟上这些变化,需要持续保持警觉并具备适应能力。与行业机构及监管部门合作,对于塑造并更新能够跟上创新步伐的指导原则至关重要。