各组织必须努力赢得数字信任,确保技术既服务于人类,也服务于地球。
世界经济论坛的数字信任框架旨在为决策者提供支持。
我们询问了五位科技战略领袖,他们如何推动技术的包容、合乎伦理和负责任使用。
世界经济论坛的数字信任框架旨在帮助决策者围绕三大目标达成共识:安全与可靠性;问责与监督;包容、合乎伦理和负责任的使用。
在本系列的第三部分,我们关注数字技术的包容、合乎伦理和负责任使用。数字技术日益主导我们的生活。因此,对于我们所接触的产品和服务的开发与部署,建立信任至关重要。科技行业必须在数字信任的前提下,考虑其所有利益相关方的期望和价值观。
这意味着,组织必须以所有人、整个社会、自然环境及其他利益相关方的守护者身份来设计、构建和运营其技术与数据,以确保广泛的可及性和使用,并带来符合伦理责任的成果。这一目标还意味着,组织必须努力防止和减轻排他性做法或其他危害。
实现这一目标,以下三个维度至关重要:
互操作性:信息系统能够相互连接并交换信息,以供相互使用,且不存在不当负担或限制。
公平性:要求组织的技术和数据处理意识到可能产生的差别化影响,并致力于根据相关情况和期望,为所有利益相关方实现公正、平等的结果。
可持续性:要求组织在考虑其对自然环境的影响时,应涵盖气候、生物多样性或水系统,并致力于限制对这些系统的损害。
结合我们关于智能时代信任的文章,我们询问了世界经济论坛的ICT战略官社群,他们如何推动包容、合乎伦理和负责任的使用。该社群由来自整个技术栈中最相关企业的40位活跃的资深战略领袖组成。
以下是其中一些人的看法。
Eugenio Cassiano,Celonis高级副总裁,战略与创新
无论是流程智能(PI)还是人工智能,Celonis都致力于打造不仅强大、而且负责任的智能系统。
对于我们内部使用的人工智能以及向客户提供的人工智能解决方案,我们遵循以公平、透明和问责为原则的结构化人工智能治理模式。我们通过多个流程落实这一模式,这些流程由治理委员会监督。该委员会是一个跨学科团队,具备法律、伦理、工程与开发、数据安全和数据隐私方面的专业知识。这一专门委员会积极参与制定我们的指导方针,并确保我们的人工智能项目符合全球标准和Celonis的企业价值观。
人工智能是一项真正具有变革性的技术,将影响我们现代生活的许多方面,甚至大部分方面。但关键不仅在于人工智能做什么,还在于它如何去做。
Eugenio Cassiano,Celonis高级副总裁,战略与创新。
在Celonis,我们认为,技术进步与伦理考量对于降低风险并确保负责任地使用人工智能都是必要的。
Ravi Kuchibhotla,Cognizant首席战略官
随着人工智能持续改变商业和社会,建立稳健的数字信任框架至关重要——该框架应优先考虑互操作性,并防止因系统不一致而常常产生的误解。该框架的一个关键支柱是公平性:确保对所有人给予合乎伦理、透明且无偏见的对待。这需要设计出可审计、能够体现多元视角、并在运行中完全透明的人工智能系统。
通过运用多智能体编排来优化公平性、性能、透明度和包容性,我们的Neuro Suite平台系列在这些目标之间取得平衡,而不过度侧重其中任何一项。这有助于减少偏见,确保决策透明且可解释,并促进公平的结果。我们的平台使客户能够集成可审计且无偏见的人工智能应用,确保公平贯穿整个价值链,增强人们对技术完整性的信心。
我们的平台使客户能够集成可审计且无偏见的人工智能应用。
Ravi Kuchibhotla,Cognizant首席战略官。
目前最大的挑战之一,是确保非技术人员的声音被纳入人工智能开发之中,使社会各界都能参与先进技术的部署。用户体验(UX)和用户界面(UI)开发是一个前景广阔的领域。随着生成式人工智能的发展,UX/UI开发人员的角色可能会发生转变,但具有人文背景的非STEM专业人士将越来越多地引导伦理决策和以用户为中心的设计,这对于为所有人打造公平且包容的系统至关重要。
Ganesha Rasiah,HP首席战略官
生成式人工智能的迅速普及以及大语言模型的使用,带来了可能损害信任的潜在风险领域。其中首要的问题是缺乏透明度。
目前,很大程度上并不清楚是哪些算法和数据集支撑着生成式人工智能模型的决策。用户难以判断输出结果是否准确、合乎逻辑或符合伦理。失真或带有歧视性的数据会造成意料之外的危害,可能延续人类偏见,并对整个社会产生灾难性影响。人工智能在管理知识产权方面的机制也并不完善。
组织必须制定并执行相关指导方针,以确保公平、隐私和伦理得到保护。
Ganesha Rasiah,HP首席战略官。
其中一个问题是数据如何获取、由谁获取并经过认证。另一个问题是人工智能生成内容的所有权。合规与治理变得至关重要,但这些流程往往落后于人工智能的应用。
为此,组织必须制定并执行明确的指导方针,以确保公平、隐私和伦理得到保护——从而使人工智能服务于员工和客户的共同福祉。在HP,我们已采纳了一套人工智能治理原则,以推动人工智能的负责任使用。我们通过一系列明确规定的计划和流程来落实这些原则,包括门控机制、指导方针、教育工具和监管委员会。
论坛如何帮助领导者理解人工智能并携手推动负责任的创新
人工智能卓越中心汇聚各行业的领导者,共同理解人工智能的快速发展及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险和权衡进行知情的对话。
通过可信赖的空间和合作倡议,该中心使合作伙伴能够建立共同理解,并携手推进负责任的人工智能创新与应用方法。
Ann Marie Lavigne,Snowflake战略计划副总裁
随着人工智能成为现代商业战略的基础,一个事实已变得十分清晰:如果没有稳健的数据战略,企业人工智能便无法成功。而孤立于数据孤岛中的数据战略同样效果不佳。事实上,据IDC市场研究显示,孤岛式或不正确的数据可能使企业损失高达其年收入的30%。与此同时,Gartner报告称,企业未能利用其高达97%的数据,从而错失了巨大的增长机遇。
企业越来越认识到统一数据平台的必要性,但并非所有组织都能够或愿意集中管理其数据与治理。正因如此,互操作性变得至关重要,它能确保数据访问负责任且有人工监督,为从日常决策到先进人工智能应用的一切提供支持。
并非所有组织都能够或愿意集中管理其数据与治理。正因如此,互操作性变得至关重要,它能确保数据访问负责任且有人工监督。
Ann Marie Lavigne,Snowflake战略计划副总裁。
通过推广Apache Iceberg等开放格式以及跨云治理,Snowflake实现了无缝的数据共享与监控,从而打造稳健可靠的模型。
一个典型例子是挪威初创企业Völur,借助我们的互操作性能力,该企业得以安全地共享数据,打破数据孤岛,并推动人工智能创新,开辟了新的收入来源。这就是未来:一个互联、协作的数据生态系统,加速公平、透明的人工智能驱动型转型。
我们在数据协作、互操作性和统一治理方面的领导力,正为更具包容性、安全性和负责任的数据使用奠定基础,为充分实现人工智能的全部潜力铺平道路。
Marina Martín García,Telefónica企业战略负责人
包容、合乎伦理和负责任地使用技术,是我们每一项决策的核心。我们长期倡导数据保护,让用户能够掌控其数据的使用方式并保持透明。数字信任是我们客户承诺的关键要素。
我们的人工智能指导原则,确保我们以人为本的方式透明、公平且可持续地开发智能技术。这包括对环境可持续性的坚定承诺,通过创新的浸没式冷却技术,最大限度地减少我们数据中心的碳足迹。我们还在开发Kiri等内部解决方案,帮助Telefónica在其人工智能和大数据应用场景中做出明智决策,以尽量减少碳足迹,为最佳执行时间提供建议,推荐环境影响较小的云端位置,并指导资源分配。
通过利用消费者对电信运营商的信任,我们可以将潜在风险转化为机遇,使该行业成为数字信任领域的领导者。
Marina Martín García,Telefónica企业战略负责人。
互操作性同样是我们方法的关键。我们的数字生态系统Kernel以开源标准为基础,并集成了隐私设计理念,以保护所有产品中的用户数据。隐私管理贯穿各个层面,所有渠道和服务均可获取相关法律要求,确保在没有适当法律依据的情况下,不会泄露任何数据。
电信运营商在历史上一直位列消费者最信任的行业之列。现在的关键问题是:我们如何利用这种信任,展示我们在确保数字安全方面的努力,从而使该行业成为数字信任领域的领导者?通过这样做,我们可以将其从潜在风险转变为整个行业的重大机遇。
