新兴技术

生成式人工智能将鞭策企业加速信任转型

企业要专门设立首席信任官,采用损益表,以推动企业的信任转型。 Image: Sean Pollock / Unsplash

Tiffany Xingyu Wang
Founder, Stealth
分享:
我们的影响力
世界经济论坛为 加速 新兴技术 行动做了什么?
A hand holding a looking glass by a lake
众源式创新
现在加入 ,用我们的数字众源平台来实现大规模的影响力
实时追踪:

科技与创新

  • 数据至上的时代即将结束,取而代之的是由消费者的新价值观驱动的“信任转型”时代;
  • 企业必须把隐私、安全和多样性这三大道德支柱视为优先事项,以证明自己值得信赖;
  • 在人工智能主导的世界里,只有将信任和伦理视为战略性驱动力,企业才能蓬勃发展。

二十年来,数字化转型席卷了各个领域。在Web2兴起之初,创新型B2B初创企业、直接面向消费者的先锋企业和社交媒体平台曾一度跃居各自领域的佼佼者。如今,数字化转型又掀起了新一轮浪潮,那就是“信任转型”(trust transformation)。

数据至上的终结

数字化转型带来了云计算,并最终一步步衍生出机器学习(ML)和物联网(IoT)。这也带来了企业和个人数据的大规模集中。

在广告的资助下,社交媒体巨头应运而生。它们定义并占据了Web2(社交网络)的主导地位。由于拥有大量个人数据,社交媒体巨头积累了巨大的影响力,走向品牌化。在此阶段,增长和增速可谓压倒一切。

数字化转型的主要弊端在于,在转型之初和进程中,隐私、安全和代表性都是事后才补救的问题,这实际上把消费者产品化了。随着消费者的注意力成为收入的最终杠杆,企业不惜一切代价追求数据。因而,隐私泄露成为新常态,假消息成为吸引眼球的工具,偏见和有毒文化充斥着网络言论。

这些弊端推动我们要从以数据为中心的社交网络进入以人为中心的语义网络。新一代消费者开始觉醒,要求企业尊重他们的身份和数据尊严。

信任转型的曙光

随着消费者逐渐意识到他们所拥有的价值,以及他们希望企业以怎样的方式来换取这种价值和信任,Cookies逐渐衰落,隐私法规出台,社交媒体也围绕解决有毒文化问题开展了广泛打击行动。

在这种新环境下,企业可以通过以下方式在内外部重视隐私、安全和多样性等道德支柱,以证明其值得信赖:通过设计用户隐私授权管理来保护隐私;通过强大的内容审核采取在线安全措施;从产品设计到无障碍设计,增强设计多样性,努力实现包容性。

在由人工智能(AI)、物联网和沉浸式技术驱动的语义网Web3新时代,那些尊重并维护消费者身份和数据尊严的企业将赢得信任。而当企业投入建设这一强大的信任网络时,就能在消费者和品牌之间建立起持续的信息共享和价值交换。

生成式人工智能信任转型

在过去的六个月里,我们见证了生成式人工智能得到大规模应用的分水岭时刻。自半导体诞生(随后是个人计算机、互联网、云、移动、社交和大数据传送)以来数据的爆炸式增长促使了这一时刻的最终到来。大量的数据让机器(人工智能)不仅能便利我们的生活,还能辅助我们进行创造。

这场计算革命也开始让人们质疑其对人类文明的影响。目前已经出现一些早期迹象,如代码中出现安全漏洞、假信息和有毒文化加速传播,以及因用于模型训练的数据存在偏见而导致数据代表性出现问题等。这些担忧促使人们支持构筑更严格的防护网,将安全和道德放在首位,加快信任转型。

已有技术高管和顶尖科学家呼吁暂停人工智能技术开发,称我们在确信其“效果是积极的、风险是可控的”之前都不应该部署人工智能技术。拜登政府甚至考虑对生成式人工智能进行监管:“我们知道,我们需要设置一些边界线,以确保人工智能技术得到负责任的使用,”美国商务部负责通信和信息的助理部长Alan Davidson表示。

美国国会以前所未有的速度召开听证会,讨论生成式人工智能的潜在风险。反观对于社交媒体,美国国会花了数年时间才得以研究透彻。这反映出人们越来越迫切地需要从伦理道德角度来指导技术。

人工智能是一项变革性技术,拥有远大的前景,我们不应该阻止其产生和发展。我们应该关注的是划定准则,让技术的使用更加合乎道德。我们需要从一开始就遵守准则,确保用于模型训练的数据的多样性。我们需要审核文本提示(prompt)和生成结果,以确保人类文明的存续,利用人类反馈强化学习(RLHF)来遏制不当行为,并在全球范围内努力实现技术可及性。

人们已经发出集体呼声,要求负责任地开发和部署人工智能,这显示出信任转型代表了公众、企业和政府集体意识的明显转变。随着转型运动的深入开展,它将能够真正塑造下一代产品、服务和体验。这一次,我们有机会在一开始就走正确的路上。

企业是时候对数字信任做出明确承诺了

首席执行官、董事会和首席执行官团队都应发挥作用,确保信任渗透到企业的方方面面,无论是消费者营销还是多元化招聘和安全护栏技术。“信任”的定义会随着社会的发展和技术模式的转变而变化。但重要的是,企业要专门设立首席信任官,采用损益表,以推动企业的信任转型。

信任和道德曾经是事后补救性质的问题,也是一个成本中心,但现在正迅速成为重要的利润中心、战略驱动力和品牌差异化因素。

如今在企业界占据主导地位的公司,都是成功加速实现有效数字化转型的公司。同样,信任转型也将决定下一代企业的胜负。当前积极培育信任的公司,无疑会是15年后最引人注目的公司。

本文作者:

Tiffany Xingyu Wang,OpenWeb首席营销与信任官

本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接。

翻译:张一凡

编辑:江颂贤

不要错过关于此主题的更新

创建一个免费账户,在您的个性化内容合集中查看我们的最新出版物和分析。

免费注册

许可和重新发布

世界经济论坛的文章可依照知识共享 署名-非商业性-非衍生品 4.0 国际公共许可协议 , 并根据我们的使用条款重新发布。

世界经济论坛是一个独立且中立的平台,以上内容仅代表作者个人观点。

分享:
World Economic Forum logo
全球议程

议程 每周

每周为您呈现推动全球议程的紧要问题(英文)

立即订阅

你可以随时使用我们电子邮件中的链接取消订阅。 了解更多详情,请查看我们的 隐私政策.

AI Value Alignment: Guiding Artificial Intelligence Towards Shared Human Goals

JoAnn Stonier, Lauren Woodman and Karla Yee Amezaga

2024年9月26日

关于我们

加入我们

  • 登录
  • 成为我们的合作伙伴
  • 成为我们的会员
  • 订阅我们的新闻稿
  • 联系我们

快捷链接

语言版本

隐私政策和服务条款

Sitemap

© 2024 世界经济论坛