生成式人工智能（GenAI）正在引领一场技术革命，其走向与启蒙运动时期的历史变革如出一辙。
为算法提供动力而大量积累数据，对用户“个人信息归其所有”的权利构成风险。
志在引领“数字启蒙”的企业，应主动革新其在客户数据与隐私方面的做法。
我们正步入一个以生成式人工智能（GenAI）为标志的新时代，有必要反思这场技术革命如何与十七、十八世纪的启蒙运动等历史变革遥相呼应。
启蒙运动的原则启蒙运动是一场强调个人主义与进步、反对传统和权威的思想运动，其原则至今仍具有高度适用性。
当前，为大语言模型（LLM）提供动力而无休止地积累数据，对每个人“个人信息归其所有”的权利构成风险——我们每个人都有权保护、分享这些数据，并依自身选择决定从中获益的多寡。
由数据驱动的算法已经在决定我们的下一步行动；品牌在察觉我们身处附近时便向我们推送广告；而我们则被动地任由传媒巨头决定我们以何种方式获取娱乐。
如今正是时候迎来一场以数字为核心的启蒙：确立这样一个理念，即我们每个人对自己拥有主权，并有权夺回定义我们数字自我的数据。
避免采用生成式人工智能的陷阱
随着人工智能技术的普及，我们将希望更多地掌控为算法提供数据的过程。在关于生成式人工智能采用情况的一项最新全球研究中，Cognizant 调查了 23 个国家、15 个行业的 2,200 名企业高管，了解他们的生成式人工智能战略。
我们发现，数据隐私与安全是显著阻碍生成式人工智能采用的两大关键因素。如果我们不主动掌控，就有可能被卷入一个漩涡，我们的选择、行为、偏好和体验将以我们不了解或无法理解的方式被操纵。
如果我们不了解自身数据可能如何被用于对我们有利或不利的用途，还可能面临灾难性的隐私泄露。这不仅包括我们说的话、打的文字和拍的照片，甚至包括参加一次会议或在公共场所露脸。
企业在这一转型中肩负着一定的责任。如今的消费者会青睐那些社会价值观与其相契合的品牌和雇主。未来的消费者则会奖励那些在他们需要时提供隐私保护、并在他们确实分享个人信息时给予公平补偿的公司。
重拾对“数字启蒙”的信任
凡是走进过购物中心的人都能证明，长期以来，我们一直以注意力和个人信息换取便利与特别优惠。
然而，随着我们越来越意识到这种便利可能带来的潜在后果，我们实质上正变得更加“数字化地觉醒”。风险正在上升：即将到来的时代将广泛采用新的数据密集型人工智能。
尽管消费者对此类技术的伦理和安全性心存忧虑，但其吸引力依然强大。当我们屈从于算法推荐、不假思索地使用各类平台时，我们可能会失去自主创造自身体验的能力。
有四项措施有助于推动我所讨论的那种数字启蒙：
1. 区块链/分布式技术
基于区块链的自主主权身份（SSI）是改变游戏规则的技术。在这一模式下，个人对其身份数据拥有完全的控制权。与传统身份系统不同，后者的信息由中心化机构（如政府或企业实体）管理，而 SSI 使用户能够直接拥有、管理并分享其身份信息。通过在没有中间人的情况下掌控我们的数字身份，我们便转变为自身数据的保管者。
2. 更完善的隐私控制
防篡改账本与细粒度权限正在为一个以隐私为先的未来铺路，在这样的未来中，个人信息是一项基本的数字权利。这一转变还使人们能够按照自己的条件，有选择地将其数据变现，为以用户为中心、重视个人自主性与价值的数据经济奠定基础。“文件优先于应用”的理念倡导数字文件应易于读取并始终处于用户掌控之下，这是迈向正确方向的一步。
世界经济论坛如何帮助领导者理解人工智能并协作推进负责任的创新
人工智能卓越中心汇聚各行业领导者，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用所涉及的机遇、风险与权衡展开知情对话。
该中心通过可信的交流空间和协作项目，使合作伙伴能够建立共识，并携手推进人工智能创新与应用的负责任方式。
苹果公司的App 跟踪透明度要求 iOS 应用在跨其他应用跟踪用户之前必须获得用户许可，这是品牌通过尊重消费者隐私权来建立忠诚度的一个良好范例。其他企业也应效仿此类审慎举措，例如使更改默认设置变得更加便捷，甚至默认采用可提供的最高隐私保护级别。
3. 透明的人工智能治理
随着人工智能的影响力不断增强，去中心化其治理至关重要。中央政府在其中发挥作用，欧盟的《人工智能法》可为其他地区树立有力的范本。
但社区审计、算法透明度以及联邦学习（一种机器学习技术，在不将数据发送至中央服务器的情况下，利用来自多个设备的数据训练模型）可确保问责制并与社会价值观保持一致。
这种去中心化的方式将有助于增强人们对人工智能开发与部署的信任。通过优先保障透明度、问责制和包容性治理，我们能够打造一个坚守伦理、服务集体利益的人工智能生态系统。
4. 非算法化的个性化
未来，企业应直接与消费者合作，提供真正的个性化服务，而不是仅依赖算法。实现这一目标的关键步骤包括：
从以人为本的设计原则出发，确保与人们的需求和行为相契合
在所有客户接触点打造全渠道体验，并确保体验的一致性
尽可能多地收集并回应客户反馈，让消费者知道他们的意见正被倾听
赋予客户自主定制其输入、推荐乃至产品的能力
算法对个性化至关重要，但当其越界时，可能会使人疏离并失去人性。
互联网兴起带来的一个值得欢迎的变化，是人们能够便捷地向机构表达自己的诉求、需求和优先事项。随着消费者逐渐认识到人工智能对其选择的影响，这一趋势将进一步增强。
志在引领“人工智能时代”（亦可称为“数字启蒙”）的企业，应预见到这一转变，并主动革新其在客户数据与隐私方面的做法。
