这种加速发展的态势带来了许多令人振奋的创意、商业和社会公益应用，但也助长了生成式人工智能被大规模滥用和武器化的现象。
“扭曲的客户旅程”——即在线客户旅程或用户体验中不断增加的摩擦——帮助我们理解不良行为者如何滥用生成式人工智能，以及我们可以在何处有效进行干预。
生成式人工智能的迅速崛起令人难以把握。2019年，我撰写了第一份研究报告，描绘了深度伪造和人工智能生成内容的全貌。一项重要发现是，深度伪造的数量几乎翻了一番，从2018年12月的7,964个增至2019年7月的14,678个。与之相比，到2023年8月，一项研究估计，在一年多一点的时间里，人工智能生成的图像数量惊人地达到154.7亿张。如今这一数字应该会高得多，尤其是如果把人工智能生成的视频、语音音频和音乐也计算在内的话。
生成式人工智能的爆发式增长，源于该技术变得极为易于获取。几年前还只存在于顶尖人工智能研究实验室中的雏形工具，如今已可通过数以千计的用户友好型应用程序和服务使用。与此同时，人工智能生成的内容正变得日益逼真，在语音克隆和个性化虚拟形象等领域以惊人的速度发展。
这种加速发展的态势带来了许多令人振奋的创意、商业和社会公益应用。然而，它同样助长了生成式人工智能被大规模滥用和武器化的现象。我在2020年对Telegram上一款人工智能“裸化”机器人的调查，该机器人使用户能够轻松生成数十万张合成去衣女性图像，其中大多是他们在现实生活中认识的受害者。
时间快进到2024年，学校正面临一场蔓延的危机：学生用深度伪造技术制作同学的色情内容，深度伪造欺诈企图在2022年至2023年间增长了十倍，人工智能生成的政治虚假信息在全球选举大年中造成了重大事件。随着生成式人工智能的普及，将其武器化从未如此容易。
应对生成式人工智能滥用激增的问题，是政府、企业、非政府组织和媒体机构面临的紧迫挑战。但要避免不同利益相关方做出一系列零散、孤立的应对措施，我们需要一个统一的框架，以理解生成式人工智能被滥用的端到端过程。
那么，政府和企业如何形成这种认识，并更好地应对生成式人工智能的滥用？第一步是绘制“扭曲的客户旅程”图谱。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心将各行各业的领导者联系在一起，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险和权衡取舍展开知情对话。
通过可信赖的交流空间和合作倡议，该中心使合作伙伴能够建立共同理解，并携手推进负责任的人工智能创新与应用方式。
绘制“扭曲的客户旅程”图谱
创建一个客户旅程是营销和用户体验（UX）设计中一项成熟的做法。它描述了消费者成为忠实客户的历程，从建立品牌认知、完成购买到成为品牌拥护者。企业绘制这一流程的一个关键原因，是找出可能阻碍消费者成为其忠实客户的摩擦点，例如品牌知名度低或网站体验令人沮丧。
“扭曲的客户旅程”则颠覆了这一模式。与其努力减少摩擦，我们不妨描绘不良行为者滥用生成式人工智能的体验，从而找出可以在关键阶段中加大其摩擦的环节。
举个例子，假设有人想制作一段针对某位政治人物的虚假语音音频。在“扭曲的客户旅程”中，他们可能经历的简化步骤包括：
• 确定特定的语音克隆工具
• 获取训练数据并生成具有损害性的语音音频
• 发布具有损害性的合成语音音频
在每个步骤中，各类利益相关方都扮演着促成角色。搜索引擎、应用商店、广告和网络论坛可能帮助他们找到可被武器化的语音克隆工具。随后，开源库、云计算服务和语音克隆应用程序提供了生成虚假合成语音音频所需的资源和工具。最后，社交媒体平台、新闻机构和即时通讯应用帮助不良行为者将合成语音音频传播给受众。
通过理解从构思到执行的“扭曲的客户旅程”，我们可以找出可以在何处进行干预，例如降低搜索结果排名、撤销数字支付支持，以及默认引入生物识别验证和对输出内容加注水印。如果在部署多个摩擦点时，能够意识到它们之间如何相互关联、相互叠加，我们便可以让滥用生成式人工智能成为一个有意为之、更加痛苦的过程。
应对复杂挑战的务实之道
“扭曲的客户旅程”不仅有助于我们理解不良行为者滥用生成式人工智能的体验，以及我们可以在何处最有效地进行干预，还鼓励对这些干预措施采取更务实的方法。
令人不快的现实是，生成式人工智能的滥用无法根除。资源充足的不良行为者总能找到新的方式将该技术武器化，并绕过安全限制。寻求“灵丹妙药”式的技术解决方案或呼吁对工具实行全面禁令，这些工具可能被滥用，是可以理解的本能反应，但从根本上说是错误的做法。
与其将我们打击生成式人工智能滥用的努力界定为根除，不如聚焦于能切实减少滥用的明确行动。设置战略性的摩擦点，可以提高滥用生成式人工智能的门槛。
在多场人工智能峰会上介绍“扭曲的客户旅程”之后，它已被证明对政府和企业尤为有用。对政治人物和政策制定者而言，它提供了一个直观的框架，帮助理解生成式人工智能如何被滥用，以及旅程中哪些利益相关方群体或政策杠杆可能被忽视。对企业而言，它有助于揭示其产品和服务如何与其他服务相互交织、共同促成滥用行为，以及它们可在何处协同采取精准的应对措施。
所有参与“扭曲的客户旅程”的利益相关方都需要发挥各自的作用。企业主动作为和自愿承诺值得欢迎，但政府仍需发挥关键作用，将主要利益相关方召集到谈判桌前。对于蓄意促成“扭曲的客户旅程”的不良行为者，刑事立法和资源充足的执法将至关重要。
