人工智能生成的内容正成为操纵的强大工具。
深度伪造的盛行，在选举方面尤其令人担忧。
迫切需要开展全球合作，应对与人工智能相关的威胁以及对民主构成挑战的网络安全威胁。
在斯洛伐克近期举行选举的前几天，大量虚假信息涌现，冲击着民主进程的根基。一段音频记录在Facebook上流传，据称记录了一名候选人与一名媒体代表之间的对话，内容涉及操纵选举的计划，包括买票。
尽管该音频很快被斥为伪造，但损害已经造成。这一事件生动地表明，选举面临的威胁格局正在演变，人工智能（AI）正日益成为操纵的强大工具。
此事件凸显了选举系统易受深度伪造攻击的脆弱性，以及深度伪造迅速且低成本地影响选民、并利用事实核查时效性受限的能力。这一问题并不局限于某一次选举或某一个国家。由于数字媒体相互关联，通信和社交媒体平台也相对同质化，不法分子可以先在一个国家试验，再迅速转向，将成功的攻击扩大至全球范围内的民主进程。从明年的选举数量来看，攻击目标的范围是数字时代开启以来最大的。
2024年，将有超过40场全国性选举在个国家举行，这些国家的GDP合计占全球GDP的50%以上。斯洛伐克的经历为全球即将举行的选举敲响了警钟。世界上最大的民主国家——英国、印度、欧盟和美国——都在为明年的选举做准备，国际社会必须汲取斯洛伐克的教训。人工智能生成内容的盛行，以及日益庞大、易受干扰的网络攻击面，要求我们重新评估保护民主的工具，并迫切需要开展全球合作，应对新出现的威胁。
选举期间的网络安全威胁格局错综复杂且不断演变。尽管纸质选票在全球范围内仍是迄今最常见的投票形式，但网络威胁及其他数字威胁仍可能影响公民的投票能力以及他们做出选择所依据的信息。选举面临一系列技术威胁，从黑客攻击和数据泄露等传统网络安全问题，到深度伪造和人工智能生成的虚假信息等更为复杂的操纵手段。
威胁行为者可能利用选举基础设施中的漏洞，攻击电子投票系统和选民数据库。更复杂的是，攻击者即便未能得逞，也可能产生影响。民主的力量源于选举的合法性，因此仅仅让人对选举程序的完整性产生怀疑，就可能侵蚀社会凝聚力，并削弱对选举结果的支持。
人工智能使用户能够大幅提升其活动的规模、范围和速度，即便用户的目标是反社会和有害的。包括网络钓鱼和虚假信息宣传在内的社会工程策略，已对选举程序的完整性构成重大风险。现代选举中技术的相互关联性放大了这些威胁的潜在影响，而人工智能工具处理信息的速度更使这些影响呈指数级增长。正如在斯洛伐克所见，利用人工智能篡改音频记录表明，迫切需要采取全面措施，保护选举的民主根基，使其免受数字干扰的侵害。
哪些网络风险对选举影响尤为显著？
• 选民登记系统：篡改或攻破选民登记数据库，可能导致选民丧失投票权或出现虚假登记。
• 投票机漏洞：入侵或篡改电子投票机可能操纵计票结果；针对投票机的恶意软件或勒索软件攻击可能扰乱投票过程。
• 选举管理系统：操纵选举管理系统可能导致资源分配失当或结果报告不准确。
• 网络钓鱼与社会工程：针对选举官员或政党的定向网络钓鱼攻击，可能泄露敏感信息或植入恶意软件。
人工智能的恶意使用在哪些方面可能加剧这些风险？
• 错误信息与虚假信息：通过社交媒体或其他渠道传播错误信息的有组织运动，可能影响公众舆论、令人对选举的公正性产生怀疑，并左右选举结果。
• 深度伪造：作为虚假信息的一种特定形式，人工智能生成的深度伪造视频或音频记录可被用于散布有关候选人的虚假信息，或操纵公众认知。
• 自动化虚假信息：人工智能算法可被用于生成并传播大量虚假信息，使其更难被发现和应对。
• 定向广告：借助人工智能进行的微观定向投放，通过个性化广告向选民推送错误或虚假信息，可能被用于操纵舆论或压低投票率。
• 数据隐私问题：若投票信息取自国民身份信息、居住记录或其他与个人身份信息（PII）相关联的方式，自动化处理可能导致与选民资格认定无关的个人数据泄露。
• 社交媒体算法操纵：社交媒体平台上的人工智能算法可能被操纵，以放大某些政治信息或压制其他信息，从而影响公众舆论。
为应对这些风险，选举主管部门、技术提供商和政策制定者需要通力合作，以实施强有力的网络安全措施，确保人工智能系统的完整性，并提升选举程序的透明度。定期安全审计、公共宣传活动和国际合作，是数字时代保障选举的关键要素。
各机构已在着手解决这些问题。美国网络安全和基础设施安全局（CISA）已发布《选举保护网络安全工具包》，其中包括保护选民信息网站、电子邮件系统和网络的指南。同样，在欧盟，欧盟委员会提供支持，以应对网上虚假信息。许多其他国家和国际组织也已发布类似指南，但这些指南是否足够？
关于保护选举免受技术干扰的指导方针和最佳实践，主要强调以下几个主题：
积极主动的网络安全措施的重要性
积极主动的网络安全措施对保护选举免受不断演变的网络威胁至关重要。通过预判潜在漏洞并抢先于恶意行为者，选举系统可以显著降低遭受网络攻击的风险。这包括持续监测、定期安全审计，以及采用先进技术，在潜在威胁危及选举程序完整性之前将其发现并化解。积极主动的方法可确保选举系统能够抵御新出现的网络风险，从而提升选举基础设施的整体韧性。
论坛如何帮助领导者将前沿技术与现实挑战相连接
前沿技术与创新中心汇聚科学家、政策制定者和商界领袖，共同理解新兴技术及其现实影响。
通过促进协作与试验，该中心帮助合作伙伴将研究中的创新转化为实际应用，以应对全球共同面临的挑战。
运用风险限制审计确保选举的完整性
风险限制审计旨在实现两个重要目标。首先，确保选举按预期进行，包括选举技术按设计正常运行。其次，公民和选举观察员必须掌握必要信息，以确信投票程序正常运作。面对快速变化的技术与风险格局，此类审计有助于建立可信度。
教育与培训在增强网络安全和虚假信息抵御能力中的作用
教育与培训在提升网络韧性方面发挥着关键作用，尤其是在选举领域。向选举官员、IT人员及其他利益相关方提供全面的网络安全最佳实践培训，可使其具备识别、应对并有效缓解网络威胁的技能。选举官员和广大公众也将从提升媒体与信息素养中受益，包括认识社会工程策略、预防网络钓鱼，以及完善识别深度伪造和其他人工智能生成内容的培训和系统。信息充分且训练有素的工作人员，更能应对复杂的网络威胁格局，从而进一步增强选举系统的整体韧性。
政府机构、网络安全专家与公众之间的协作
协作是在选举过程中建立强有力网络韧性的基础。政府机构、网络安全专家和公众必须携手合作，共享信息、专业知识和资源。政府机构可以制定并执行网络安全标准，而网络安全专家则提供专业知识，以识别和应对新出现的威胁。通过宣传活动动员公众，可以培养集体责任感，并鼓励个人采取安全的网络行为。协作式方法可形成多层次的防御战略，增强选举系统应对各类网络威胁的整体韧性。
随着世界正在应对斯洛伐克选举的余波，有一点已经明确：选举与网络安全的交汇比以往任何时候都更加危险。利用人工智能的恶意行为者已成为可怖的对手，挑战着事实核查人员的传统工具，并利用社交媒体政策中的漏洞。国际社会必须迅速行动，制定强有力的战略和工具，以应对人工智能驱动的虚假信息，维护选举的完整性。争取安全选举的斗争已进入新阶段，世界必须迎难而上。
