领导者必须在人工智能（AI）应用的每个阶段融入网络安全，以保护敏感数据、确保韧性并推动负责任的创新。
风险收益方法通过识别漏洞、降低风险并增强利益相关方信任，使人工智能应用与组织目标保持一致。
人工智能专家、监管机构和政策制定者之间的多利益相关方协作，对于应对人工智能带来的漏洞并增强对人工智能技术的信心至关重要。
在数字优先的世界中，使用人工智能（AI）系统已成为组织创新和运营效率的基石。然而，随着领导者推动转型，网络安全必须始终处于首要位置。
人工智能系统并非没有漏洞，其中包括对抗性攻击、数据投毒以及敏感算法遭黑客攻击。领导者必须认识到，集成人工智能会扩大组织的攻击面，因此强有力的网络安全措施不可或缺。
2024年，世界经济论坛的网络安全中心与牛津大学的全球网络安全能力中心牛津大学一道，参与了人工智能与网络安全：平衡风险与收益倡议，旨在指导全球领导者制定有关人工智能应用网络风险与机遇的战略和决策。
这项研究最终形成白皮书智能时代的产业——人工智能与网络安全：平衡风险与收益，于2025年1月发布。该白皮书为管理人工智能应用的网络风险提供指导，帮助领导者在投资和创新人工智能时兼顾安全与韧性，从而把握新兴增长机遇。
要释放人工智能的全部潜力，必须全面了解相关网络风险及所需的缓解措施。
网络安全的迫切需求
《2025年全球网络安全展望》指出，66%的组织预计人工智能将在未来一年对网络安全产生重大影响。然而，只有37%的组织制定了相关流程，在部署前评估人工智能系统的安全性。
这一差距凸显了一项风险：组织可能在未充分评估和应对相关网络安全风险的情况下采用人工智能系统，从而使其环境暴露于潜在漏洞之中。
若人工智能系统易受数据泄露、算法操纵或其他恶意活动影响，可能造成严重的运营和声誉损失。通过评估和缓解网络风险，领导者能够使人工智能应用与组织目标及韧性需求保持一致。
此外，为人工智能模型提供支持的数据往往属于专有或敏感信息；一旦遭到泄露，可能造成经济损失或处罚，并损害组织声誉。从确保数据管道安全到实施严格的访问控制，网络安全都应贯穿人工智能生命周期的每个阶段。
要作出知情决策并确保战略选择安全且符合监管要求，必须有明确的指南来应对这些风险。这也能增强利益相关方的信任，推动可持续且负责任的人工智能驱动型增长
领导者必须倡导一种文化：将网络安全视为可持续增长的基础支柱，而非创新障碍。高级风险负责人在落实人工智能相关网络风险的监督和控制，并主动管理这些风险方面，也发挥着关键作用。
从客户到投资者，将人工智能计划与强有力的网络安全框架进行战略性协调，也能让利益相关方确信组织致力于保护数字资产。
高管优先考虑这些因素，既能保护企业，也能使其成为值得信赖、富有韧性且着眼未来的参与者。
基于风险的方法
采用基于风险的方法对于安全应用人工智能至关重要。组织必须结合人工智能带来的机遇，评估其可能引入的漏洞和风险，衡量对业务可能造成的负面影响，并确定必要的控制措施以缓解这些风险。
这种方法确保人工智能计划与组织的整体业务目标保持一致，并处于其风险承受范围之内。
在人工智能部署的全过程中融入网络安全
无论处于人工智能应用旅程的哪个阶段，所有组织都应应对人工智能相关的网络风险。已经使用人工智能的企业应梳理其部署情况，并采用附加式安全解决方案。
在其他情况下，可能需要进行风险收益分析，以确定人工智能部署是否符合运营和业务目标。这种方法有助于贯彻安全内建理念，确保人工智能应用与创新和韧性相协调。
采取企业整体视角
人工智能系统并非孤立存在。组织必须考虑围绕人工智能系统的业务流程和数据流如何降低网络安全故障的影响。
这需要将控制措施纳入更广泛的治理架构和企业风险管理流程。
协作推动负责任的创新
为发挥人工智能的优势，组织必须采取多利益相关方方法，将风险收益分析和网络安全列为优先事项。这有助于增强韧性、保护投资并支持负责任的创新。
人工智能与网络安全专家、监管机构和政策制定者之间的协作，对于协调工具、分享最佳实践和明确问责机制至关重要。这种协作方式能够应对人工智能带来的漏洞，同时增进信任，推动充满信心的创新。
这项工作与人工智能治理联盟合作开展。该联盟于2023年6月成立，旨在为人工智能系统的负责任设计、开发和部署提供指导。点击此处了解更多相关工作。
本文的其他撰稿人包括：牛津大学全球网络安全能力中心研究员路易丝·阿克森；世界经济论坛网络安全中心社群负责人乔安娜·布卡尔特；以及牛津大学牛津马丁学院研究员杰米·桑德斯。
