人工智能与网络安全：如何应对风险与机遇

• 在争夺人工智能主导地位的竞赛中，网络安全问题成为焦点。

• 尽管人工智能会提升网络攻击的效果，但利用人工智能技术增强网络防御能力，可以抵消其影响。

• 要发挥人工智能带来的优势，需要全球公共部门与私营部门合作，确保其应用能够在整个社会中以公平、安全的方式落地。

人工智能（AI）领域的新技术发展席卷全球，促使各国政府竞相争取战略优势，也推动科技公司开发并商业化新的人工智能系统。

新兴人工智能应用有望为社会带来诸多益处，但也可能造成严重的安全影响，涉及国家安全、民主稳定，乃至大规模经济混乱。

这些风险在这个选举年进一步加剧，届时将有超过40亿人投票。网络攻击是《慕尼黑安全报告2024》和世界经济论坛《2024年全球风险报告》都重点指出的一项风险；后者还指出，人工智能生成的错误信息和虚假信息正在涌现，是未来两年预期最严重的全球风险中的第二大风险。《慕尼黑安全报告2024》以及世界经济论坛的《2024年全球风险报告》；后者还指出，人工智能生成的错误信息和虚假信息正在涌现，是未来两年预期最严重的全球风险中的第二大风险。

人工智能对网络安全的影响多种多样且不断演变，威胁行为者正利用这些新技术为自己谋利，提升其发动网络攻击的能力。

人工智能将推动现有战术、技术和操作流程的发展与完善，并降低网络犯罪分子的准入门槛，减少发动网络攻击所需的技术知识。新型大型语言模型（LLM）也增强了社会工程攻击，威胁行为者正发起日益复杂的鱼叉式网络钓鱼行动。

随着技术不断发展，即使是检测技术也越来越难以辨别合成媒体与人工创作内容之间的差异，这使深度伪造比以往任何时候都更加逼真、更具针对性且更危险。

近期，一家跨国公司的香港分支机构遭遇了一起利用深度伪造实施的诈骗。恶意行为者使用深度伪造冒充该公司的首席财务官参加视频会议，导致一名员工支付了2500万美元。

人工智能如何增强网络安全？

人工智能发展带来的威胁日益增加，但这不应掩盖新型人工智能模型也能为网络安全带来的巨大益处。恶意网络行为者利用这些工具作恶之际，网络防御人员也可以反过来使用人工智能，提升网络安全能力。

过去几年，人工智能技术已被用于开发网络安全解决方案；生成式人工智能的出现则促使更多组织加大对网络安全人工智能技术的投资。

正如思科的 Jeetu Patel 所说：“现在正是让天平向防御方倾斜的大好时机。”科技界对此普遍认同。在慕尼黑安全会议上，15家以上的领先企业承诺帮助防止欺骗性人工智能内容干扰今年的全球选举。

此外，谷歌的 Sundar Pichai宣布了一项新的工作计划，旨在通过加快检测和响应团队的工作来加强网络防御。微软正牵头努力检测并阻止恶意威胁行为者利用微软服务，并推出了一款新工具，以支持用户对媒体进行数字签名和认证。Meta 宣布了用于识别和标记人工智能生成内容的新技术标准。

人工智能技术也能加强网络安全培训，无论是用于提升公众认知，还是帮助培养下一代网络防御人员。《ISC2 网络安全劳动力研究》估计网络安全专业人才缺口达400万人，这令人担忧。

为弥补这一缺口，论坛于2023年4月发起了一项多方利益相关者倡议，名为“弥合网络技能差距”。该倡议旨在建立战略性网络安全人才框架，并制定行动方案，帮助个人进入网络安全行业并取得发展。

各方正在采取哪些措施确保负责任地使用人工智能？

各国政府和国际组织也在制定安全人工智能开发指南和监管框架方面发挥着关键作用。这些法规将指导人工智能技术的开发、使用和实施，使其造福社会，同时减少可能造成的危害。

近期的一些例子包括：制定欧盟《人工智能法案》；设立联合国人工智能治理咨询机构；英国的《安全人工智能系统开发指南》；白宫关于人工智能安全的行政命令，以及美国人工智能安全研究所的成立。

为促进公共部门与私营部门合作，论坛于2023年4月发起了人工智能治理联盟，汇聚行业领袖、政府、学术机构和民间社会组织，倡导在全球范围内负责任地设计和推出透明、包容的人工智能系统。

在争夺人工智能主导地位的竞赛中，网络安全与这些尖端技术之间错综复杂的关系成为焦点。尽管人工智能会提升网络攻击的效果，但利用人工智能技术增强网络防御机制所带来的益处，可以抵消其影响。

在应对人工智能实施、安全威胁和防御战略之间复杂互动的过程中，组织必须全面了解风险与收益，才能释放人工智能的全部潜力，同时确保增长。

在论坛人工智能治理联盟工作的基础上，网络安全中心正与牛津大学合作，引导全球领导者制定策略并作出决策，抓住人工智能背景下网络风险与机遇。

人工智能开发领域的快速技术进步开启了一个变革时代，带来了前所未有的益处与挑战。要发挥人工智能带来的优势，需要全球公共部门与私营部门合作，确保其应用能够在整个社会中以公平、安全的方式落地。