对企业和个人而言，人工智能无疑是一项改变游戏规则的技术。
人工智能也开始对网络安全的攻击方面产生深远影响，和防御方面。
人工智能与网络安全之间的共生关系表明，一方的进步将促使另一方做出适应并加以创新。
人工智能（AI）领域的变革速度难以言喻。在过去几年里，我们见证了人工智能能力及其被普通企业和个人轻松使用方式的突破性革命。
ChatGPT是一种生成式人工智能，利用大型语言模型（LLM）生成类似人类的原创内容，已经拥有1.8亿名常规用户，2023年迄今其网站访问量已达14亿次。企业正利用此类技术实现任务自动化、开展预测分析、为决策提供洞察，甚至招聘新员工，而这仅仅是冰山一角。
对企业和个人而言，人工智能无疑是一项改变游戏规则的技术。然而，正如改变游戏规则的技术可以用于善途，它们同样可能被用于作恶。人工智能正被用于增强网络安全运营、改善网络监控和威胁检测，但威胁行为者也在利用它来增强其攻击能力和手段。随着我们迈向2024年，攻防两端的人工智能之间的竞赛从未如此激烈，也从未如此重要。
正如Check Point的《2023年中期网络安全报告》所详述的，网络犯罪分子正利用人工智能设计更加复杂的社会工程策略。通过利用生成式人工智能，他们可以制作更具欺骗性的钓鱼邮件，在Office文档中开发恶意宏，生成用于反向Shell操作的代码，以及更多其他手段。更令人担忧的是，人工智能可以更轻松地扩大这些行动规模，使威胁行为者能够在更短时间内瞄准更多受害者。我认为我们都能同意，人工智能无疑是一种保护力量，但它同时也是一种威胁。
世界经济论坛如何应对日益严峻的网络安全挑战？
网络安全中心提供了一个可信赖的平台，让各界领袖齐聚一堂，共同理解不断演变的网络风险及其系统性影响。该中心致力于在日益互联的数字世界中建立理解与信任。
通过促进跨行业合作与洞察共享，该中心帮助合作伙伴增强网络韧性，应对需要集体应对的挑战。
人工智能在网络安全中的正反两面作用
今年，人工智能对网络安全的攻击与防御两方面都产生了深远影响。和防御方面。它已成为抵御复杂网络攻击的有力工具，显著提升了威胁检测与分析能力。人工智能驱动的系统擅长识别异常和发现前所未见的攻击模式，在潜在风险升级之前予以化解。例如，人工智能算法可利用实时情报对网络进行实时监控，并在威胁出现时准确进行防御，从而减少误报的发生。
然而，同一种能够强化我们防御的人工智能，也正被网络对手武器化。ChatGPT等工具已被恶意行为者操纵，用于制作新型恶意软件、加速社会工程策略，并生成即便经过最严格审查也可能蒙混过关的欺诈性钓鱼邮件。这些进展凸显了网络军备竞赛的态势，防御机制不断受到创新型攻击策略的挑战。
随着深度伪造视频和语音合成能力触手可及，我们应当预料到，基于人工智能的社会工程策略将变得更加复杂。如果局面还不够混乱，ChatGPT还可能被用于传播错误信息，并存在“幻觉”风险，即人工智能聊天机器人为了令用户查询得到满意答复而编造细节，这使得此类工具越来越难被视为纯粹的善用力量。
人工智能的民主化
勒索软件之所以对全球企业构成如此普遍的威胁，原因之一在于勒索软件即服务（RaaS）的兴起。这是指出现了一些有组织的团伙，其运作方式几乎与合法企业无异，它们开发勒索软件工具，并将围绕漏洞利用和安全缺陷的情报卖给出价最高者。这意味着，即便经验较少的威胁行为者或资源有限者，也仍能对大型目标发动复杂攻击，他们只需购买合适工具的访问权限即可。
正如RaaS通过使恶意软件民主化、提高其可获取性而放大了威胁行为者的能力，人工智能即服务（AIaaS）也在放大人工智能相关的能力。ChatGPT和Google Bard等人工智能工具的民主化，使更广泛的受众得以使用这些工具。
尽管这些工具对商业和社会具有巨大潜力，但它们也正被用于恶意目的。例如，与俄罗斯有关联的网络犯罪分子已经绕过了OpenAI的地理围栏限制，并利用生成式人工智能平台制作复杂的钓鱼邮件、恶意键盘记录程序，甚至基础的勒索软件代码。在一次白帽演练中，Check Point还取得了与Google Bard人工智能类似的结果，通过一系列提示，该平台最终被说服协助创建键盘记录或勒索软件代码——任何具备一丁点知识的用户都能做到这一点。
监管挑战
人工智能不断演进的格局带来了一系列监管挑战，这凸显了建立完善框架以规范其应用的重要性。这些问题的前沿伦理考量围绕公平性、问责制和透明度展开。人工智能系统，尤其是生成式人工智能，容易受到内在偏见的影响，这些偏见可能延续甚至加剧现有的人类偏见。例如，招聘或放贷中的决策型人工智能可能对某些人群产生不公平的偏向，因此需要监管监督以确保做法公平。
随着人工智能在各行各业中变得不可或缺，无论是在网络安全、隐私侵犯还是错误信息传播方面，不利后果的可能性都在加剧。需要建立监管框架，确保人工智能技术的开发与部署遵循统一的标准。这对于“善意”的人工智能而言固然重要，但监管并非恶意行为者通常所担心的事情。这可能会进一步扩大防御型与攻击型人工智能之间的竞赛差距。
保障当下与未来的安全
在关注人工智能未来潜力的同时，切勿忽视基础工作，这一点至关重要。确保基本的安全实践，例如修补漏洞、定期扫描以及加固终端，仍然不可或缺。尽管将所有精力投入未来威胁的做法颇具吸引力，但应对当下的挑战同样重要。
随着人工智能持续演进，其能力无疑将不断扩展，既服务于防御者，也服务于攻击者。虽然人工智能驱动的解决方案正在增强防御机制，但网络犯罪分子也在利用人工智能优化其策略。人工智能与网络安全之间的共生关系表明，一方的进步将促使另一方做出适应并加以创新。
