AI是一项颠覆性技术，有望大幅改善我们的生活，但也可能被滥用并对全球造成危害。
2022年，全球网络攻击增长了38%，而随着生成式AI模型的出现，我们可能很快会看到网络攻击呈指数级增长。
达沃斯为政府、AI、商业和网络安全领域的领袖提供了一个契机，共同探讨AI、网络安全与安全之间的交汇点。
关于人工智能（AI）的前景与炒作，已有大量讨论。我认为我们都可以认同，AI是一项颠覆性技术，有望通过个性化医疗、更安全的交通等方式大幅改善我们的生活，并带来更多益处。它还有很大潜力帮助网络安全行业加快开发新的防护工具，并验证安全编码的某些方面。然而，这项新技术的引入也可能被滥用并对全球造成危害。归根结底，AI在我们生活中扮演什么角色，由我们自己决定。这场对话必须现在就展开。
2022年11月，OpenAI发布了一款名为ChatGPT（生成式预训练变换模型）的新AI模型，它以对话方式与用户互动，使人们能够提问并获得答案。ChatGPT极受欢迎，在上线后的五天内吸引了超过100万用户。许多人用它创作诗歌或设计新食谱。但也有人别有用心。研究人员很快发现，不仅可以，而且很容易利用ChatGPT编写可用于入侵组织的恶意电子邮件和代码。事实上，在其发布仅几周后，它就已被用于这一具体目的，甚至连新手也能制作恶意文件，使我们所有人都面临风险。
生成式AI可能会加剧网络攻击
这为何重要？全球经历了2022年网络攻击增长38%（与2021年相比）。平均每个组织每周遭受1,168次攻击。教育和医疗保健是受攻击最严重的两个行业，导致医院和学校陷入瘫痪。医生无法为患者提供治疗，学校也因此关闭，学生被送回家。我们现在可能会看到，由于生成式AI模型的出现，网络攻击呈指数级增长。
值得肯定的是，OpenAI为阻止其AI技术被滥用投入了大量精力，其在一份声明中写道：“尽管我们已努力使模型拒绝不当请求，但它有时仍会响应有害指令或表现出偏见行为。”然而遗憾的是，ChatGPT仍难以阻止危险代码的生成。
为说明这一点，研究人员将ChatGPT与Codex进行了比较，后者是另一种可将自然语言转换为代码的基于AI的系统。研究人员在不编写任何代码、全部工作均由AI完成的限制条件下，构建了一个完整的感染流程。研究人员组装了各部分，发现如果执行，它可被用于一次钓鱼邮件攻击，并附带一个含宏的恶意Excel文件，用于下载反向Shell。换言之，攻击者充当监听端，受害者则充当攻击的发起者。
更进一步，Check Point Research团队近期发现了网络犯罪分子利用ChatGPT开发恶意工具的实例——在某些情况下，这些黑客完全依赖AI进行开发，而另一些人则仅借助AI大幅缩短编写恶意代码的时间。从恶意软件、钓鱼攻击，到可在无需任何用户交互的情况下自动加密受害者设备的脚本，再到非法市场的出现，网络犯罪分子正以惊人的速度采用AI，并将其用于实际的破坏性目的，令人担忧。
论坛如何帮助领导者理解网络风险并增强数字韧性
网络安全中心提供了一个可信赖的平台，让领导者齐聚一堂，厘清不断演变的网络风险及其系统性影响。该中心致力于在日益互联的数字世界中建立理解与信任。
通过促进跨行业合作与洞察分享，该中心帮助合作伙伴增强网络韧性，应对需要集体应对的挑战。
AI、网络安全与安全的交汇点
那么，生成式AI能否被用于有害目的？能。AI能否被用来武装网络犯罪分子，从而捷径式地实施钓鱼攻击？能。它何时会成为对社会的真正威胁？很快。
本月在世界经济论坛年会上，我们有机会汇聚政府、AI、商业和网络安全领域的领袖，共同探讨AI、网络安全与安全之间亟待解决的交汇点。我们不应以扼杀创新为目标，而应确保设有相应的保障措施。
AI已经带来科学突破。它正在帮助侦测金融欺诈和增强气候韧性。它是我们用来改善和推动生活诸多领域发展的工具，其中包括安全与网络安全。通过将AI融入统一的多层安全架构，网络安全解决方案能够提供一个智能系统，不仅能够侦测，还能主动预防高级网络攻击。
现在正是展开这些对话的时候。正如许多人倡导在AI行业中重视多元化的数据和工程师的重要性，我们也必须引入心理学、政府、网络安全和商业等领域的专业知识，参与AI对话。需要网络安全领袖、AI开发者、从业者、商界领袖、民选官员和公民之间开展公开讨论并分享观点，才能共同制定审慎的生成式AI监管方案。每一种声音都必须被听到。携手合作，我们定能应对这一对公众安全、关键基础设施和我们世界构成的威胁。我们可以让生成式AI从敌人变为朋友。
