人工智能被广泛视为未来一年网络安全面临的最大威胁。
其实现网络犯罪自动化的潜力，或许只有其预防网络犯罪的能力可与之相提并论。
需要在全球范围内开展合作，政府、行业领袖和民间社会应携手共进。
若请大多数人说出人工智能的标志性时刻，他们很可能会提到2022年11月ChatGPT的公开发布。然而，该技术的另一项发展可能对人们的日常生活产生更大影响，那就是利用人工智能实施网络攻击。
如今，人工智能被广泛视为未来一年网络安全面临的最大威胁。黑客绕过防护措施对大型企业发动网络攻击的报道不容忽视，促使各国政府准备应对人工智能驱动的网络攻击在规模和严重程度上的激增。以印度为例，该国在2023年占全球实时支付交易的约49%，并在2024年处理了约1810亿笔数字交易，交易总额超过233万亿卢比（25.6亿美元）。在这样的国家，其利害关系再高不过。
网络欺诈已十分普遍：论坛最新《全球网络安全展望》报告的受访者中，73%表示其本人或其人际网络中的某人在2025年受到过直接影响。全球网络安全展望。如今，许多首席执行官将其列为首要网络安全威胁，已超过勒索软件；77%的受访者表示，过去一年网络安全事件有所增加。
这一趋势在南亚尤为突出，85%的受访机构认为网络欺诈和网络钓鱼攻击的风险有所上升。仅在印度，过去六年因网络欺诈和诈骗案件损失的金额就超过52,976克朗（58.1亿美元），其中2025年损失近19,813克朗（21.8亿美元）。
人工智能模型能够生成合成语音，这些语音正被用于电话网络钓鱼攻击。一家英国工程公司在一次视频通话中遭遇此类手段，被骗走2500万美元。如果全球最复杂、最具韧性的企业的管理层都沦为此类犯罪的受害者，那么规模较小的企业应当如何看待电子邮件欺诈、虚假发票和身份盗窃等问题？普通公民，尤其是老年人等弱势群体，又面临哪些风险？
欺诈已成为网络风险的纽带，同时影响家庭、企业和国家经济。一封诈骗邮件就可能引发数据泄露，导致企业运营瘫痪，进而引发连锁反应，波及供应链并跨越国界，不仅损害企业利润，还会削弱人们对数字系统和国际体系的信任。
人工智能实现网络犯罪自动化的潜力，或许只有其预防网络犯罪的能力可与之相提并论。机器学习算法可以检测欺诈行为，例如在银行业中，但它们针对的是行为本身，而非意图，尤其是在人工智能降低了欺骗成本、同时提高了欺骗可信度的情况下。
近期备受关注的案例凸显了其中的利害关系。一段深度伪造视频显示，一位爱尔兰总统候选人虚假宣布退出竞选；与此同时，印度尼西亚民众被一段Instagram视频骗取钱财，该视频似乎显示该国总统指示民众拨打一个WhatsApp号码以领取援助。
然而，欺诈不仅通过重大事件发生。小规模诈骗时刻都在发生，其普遍性在各经济体中都在上升。世界经济论坛的研究显示，北美地区79%的人本人或认识的人曾受到影响。
人工智能能够快速生成量身定制的内容，使犯罪分子得以以前所未有的效率规模化实施并个性化定制诈骗。这既是警示，也是当头棒喝，凸显出亟需同样先进的、由人工智能驱动的检测、身份验证和监测工具。
当今的网络防御能力未能跟上网络攻击日益加快的速度和日趋复杂的手段。但这种局面不必持续下去。《全球网络安全展望 》指出了加强网络防御的三大主要障碍：跨境监管碎片化、情报共享不足，以及中小企业网络安全能力欠缺，其中46%的企业表示存在关键技能短缺。
即将于3月在维也纳举办的联合国与国际刑警组织全球欺诈问题峰会等倡议，标志着各方正朝着更加协调一致的国际行动迈进，以预防网络犯罪。与此同时，在新德里举办的人工智能影响峰会旨在描绘这样一个未来：人工智能推动人类进步、促进包容性增长，并守护我们共同的星球。
保护个人同样需要在人员、基础设施和技术层面采取行动，包括开展数字安全教育、加强身份验证和域名监督，以及利用人工智能进行筛查，在危害发生之前识别欺诈行为。孤立的行动将远远不够。随着欺诈日益系统化，应对措施也必须系统化。
这需要在全球范围内开展协调合作，汇聚政府、行业领袖和民间社会的力量，超越国界协同行动。唯有如此，各方才能增强集体能力，以预防、防范和减轻整个数字生态系统中的网络欺诈。
