网络安全悖论显而易见：承诺彻底改变业务运营的同一批人工智能技术，也带来了漏洞。
传统上，网络安全侧重于保护系统和培训人员；如今，重点转向保障人与人工智能代理之间交互的安全。
随着企业将人工智能代理与人类员工整合，劳动力信任管理代表着安全战略的一项关键演进。
没有人类智能，就没有人工智能。随着人工智能代理融入日常工作，劳动力正经历根本性转变，这也要求我们改变应对网络安全的方式。
传统上，网络安全侧重于保护系统和培训人员。如今，组织必须保障人与人工智能代理之间交互的安全。这一转变正在迅速加快，我们的安全战略也必须随之演进。
人工智能在网络安全领域的双重属性
人工智能正使网络安全威胁在数量和复杂程度上不断增加，但它也日益成为强大的工具和高价值攻击目标。网络犯罪分子可以通过多种方式将人工智能武器化：操纵人工智能代理欺骗人类用户，利用被盗用的凭证污染训练数据，借助人们对人工智能建议的信任绕过安全协议，以及利用人工智能代理构成内部威胁。
据Gartner预测，到2026年底，40%的企业应用将集成特定任务人工智能代理，而目前这一比例不到5%。这些人工智能代理成为窃取、对抗性操纵和滥用的新目标。
人的因素仍然至关重要
多年来，超过60%的安全漏洞事件都涉及人为因素；社会工程始终是主要攻击途径之一，这一点也在包括 Verizon《2025年数据泄露调查报告》在内的报告中得到证实。如今，随着员工越来越依赖人工智能代理进行决策、任务自动化和信息分析，一种新的漏洞随之出现：攻击者可以利用人类对人工智能日益加深的依赖。
人类同事的行为模式为人所熟悉，而人工智能代理具有一定程度的自主性，因此大多数人更难发现其恶意行为。一旦发生安全失陷，代理就能以机器速度在整个组织中执行操作，可能在人工安全团队来得及响应之前实施无数恶意行为。这一新现实要求建立主动的信任框架，而不是依赖被动响应的安全措施。
在网络安全领域引入劳动力信任管理
妥善处理人与人工智能代理之间的关系，是构建强大网络安全防御战略不可或缺的一环。随着人工智能在工作场所日益普及，保障人机交互层的安全变得至关重要。随着企业将人工智能代理与人类员工整合，劳动力信任管理代表着安全战略的一项关键演进。组织必须以以下四大支柱为基础，制定健全的框架：
1. 可靠性：建立相关方法，核实人类和人工智能代理是否持续、安全地履行各自职责。这包括持续监测可能表明系统遭到入侵的异常行为，并在关键决策节点设置验证检查点。
2. 问责制：为人工智能代理采取的行动明确划分责任。为此，需要建立全面的审计轨迹，记录决策的来源，并能够将结果追溯到具体的人机交互。当出现问题时，组织需要能够准确查明发生了什么以及原因。
3. 透明度：员工必须清楚了解自己何时正在与人工智能代理交互、代理可以访问哪些类型的数据，以及代理如何生成输出或建议。同样重要的是培训员工识别恶意活动。这样的透明度有助于建立知情警觉，而非盲目信任。
4. 伦理一致性：实施治理框架，确保人工智能代理按照组织价值观和安全政策运行。应赋予员工权力，让他们能够在判断合适时质疑、核实并推翻人工智能决策。这使人类判断成为防范技术故障和伦理违规的最终屏障。
论坛如何帮助领导者理解网络风险并增强数字韧性
网络安全中心提供一个值得信赖的平台，让领导者齐聚一堂，理解不断演变的网络风险及其系统性影响。中心致力于在日益互联的数字世界中增进理解与信任。
通过推动跨行业协作和洞见分享，中心帮助合作伙伴增强网络韧性，应对需要集体行动的挑战。
为明天构筑安全根基
各组织正在迅速采用人工智能，以在新的数字格局中保持竞争力。劳动力信任管理提供必要的安全基础，使安全的人机协作成为可能。缺少这一框架，企业就会使自身暴露于新一代网络威胁之下，而这些威胁利用的恰恰是原本旨在提升生产力和创新能力的技术。
在这一环境下，提升员工的人工智能素养至关重要。员工必须学习并理解如何使用人工智能工具，也要学会批判性评估人工智能输出、识别潜在的系统失陷，并在适当时保持审慎。这并不意味着拒绝人工智能辅助，而是要明智地与之协作。
与此同时，网络安全团队需要将关注范围从传统的边界防御和人员培训拓展出去。他们需要监测人工智能代理的行为，建立正常运行基线，并制定代理行为异常时的快速响应预案。人工智能遭到入侵后能够以极快速度运行，因此检测和响应能力也必须同样迅速。
网络安全悖论显而易见：承诺彻底改变业务运营的同一批人工智能技术，也带来了前所未有的漏洞。人工智能在提升效率、增强人类能力和推动创新方面潜力巨大。然而，工作流程中引入的每一个人工智能代理都可能成为安全失陷点；一旦被利用，影响就可能迅速蔓延至组织的各个系统。
拒绝或放慢人工智能应用已无法化解这一悖论；木已成舟。竞争压力和人工智能集成带来的切实益处，使广泛采用势在必行。因此，组织应积极应对挑战，全面保障人机混合团队的安全。
劳动力信任管理不应被视为事后补救措施或合规工作，而应成为人工智能战略的基础组成部分。每个人工智能代理的设计和部署都必须内置安全保障，并随着这些系统不断学习和演进，持续评估并相应调整。
未来的劳动力无疑将由人类和人工智能共同组成：人类通过创造力、判断力和伦理推理建立连接，人工智能则带来速度、一致性和分析能力。这种新型伙伴关系前景广阔，但前提是建立信任，并将安全置于核心位置。
成功实施劳动力信任管理的组织，将能够自信地应对这一演进，并占据有利位置。他们将构建安全的人机混合劳动力，在充分发挥人工智能优势的同时，保持抵御新兴网络安全威胁的韧性。
未能应对这一挑战的组织，可能会沦为警示案例，成为自己为保持竞争力而采用的技术的受害者。在人工智能时代，安全不是创新的障碍，而是实现可持续创新的基础。
