人工智能正在掀起一场规模空前的革命。
如果我们不能让企业和消费者厘清概念与实际之间的区别，就将遭遇巨大的脱节。
我们必须主动学习人工智能知识，以识别并应对潜在的预警信号，否则就会成为黑客轻易得手的目标；我们不能让创新和热情压倒安全与韧性。
尽管2023年全球风险投资总额骤降了38%，但人工智能初创企业的融资额飙升，超过500亿美元（较2022年增长9%）。华尔街有时可能会患上追逐热点的毛病，但它有一点说对了：人工智能绝非昙花一现。无论你将其视为新一轮淘金热，还是自万维网问世以来最具变革性的科技趋势，它都正在掀起一场规模空前的革命。
但我们正处于关键的转折点。如果我们不能让企业和消费者厘清概念与实际之间的区别，就将遭遇巨大的脱节。“真正的”人工智能很少被人理解，却常常引发从天马行空到悲观绝望的强烈反应。随着人工智能渗透到各行各业，并融入普通人的生活，严重的担忧不断出现，却被误解或被忽视。
与我们此前的类比相对照：淘金热带来了巨大的财富机遇，但人们未能充分理解其整体影响，也未能对其所带来的风险进行监管或量化，最终付出了沉重代价。它吸引了鱼龙混杂的人群，比如骗子；它造成了严重的环境影响，包括河流淤塞、大规模砍伐森林、采矿过程中的化学物质污染土壤；最终还导致大宗商品价格上涨，并引发了通胀冲击。在我们关于万维网的例子中，设想一下，如果企业领导者和普通消费者从未学会如何使用互联网，甚至不理解其基本用途及其运作方式， 会是什么情形。
尽管标题吸引眼球，但人工智能本身无法解决世界上最紧迫的问题，尤其是在我们不努力理解其局限性的情况下。虽然我们可以在更高的抽象层面上运作，并获得更多能力，但OpenAI首席执行官萨姆·奥特曼在2024年1月于达沃斯举行的世界经济论坛年会上指出，人工智能“不擅长生死攸关的情境”。然而，随着炒作不断升温，各机构竞相将人工智能融入业务以保持竞争优势，不惜一切代价，却往往在一开始就未能纳入保护性安全措施，也未能分析潜在风险。
在误解和评估人工智能风险方面，有许多“预警信号”需要警惕，以下是各类机构的首席安全官（无论机构规模或所属行业）都应牢记于心的要点：
1. 在人工智能的世界里，数据是唯一的货币，拥有最多数据的机构将胜出
仅靠人工智能本身无法解决世界上最紧迫的问题。人工智能的成功实施与应用取决于数据的数量和质量。然而，收集海量优质数据并不意味着人工智能生命周期的结束。机构还必须能够提取数据，并将其转化为洞见。曾经的竞争焦点是构建人工智能，如今这场竞争正在演变。为了超越竞争对手，机构现在必须持续使用最新的相关数据训练人工智能模型，以避免幻觉和模型漂移。
论坛如何应对全球网络安全挑战？
网络安全中心为各方领导者提供了一个值得信赖的平台，帮助他们共同厘清不断演变的网络风险及其系统性影响。该中心致力于在日益互联的数字世界中增进理解并建立信任。
通过促进跨行业合作与洞见共享，该中心帮助合作伙伴增强网络韧性，并应对需要集体应对的挑战。
2. 理解人工智能的安全专业人员与不了解人工智能的安全专业人员之间的知识差距，将是权力平衡向威胁行为者倾斜的主要原因
询问攻击者是否因使用人工智能而占据上风，这本身就是个错误的问题。人工智能已经成为常态，因此真正的问题在于，安全领导者和专业人员是否具备所需技能，或是否愿意投入时间进行技能提升，学会应对这项正在成为科技史上最大规模革命的技术。无论是利用这项技术的力量，还是防御针对它的攻击，都取决于能否理解其能力及局限。如果安全行业未能揭开人工智能及其潜在恶意用途的神秘面纱，未来几年将成为威胁行为者的狂欢时期。
3. 以人工智能对抗人工智能是唯一的办法，但你必须先掌握基础知识
防御人工智能，归根结底意味着防御所有已被索引的人类知识。信息共享的速度比以往任何时候都快出数个数量级，交换也更加高效。安全专业人员必须在信息无限的时代保护其机构，并应对前所未有的挑战。但是，如果该行业在做好基础工作方面历来举步维艰，那么转而全力依靠人工智能解决问题，大多只会收效甚微。缓解攻击的最佳方式，是确保安全领域的基础管控措施已经落实到位。我们常常追逐人工智能这类热点，而防御人工智能的最佳手段，恰恰是扎实的基础管控。
4. 安全设计的讨论将不仅涵盖，更将大力聚焦人工智能工具与模型
人工智能的产品化讨论往往只有在模型已经开发完成并投入使用之后，才会涉及安全领域，例如维护模型的完整性。但如果人工智能是各机构和关键基础设施开展业务、运营、开发服务等的必然未来，那么安全就必须从一开始便嵌入其中。人工智能必须以能够应对网络安全长期关注的诸多问题的方式进行设计与部署。
然而，人工智能的讨论中，安全往往只在制定治理流程时才被提及，而在模型的生产、运行或调优过程中却从未被考虑。模型推理常常被忽视，但它是安全的关键环节。许多企业领导者认为人工智能会即时、自动地解决问题，并且它能够神奇地运作。例如，模型能否“做出正确的事”取决于准确性，而准确性又取决于模型训练以及降低幻觉发生的概率。如果我们继续在人工智能领域将创造力和速度置于准确性之上，大语言模型将被幻觉所束缚。在未来数年，贯穿模型全生命周期（包括构建、测试和投产）的安全保障，将成为安全团队和监管机构的重中之重。
每当我们开发出显著改变商业运作方式的新技术时，往往会出现过度兴奋和乐观情绪，通常只关注所呈现的机遇，而忽视权衡风险。人工智能正是这一周期的受害者。不过，好消息是，我们仍处于人工智能的“烟雾与镜像”阶段，正在测试其能力并探索应用场景。我们现在可以花时间主动学习这项技术，以识别并应对潜在的预警信号，否则就会成为黑客轻易得手的目标。归根结底，我们不能让创新和热情压倒安全与韧性。
