过去几年里，除非你一直蒙着眼睛、对外界毫不关心，否则一定听说过人工智能（AI）取得了前所未有、且在很大程度上出乎意料的进展。或许最广为人知的例子是，谷歌旗下的 DeepMind 曾使用一款名为AlphaGo 的人工智能，于 2016 年击败了世界顶尖围棋选手之一。但人工智能取得突破的例子远不止这一件。
如今，人工智能应用于语音识别软件——Siri、Alexa、Cortana 和 Google Assistant。它帮助零售商预测我们想买什么，甚至还能整理电子邮件账户，将我们想看的邮件与不想看的邮件区分开来。
与此同时，在商业领域，机器学习——人工智能的一个分支，专注于能够从数据中学习并据此作出预测的算法——正在拓展计算机能力的边界。因此，我们看到了机器人流程自动化（RPA）和大数据等解决方案，它们提高了效率并增加了利润。
总体而言，人工智能正在出色地推动世界朝着更好的方向转变。
人工智能固有的危险
但事情还有另一面。人工智能可能造成哪些负面影响？显然，人工智能和任何技术一样，都可能被用于不正当目的。对抗性人工智能（通过精心设计输入，诱使人工智能系统错误分类数据）已经得到验证。例如，它可能让一个能够识别红灯的人工智能视觉系统误以为看到的是绿灯，从而给自动驾驶汽车带来灾难性后果。
对抗性人工智能就是人工智能遭到黑客攻击的一个例子。但我们不妨更进一步：如果让人工智能本身来实施黑客攻击呢？这并非最坏情况，而是很可能发生的事。
网络犯罪分子几乎肯定会获得人工智能工具，因为这些工具早已作为开放软件广泛提供。OpenAI 和 Onyx 就是两个立刻会想到的例子。
这凸显出确保人工智能系统能够抵御此类攻击的必要性，尤其是那些用于关键任务场景的系统。
数字军备竞赛
我们面临的局面是，安全行业与网络犯罪分子（无论他们是有组织的、受国家支持的，还是单独行动的黑客）正在展开不断升级的军备竞赛。所谓的“黑帽”正在开发人工智能，以侵入系统并制造混乱；而“白帽”则在研究如何利用人工智能抵御同类人工智能对网络的攻击。
这就引出了道德问题：我们是否应该将人工智能用于这些目的？作为一种技术，我们才刚开始了解它的潜力。从理论上说，人工智能可能变得如此智能，以至于完全超出我们的控制。
这种想法让人工智能军备竞赛显得格外危险。值得庆幸的是，包括埃隆·马斯克和斯蒂芬·霍金在内的睿智人士正在认真思考这个问题，我相信他们会提出必要的保障措施。此外，谷歌和微软等公司已经表示，他们认为机遇大于风险。
这些机遇值得关注。人工智能与网络安全相关的积极进展已经层出不穷。例如，人工智能可以用于增强（而非取代）安全领域的人类能力，从而改进预测性威胁监测、对网络攻击的动态响应、安全软件开发和安全培训。这些工具和流程都将帮助“白帽”领先一步。
然而，留给我们的问题是：人工智能军备竞赛将如何收场？其中一方终将获胜，而获胜者未必是好人。请花一分钟好好想想这一点。
