本文的一个版本最初刊载于华为杂志，Transform。
很少有技术像人工智能（AI）那样引发如此强烈的恐惧。
但过度谨慎会带来另一种风险：网络犯罪分子全速推进，利用AI实施恶意目的，而其他人则小心翼翼地前行，等待每一位立法者、持怀疑态度者和后来的采用者都完全确信AI值得信赖，而非令人恐惧。
解决这些问题的关键在于国际合作，因为AI的安全影响并不受国界限制。
很少有技术像人工智能（AI）那样引发如此强烈的恐惧。自1948年艾伦·图灵提出这一构想以来，人们一直在思考，如果机器超越其创造者并掌控地球，会发生什么。甚至AI研究人员自身也感到不安。2023年5月，包括埃隆·马斯克在内的一群人呼吁暂停六个月对所有“比GPT-4更强大的AI系统”的训练。
法律保护可以避免此类灾难，首批AI法规已经发布，并正在等待公众意见。但其中一些征求意见稿设定了难以企及的高标准。例如，欧盟于2021年发布的一项欧盟AI监管提案要求用于机器学习的所有数据集都必须“无误”。
很少有数据集能做到这一点。一项麻省理工学院的审查对十个主要数据集的审查发现，平均错误率为3.4%，这意味着数以万计的错误，包括错误标注的图像、文本和音频。
科技公司已经对欧盟法规表示担忧。谷歌措辞委婉，表示该公司“担心在政策辩论中未能充分考虑不使用AI的机会成本。”
立法者保持谨慎是可以理解的。但过度谨慎会带来另一种风险：网络犯罪分子全速推进，利用AI实施恶意目的，而善意的参与者则小心翼翼地前行，等待每一位立法者、持怀疑态度者和后来的采用者都完全确信AI值得信赖，而非令人恐惧。如果我们采取这种双轨方式——恶意行为者快速行动，而善意者却拖拖拉拉——结果可能会十分严峻。
世界经济论坛如何确保人工智能的伦理发展？
黑客已经在利用AI
黑客已经在利用AI制造僵尸网络、破解密码、突破验证码系统、进行非法自动电话营销，以及从事其他形式的网络恶作剧。他们不在乎附带损害，也无需考虑认证、测试或合规问题。遗憾的是，这意味着目前犯罪分子使用AI的方式比守法者更先进、更具创新性。这很可能会让一些人——甚至许多人——比现在更加不信任AI。
但善意的参与者人数多于恶意者，而且从长远来看，AI被用于造福社会的可能性很大。与此同时，有什么办法可以建立对AI的信任？
简单的答案是，目前我们不应试图实现对AI的完全信任。相反，我们需要建立恰到好处的 信任 ，以避免因过度监管AI而让犯罪分子占据上风。我们可以通过几种方式做到这一点。
1. 提升对AI的熟悉度
首先，我们必须确保网络安全专家对AI有足够的了解，以避免意外后果。例如，在尝试利用AI解决传统安全问题时，可能会无意中导致其生成完全无法预料且不理想的解决方案。
同样，犯罪分子不存在这一问题。事实上，他们正在探寻网络防御中针对AI的漏洞。对他们而言，意外后果是一种好处，可能揭示可供利用的隐藏弱点。
对具备AI专业能力的网络安全人才的需求，将加剧现有的人才短缺：据一些估计，世界需要的网络安全专业人员比目前拥有的数量多出约三百万人。但除了网络架构、访问控制、加密等传统技能之外，网络安全专家越来越需要具备与AI协作、打造值得信赖解决方案的能力。
2. 学习防御AI网络攻击
其次，我们需要构建正确的IT环境，以抵御由AI主导的攻击。AI通常被视为一种通用技术——其用途如此广泛，以至于影响社会的各个方面。
但在特定环境中运行时，AI的通用性会降低。例如，每个企业IT系统都不相同。它们拥有不同的密码方案、访问控制和防火墙；其用户的行为也各不相同。这意味着，在结构不良或运营不佳的IT环境中，AI会习得不良习惯。它会产生误报和漏报。人们最终会得出结论：AI不可信。
但在适当的环境中——即采用最佳实践、清晰流程、良好管理和优质工具构建的环境——AI可以经过训练，识别表明安全漏洞的异常情况和偏离正常活动模式的行为。AI将像一只训练有素的看门犬，发现入侵者并将其驱离。当它开始如此运作时，人们便会开始信任它。
3. 缩小数字鸿沟
第三，我们必须更加努力地缩小数字鸿沟。大多数人并未将数字不平等问题与网络安全联系起来，但两者之间的联系确实存在。AI可以迅速利用计算机发起僵尸网络或攻击。在一些发展中国家，企业可能缺乏能力来打造结构更完善、防护更稳健的IT环境。这使得这些国家成为网络犯罪分子的理想猎场。
一个问题即便不在你的网络中，也不代表它与你无关。漏洞可能会扩散——这也是帮助世界上较贫穷地区开始受益于更先进技术的另一个理由。
解决这些问题的关键在于国际合作。与新冠疫情和气候变化一样，AI的安全影响并不受国界限制。
诚然，目前各国之间存在着重大的信任障碍。但如果我们无法建立足以在这一关键领域开展合作的一定程度的信任，我们将不可避免地开始将AI视为一种有待利用的可信工具，而非一种令人畏惧的威胁。如果这种情况发生，网络犯罪分子将获得无法逾越的优势——不仅是眼下，而是永远。
