人工智能可以自动操纵医疗数据集，扩大网络攻击通过卫生和生物技术行业造成的影响。
网络和生物安全威胁可能侵蚀人们对技术的信任。
在任何时候，对技术的信任受损都是危险的，在新冠疫情等全球大流行期间尤其如此。
胸部CT扫描显示了新冠病毒造成的严重损害迹象以及炎症反应，即细胞因子风暴。但如果CT扫描结果是错误的呢？
这绝非一时的担忧。2018年，有人设计了一次恶意攻击，旨在入侵医院的CT扫描系统，生成符合患者独特解剖结构的虚假肺部肿瘤，导致误诊率超过90%。此外，哈佛大学的研究人员测试了对抗性攻击，针对用于诊断皮肤癌图像的算法，结果表明，此类攻击只需修改原始活检图像中的少数像素即可破坏诊断结果。
这些例子只是人工智能如何自动操纵医疗数据集、扩大网络攻击通过卫生和生物技术行业造成影响的部分案例。这些攻击存在于混合安全风险的时代，流行病威胁与强大的两用技术武器化相互交织。两用技术原本用于有益目的，但其本身也可能造成伤害，无论是意外的“非预期伤害”，还是出于蓄意的恶意企图。网络和生物安全威胁的交汇削弱了我们在全球卫生危机中的能力，使我们难以信任数字化的人体影像所揭示的关于新冠病毒等复杂病毒的信息，也难以判断我们能多快地分析病原体，以应对未来无论是自然发生还是人为造成的危机。
世界经济论坛就新冠病毒疫情采取了哪些行动？
这些相互交织的安全风险对每个国家都具有侵蚀性影响，尤其是那些医疗、生物技术和网络基础设施薄弱或陈旧，或者缺乏能力保护其脆弱人群免受流行病和技术威胁武器化影响的国家。
为保护那些首当其冲承受系统性危机冲击的人群，各国需要从被动应对转向主动防范，建立全球预防平台，以识别和预防此类威胁。
全球预防平台可以应对三项关键挑战：
1。网络、生物及人类不安全感不断增加
全球公共卫生危机造成极度脆弱的状况，两用技术可能被利用来加剧不安全感。正如联合国秘书长在安全理事会的讲话中所提及的，讲话中所说：“大流行期间暴露出的薄弱环节和准备不足，为我们展示了生物恐怖袭击可能如何展开的情景，并可能增加其风险。非国家团体可能获得致命毒株，从而对全球各地社会造成类似的毁灭性打击。”
当前的大流行为各国和恐怖组织提供了一个实时窗口，使其能够观察社会在紧急情况下的优势与弱点。过去几个月的情况表明，生物威胁可能使医院和食品供应链瘫痪，削弱公民对关键信息和公共机构的信任，并引发社会动荡、虚假信息、甚至暴力事件。。
此外，恶意行为者访问云实验室的能力可能使其能够自动设计病原体，使其具有多重耐药性，或复制出与新冠病毒相似的毒株。两者都可能借助无人机技术在公共场所轻易传播。
2. 侵蚀数字信任
随着各类技术相互融合，新兴技术使网络、生物和人类安全威胁之间的相互依赖日益加深。在新冠疫情背景下，医疗设施和生物技术供应链对能源公司、数据中心和信息网络的相互依赖，造成了严重的脆弱性。医疗数据操纵与针对生物制造的网络攻击相结合，可能带来严重的经济后果并导致民众死亡。然而，最持久的伤害将体现在公民的信任上——对公共卫生机构、紧急数据系统、实验室、医院和关键基础设施的信任。
3. 冲突中的风险交织
受冲突影响的国家在面对相互交织的安全威胁时，将遭遇规模、死亡率和影响范围前所未有的危机。在公共卫生紧急情况下，这些国家准备应对低概率、高影响事件的能力较弱，一旦此类事件发生，其韧性也会较差。例如，在关键基础设施已经瘫痪的国家，针对医疗设施或相连的电网的网络攻击可能造成毁灭性后果。即使在富裕国家，网络犯罪分子在新冠疫情期间也曾将目标对准医院和数字网络，并扩大社会工程学手段，在人们脆弱的时期对其进行侵害。
展望未来，防范下一次危机
目前，生物安全或网络安全等领域的威胁各自为政、分散治理。要实现改变，新的合作至关重要。可以召集由政府、私营部门和技术领袖组成的小组，开展综合前瞻性研究，涵盖人工智能、网络和生物安全等技术领域。该小组以理解高影响生物事件与两用技术的交汇为目标，可以就预防和缓解制定共同的方法。
前瞻性工作应包括与受冲突影响的国家开展合作。冲突预防领域的专家应与私营部门行为体和民间社会合作，以更好地使预防策略契合具体威胁和脆弱社区的伦理需求。此类努力已经开始出现。例如，联合国和艾伦·图灵研究所的初创企业和创新者已经在合作，利用人工智能进行众包，并预测新出现的安全风险。
这种“包容性前瞻”可以为各国和机构提供工具，帮助其构建情景，从而确定风险优先级，尤其是针对冲突地区，并制定负责任的方法，利用新兴技术进行预防。
相互交织的安全风险对和平与人类福祉产生了强大而具有侵蚀性的影响。多边体系需要从这场前所未有的危机中吸取教训，为其可能再次发生做好准备，届时后果可能更加致命，且极易被武器化。前瞻性研究若作为领导战略加以运用，有助于避免伦理和治理方面的失败。
