人工智能（AI）有望显著改善我们的生活，对医疗保健、安全、治理和经济等各个领域产生积极影响。但几乎所有技术都可能被用于行善，也可能被用于作恶。
《人工智能的恶意使用》报告由包括剑桥大学和研究公司 OpenAI 在内的多家机构专家共同编写。报告指出，如果落入不法之徒手中，人工智能可能被流氓国家、恐怖分子和罪犯利用。
报告列出了人工智能最可能遭到利用的三个领域——物理、数字和政治领域，并描述了人工智能攻击可能出现的情景。
1. 遥控汽车引发碰撞
最令人担忧的是，人工智能可能被用于对人类发动实体攻击，例如入侵自动驾驶汽车，导致重大碰撞事故。
报告指出：“如果多台机器人由运行在中央服务器上的单个人工智能系统控制，或者多台机器人由相同的人工智能系统控制并接收到相同刺激，那么一次攻击也可能引发同时故障，其规模之大原本难以想象。”
得克萨斯大学奥斯汀分校教授彼得·斯通博士是一个团队的成员，该团队最近开发了一种改进机器人与人类沟通方式的新算法。他认为，报告中的警告应当得到认真对待，但这种情况并非新问题，也并非自动驾驶汽车独有。
斯通博士告诉我们：“如果有人今天把一座城市所有交通信号灯都改成同时显示绿灯，灾难就会随之而来。而我们的电网相当集中，这一事实也使我们容易遭遇大规模停电。”斯通博士认为，适当的应对措施包括加强安全防护、建立冗余——即提供备用容量——以及分散决策权。
2. 高度复杂的网络钓鱼
未来，人工智能可能几乎全程执行针对个人的敏感信息和隐私信息窃取行动。
报告称：“这些攻击可能利用人工智能系统完成某些任务，其成效超过任何人类。”报告还指出，随着人工智能发展，诈骗或身份盗窃可能变得更加精密、更加有效。
如果网络钓鱼诈骗通常涉及的大部分调查和信息编写工作都能由人工智能完成，那么就会有更多人上当受骗。
人工智能可以冒充人们现实生活中的联系人，模仿这些联系人的写作风格，让骗局更难被识破。
卡内基梅隆大学机器人学教授伊拉·努尔巴赫什表示，人工智能发展迅速，因此我们需要更快采取行动，应对其带来的风险。努尔巴赫什说：“真正的挑战在于制定政策，尽可能扩大益处、减少弊端。正如人类诈骗者不断以更精密、更巧妙的网络骗局骗取他人钱财，人工智能驱动的恶意行为者也会不断寻找新的途径，侵入我们的数据和钱包。”
3. 操纵公众舆论
机器人程序和人工智能生成的假新闻、假视频可能对公众舆论产生重大影响，扰乱社会各个层面，从政治到媒体皆会受到波及。在2016年美国总统竞选期间，社交媒体机器人程序传播假新闻就已经成为现实。
报告称，训练有素的机器人程序可能为政党创造战略优势，几乎如同人工智能宣传机器，在信任度低的社会中大行其道。
其影响远不止传播虚假文本内容。报告称：“如今，人工智能系统能够生成几乎以假乱真的合成图像；而就在几年前，它们生成的图像还很粗糙，一眼就能看出不真实。”
世界经济论坛技术、价值观与政策全球未来理事会主席、著有《危险的主宰：如何防止技术脱离我们的掌控》一书的温德尔·沃勒赫表示，社交媒体如今已开始结合对人类心理的洞察来操纵舆论，而且未来几年这种做法会变得更加复杂。
“各国不仅会把这些工具用作宣传手段，以迷惑并动摇竞争对手，还会有政治领导人和政党将其作为新方法，在国内追踪、操纵和管理公民。”
降低风险
针对这些威胁以及报告中列出的许多其他问题，专家提出了四项“高层级”建议：
1. 政策制定者和技术研究人员现在就需要携手合作，了解并为人工智能的恶意使用做好准备。
2. 人工智能有许多积极用途，但它是一项双重用途技术；研究人员和工程师应当留意其遭滥用的可能性，并主动采取应对措施。
3. 可以也应当向长期应对双重用途风险的领域借鉴最佳实践，例如计算机安全领域。
4. 应积极扩大参与防范和降低人工智能恶意使用风险的利益相关方范围。
温德尔·沃勒赫表示：“无论在国际层面还是国家层面，都需要一种灵活而全面的新型治理模式，以最大限度发挥人工智能的益处、降低风险，并落实这四项高层级建议。”
在世界经济论坛第四次工业革命中心，人工智能与机器学习负责人凯·弗斯-巴特菲尔德正致力于落实报告提出的一些降低风险的措施。弗斯-巴特菲尔德说：“我们共同设计了一个项目，帮助研究人员和工程师关注人工智能的滥用问题，确保任何设计、开发和创造人工智能的学生及研究生都能接受符合文化背景的人工智能伦理设计教学。”
她解释说：“我们还与各国政府和董事会合作，为人工智能的委托开发和使用制定最佳实践。我们希望构想一种新型监管机构，能够灵活应对风险，推动并鼓励使用有益于全人类和地球的技术。”
