虚假信息和错误信息是世界面临的最严重的短期风险。
人工智能正在放大被操纵和扭曲的信息，这可能会破坏社会稳定。
世界经济论坛《2024年全球风险报告》揭示了因滥用人工智能而相互交织的风险。
一系列新风险正在出现，并可能进一步破坏全球秩序的稳定。
除了几个世纪以来困扰世界的冲突和经济不确定性之外，人工智能（AI）的广泛普及也带来了新的威胁。
世界经济论坛《全球风险报告》2024年版对我们在短期（两年）内面临的最严重威胁进行了排名，同时也让我们得以从更长远的角度审视风险格局（十年）。
与去年的报告相比，今年的报告有三个主要变化，它们都与生成式人工智能的扩散及其可能被滥用有关。其中一项新兴风险在短期内被列为最严重的风险。以下是新风险的具体构成。
1. 虚假信息和错误信息
根据《2024年全球风险报告》，被操纵和伪造的信息现已成为世界面临的最严重的短期风险。
未来两年，虚假信息和错误信息将对民主进程构成有史以来最大的挑战之一。
将近30亿人即将参加全球各地的选举。孟加拉国、印度、印度尼西亚、墨西哥、巴基斯坦、英国和美国的选民即将投票。
“虚假信息和错误信息可能会彻底扰乱多个经济体的选举进程”，报告称。报告指出，这种干扰可能引发社会动荡和对立。它还将导致人们对媒体和政府信息源的不信任日益加深。虚假信息和错误信息还将加深政治观点已根深蒂固的社会中的政治极化。
生成式人工智能被广泛用于制作所谓的“合成内容”，这使虚假信息和错误信息所带来的风险进一步加剧。合成内容的范围包括深度伪造视频、语音克隆以及伪造网站的制作。
监管机构正在采取行动，制定新法律以控制人工智能的滥用，但该技术的发展速度可能会超过监管进程。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心将各行各业的领导者联系在一起，帮助他们理解人工智能的快速发展及其对经济和社会的影响。该中心支持就人工智能应用相关的机遇、风险和权衡取舍展开知情对话。
通过可信赖的交流平台和合作倡议，该中心使合作伙伴能够建立共识，并共同致力于人工智能创新与应用的负责任方法。
2. 人工智能技术的负面影响
除了对民主和社会凝聚力的威胁之外，人工智能的潜在负面影响也是《2024年全球风险报告》中另一个日益增长的风险。
在报告的两年时间框架内，人工智能相关风险的严重程度排名第29位；但若将时间快进十年，随着人工智能深入社会的各个方面，该威胁将升至排名第6位。除了虚假信息的传播之外，风险还包括大规模失业、人工智能被武器化用于军事用途、犯罪分子利用人工智能发动网络攻击，以及企业和民族国家所使用的人工智能系统中固有的偏见。
另一个与人工智能相关的风险源于监管方面的谨慎态度。迄今为止，面对人工智能可能产生的结果存在不确定性，监管更倾向于鼓励创新，而非保持审慎。
3. 技术权力集中
人工智能正迅速成为人类有史以来开发的最强大的技术，在民用和军事领域都有大量潜在应用。
《2024年全球风险报告》对如此强大且具有变革性的技术的开发方式表示担忧，并指出：“人工智能技术的生产高度集中，形成了单一、全球一体化的供应链，有利于少数公司和国家。这带来了重大的供应链风险，可能在未来十年内显现。”
这些风险包括：在人工智能开发中优先考虑国家安全利益；因争相获取包括矿产和半导体在内的零部件而导致的通货膨胀式抢购，从而使生产成本飙升；以及为提高利润而采取的反竞争行为。
报告称，欧盟已在考虑出台相关法规，以约束“数字守门人”的权力，确保人工智能开发领域的公平竞争。
毫无疑问，人工智能在医疗保健、教育、就业和娱乐等多个领域都具有提升人类体验的巨大潜力。但正如《2024年全球风险报告》所强调的，这项新兴技术正在产生新的风险，如果管理不当，可能会对人类在未来几十年面临的一些最大威胁构成挑战。
