2024年将有42亿人前往投票，但在人工智能（AI）时代，错误信息和虚假信息可能使这一民主行为无法实现其应有的意义。
《2024年全球风险报告》将错误信息和虚假信息列为首要风险之一，因为选举结果的合法性可能受到质疑，进而破坏社会稳定。
“后真相时代”、选举进程与过去一年生成式人工智能的迅猛发展相互交织，这意味着科技公司、政府和媒体必须思考如何帮助保护民主制度。
2024年是全球选举规模最大的一年。
尽管孟加拉国和台湾已于本月早些时候选出领导人，美国、印度和英国等主要民主国家即将举行的选举，成为2024年达沃斯论坛（即刚刚闭幕的瑞士达沃斯年会）的讨论焦点。
在领导人们讨论某些选举结果如何反映民主的优势与不足的同时，人们也开始关注人工智能（AI）如何促进或阻碍这一选举进程。
破坏民主？
错误信息和虚假信息在“全球风险认知调查”所识别的十大风险中名列前茅。大规模人工智能模型的易用界面已经引发了伪造信息和所谓“合成”内容的爆炸式增长——从高仿真语音克隆到假冒网站——正如《2024年全球风险报告》所详述的。
该报告还警告称，这些选举中的虚假信息可能通过诋毁和质疑政府的合法性而破坏社会稳定。人工智能的支持者认为，同样可能破坏民主制度的生成式人工智能（GenAI）技术，也可以帮助对抗试图这样做的不良势力。
“当今信息环境中，什么是真相，什么是基本事实？”在深度伪造时代，这是任何讨论的出发点，民主与技术中心（Centre for Democracy and Technology）首席执行官亚历山德拉·里夫·吉文斯（Alexandra Reeve Givens）在达沃斯表示。
选举期间还可能出现其他威胁，例如旨在改变选民行为的自动语音电话和定向自动短信，其中包含虚假信息，人工智能使这些行为变得更加容易。选举官员还面临网络钓鱼和人肉搜索（doxing）的威胁。
此外，还存在一个更深层次的信任问题。
“我们是通过后天培养而非遗传基因成为公民个体的，”欧亚集团总裁伊恩·布雷默（Ian Bremmer）在题为《42亿人的投票箱》的分会上表示。“我们成为有公民意识的人，是因为身边有塑造我们的机构，这些机构让我们与周围的人建立联系；如果你看看美国过去40年，这些机构已经支离破碎，失去了信任。”
“后天培养正在被算法取代，”他补充道，并指出“我们和民主正在经历一场实时实验”。
近期发布的爱德曼信任度晴雨表（Edelman Trust Barometer）也发现，大多数受访者认为，当创新管理不善时，科技和社会都会让他们落后，从而导致他们认为这一体系存在偏见，且弊大于利——尤其是资本主义。
信任问题作家兼讲师雷切尔·博茨曼（Rachel Botsman）在同一分会上补充Bremmar的观点，认为人工智能系统本质上是在分配信任，从而扰乱民主。
“现在让我感到恐惧的是，这会造成一个混乱的真空，而我们或许称之为最不可信的人，他们理解这些动态。他们懂得如何利用这些碎片和混乱，制造某种绝对真理，制造某种常被误认为权力的虚假确定性，而信任也就随之流失。”
博茨曼表示，在信息难以控制的选举环境中，存在一种混乱的能量。她补充道：“因此，那些脱颖而出的声音往往清晰而绝对，它们是在反对某事，而非代表某事。”
这一问题同样由《外交政策》总编辑拉维·阿格拉瓦尔（Ravi Agrawal）在题为《保护民主免受机器人与阴谋侵害》的分会上提出，即：“我们如何确保人工智能和技术成为向善的力量，而非混乱的根源？”
利用技术向善，还是遏制不良人工智能？
Cloudflare联合创始人兼首席执行官马修·普林斯（Matthew Prince）在探讨机器学习如何识别威胁及其保护性作用时坚称：“好人能更多地获取人工智能。”
他补充说，他们所提供的技术——以及其他类似企业的技术——的可及性，至少可以帮助资源匮乏的国家建立稳定的政府基础设施，使所有人受益。他说，正因如此，“我们有责任保护各地的民主制度。”
在《建立对民主的信任》的分会上，透明国际主席弗朗索瓦·瓦莱里安（François Valérian）同意，大数据和人工智能有助于民间社会组织识别破坏民主的腐败模式和利益冲突。
“向数字化转型后，人们可以查看自己的数据，如果有错误，你可以说，嘿，这里有错，政府需要予以更正，”他说。
在利用技术向善方面，仍需建立一定的信任。英国因计算机系统错误地将数百名邮政局长列为欺诈嫌疑人而引发的丑闻就是一个例子。
与此同时，有观点认为，疫情使人们逐渐适应了数字化，对数据泄露和黑客攻击的担忧也随之减少。然而，在人工智能领域，数据的常规制衡机制更难实现，因为并非所有内容对用户都是可见的。
监管讨论已取得显著进展，科技平台也承认安全必须成为创新的核心，这一点尚未有平息的迹象。
微软执行董事长兼首席执行官萨蒂亚·纳德拉（Satya Nadella）表示：“我认为世界不会再容忍我们中的任何人推出未经充分考虑安全性、信任度和公平性的产品。”
把握监管之道
“历史最重要的教训是，不要对某些技术过分敬畏，以至于觉得无法控制它，无法将其用于改善人民的生活。
“因此，在这种背景下，我们需要政治家积极参与，”纳德拉在达沃斯分会《与萨蒂亚·纳德拉的对话》中补充道，并认识到，对技术缺乏理解阻碍了监管尝试。
此外，英国财政大臣杰里米·亨特（Jeremy Hunt）主张政府采取“轻触式”监管方式，以免“在金鹅成长之前将其扼杀”——也就是说，人们并不完全了解其能力，因此需要谨慎行事。与会者还承认，人工智能生成的输出内容处于不断变化之中，这使监管变得困难，因为你需要告诉系统，任何一种假设性的输出都必须被禁止。
OpenAI的萨姆·奥尔特曼（Sam Altman）则更进一步，探讨了由谁来做出决策的问题。
“我认为，我们有责任想办法征求社会各界的意见，了解我们将如何做出这些决策，”他推理道。“不仅要了解系统的价值观是什么，还要了解安全阈值是什么，以及我们需要何种全球协调，以确保一个国家发生的事情不会对另一个国家产生极为负面的影响。”
我们如何确保人工智能和技术成为向善的力量，而非混乱的根源？
《外交政策》总编辑拉维·阿格拉瓦尔（Ravi Agrawal）
为了围绕透明且包容的人工智能系统的开发，联合行业领袖、政府、学术机构和民间社会组织，世界经济论坛发起了人工智能治理联盟（AI Governance Alliance），该联盟于2023年6月成立。该倡议旨在塑造人工智能治理的未来，促进创新，并确保在坚持伦理考量和包容性的同时，充分发挥人工智能的潜力，造福社会。
追究散布错误信息者的责任
监管及其他针对人工智能滥用的防护措施无法做到的，是控制政客散布的错误信息，正如政治学家拉斯穆斯·尼尔森（Rasmus Nielsen）所指出的，见其近期在《金融时报》上发表的一篇评论文章。
这方面的明显例子出现在美国前任政府期间；而在英国，非营利机构FullFact报告称，多达50名议会议员发表了不实陈述却未予更正。
此类做法的后果是，数百万美国人相信2022年的选举被窃取，而问题在于，政客如何利用人工智能在2024年的选举中误导选民。
媒体的基本运作对于判定真相至关重要，这一观点在多场讨论错误信息与虚假信息难题的分会中均有提及。
因此，维护媒体自由并促成有效的事实核查至关重要，潜在的人工智能产品也可助一臂之力。这既需要立法，也需要大型科技公司承诺遵守关于虚假信息的行为准则，据建议，欧盟委员会价值观与透明度副主席薇拉·尤罗娃（Vera Jourová）提出。
尤罗娃还认为，“提高认识——降低社会相信谎言的接受能力”，是打击错误信息和虚假信息的一个重要因素。
论坛的全球数字安全联盟（Global Coalition for Digital Safety）正致力于加快推进全社会共同应对虚假信息并遏制网上有害内容的努力。该倡议旨在促进交流有关新网络安全监管的最佳实践，并推动数字媒体素养提升项目的合作。论坛近期的一份出版物还探讨了《人工智能时代负责任媒体的未来原则》，其中详细列出了行动导向的建议，包括负责任的人工智能开发、开放创新和国际合作。
因此，正如今年各场分会所表明的，人工智能既可能成为向善的力量，也可能成为不良力量，并可能放大恶意行为者的影响。然而，有人提醒不要将当前我们所见的威胁归咎于技术，其中包括开放社会基金会董事会主席亚历山大·索罗斯（Alexander Soros）：
“你知道，我认为，说自印刷术发明以来技术就一直对人类构成威胁，是一种逃避责任的说法。印刷术对人类文明的颠覆性远超人工智能将会带来的任何影响。”
