2024年，人工智能继续加速发展。
政策制定者正在关注此事，但今年人工智能治理能否取得重大进展？
三位行业专家在世界经济论坛“达沃斯广播”播客的最新一期中分享了他们的见解。
如果说2023年是世界熟悉生成式人工智能的一年，那么2024年是否会成为各国政府切实推进其治理的一年？
这正是“达沃斯广播”播客最新一期节目向嘉宾提出的问题。以下文章基于在达沃斯2024年论坛期间录制的对话整理而成，嘉宾包括：
Alexandra Reeve Givens，非营利机构民主与技术中心（Center for Democracy & Technology）首席执行官；
Aidan Gomez，企业人工智能公司Cohere联合创始人兼首席执行官；
以及Anna Makanju，OpenAI全球事务副总裁，该公司开发包括ChatGPT在内的人工智能产品。
Alexandra Reeve Givens，非营利机构民主与技术中心首席执行官；Aidan Gomez，企业人工智能公司Cohere联合创始人兼首席执行官；以及Anna Makanju，OpenAI全球事务副总裁，该公司开发包括ChatGPT在内的人工智能产品。
以下是他们的部分见解，欢迎收听播客以获取完整对话。
推动人工智能治理的动力
斯坦福大学人工智能指数显示，政策制定者对人工智能的关注正在上升。在127个国家中，提及人工智能并获得通过成为法律的法案数量已从2016年的1项增至2022年的37项。与此同时，欧盟正在筹备其《人工智能法案》，欧盟称其为全球首部全面的人工智能法律。
Cohere的Aidan Gomez同意治理是必要的，但强调“我们实现这一目标的方式极为重要”。
“横向技术（如语言）很难监管。它影响每一个垂直领域、每一个行业——只要有不止一个人的地方，就会有语言的存在。
“我们应当在垂直层面进行监管，并帮助现有的政策制定者和监管机构在其专业领域内深入了解生成式人工智能及其影响。这将有助于他们在各自情境中降低风险。”
他补充道，就全球监管而言，需要国际共识与协调。任何监管都应致力于赋能创新，而非扼杀创新，尤其是小型企业的创新。
“人工智能是一项极其强大、影响深远的技术，因此我认为我们必须保护弱小者。需要新的理念，需要新一代思想者参与构建和贡献。因此，这应当成为监管者的首要任务。”
推动监管进入“行动阶段”
然而，随着人工智能持续发展，技术被滥用的可能性也随之增加。2024年，全球超过20亿选民将前往投票站，因此，对虚假信息和深度伪造等风险的关注日益增加，这些风险可能扰乱民主进程。
众多大型人工智能公司已签署《打击2024年选举中人工智能欺骗性使用的科技协议》，该协议包含一系列承诺，旨在打击针对政治候选人的虚假图像、视频和音频。
民主与技术中心的Alexandra Reeve Givens表示，应对深度伪造只是当前紧迫问题的一个方面。从长远来看，她认为，考虑经济不平等在民主存续中所扮演的角色同样重要。
“就人工智能而言，这不仅引发了就业岗位被取代的问题，”她补充道，“还涉及谁能获得贷款、谁被录用为工作人员、某人是否获批领取公共福利等决策如何作出的问题。
“人工智能正在以政策制定者和企业都必须高度重视的方式，渗透到所有这些体系之中。”
企业、政府和民间社会已经在就如何应对此类问题展开讨论；而对Givens而言，2024年是各方必须“进入行动阶段”的一年。
“我们必须从高层讨论走向切实可行的落地成果，即制定实际法律、通过政策并由企业部署新的设计方案。
“2023年的一大分歧在于，我们应当关注长期风险还是短期风险。我希望我们如今已经达到成熟阶段，人们意识到我们可以、也必须同时应对两者。”
世界经济论坛如何为人工智能建立防护机制？
人工智能卓越中心汇聚各行业领袖，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险与权衡展开有见地的对话。
通过值得信赖的交流平台和协作性倡议，该中心助力合作伙伴建立共同认知，并携手推进负责任的人工智能创新与应用。
开展共同对话
OpenAI的Anna Makanju主张，就人工智能的“灾难性风险”达成国际共识，同时倡导企业内部实行自我监管。
红队测试，她表示，这在行业中是一种常见做法。这是一种用于软件开发和网络安全领域的流程，旨在分析新系统的风险并评估其有害能力。
“我们已在自身模型上开展此项工作，以确保我们能够了解一些迫在眉睫的风险——它可能如何被滥用？我们如何减轻这些风险？”
为分享安全洞察与专业知识，四家最大的人工智能公司已组建前沿模型论坛。通过该论坛，Anthropic、Google、Microsoft和Open AI承诺推进人工智能安全研究，并建立公私合作关系，以确保负责任的人工智能开发。
“这关乎确定一套共同的实践准则，”Makanju表示，并补充道，这项工作还有助于明确应设定哪些阈值，从而为监管提供依据。“归根结底，构建这些模型的公司对其了解最为深入。它们对各个方面都有最细致的理解。而我认为，没有人应当信任企业进行自我监管。但我确实认为，有必要开展这样的对话，并制定真正稳健的监管措施。”
世界经济论坛的人工智能治理联盟为行业领袖、政府、学术机构和民间社会组织提供了一个论坛，以公开探讨生成式人工智能相关问题，助力确保负责任人工智能系统的设计与交付。
