2024年达沃斯论坛将热议人工智能——专家观点一览

• 人工智能有可能改变当今世界的大多数方面，但如果放任不管，它可能带来严重威胁。

• 多方利益相关者的协作是制定人工智能系统监管政策的关键，同时又不能扼杀其创新能力。

• 以下是世界经济论坛“达沃斯电台”播客人工智能专题中，部分受访专家的观点。

“一项技术在一夜之间被数百万人使用，这种情况非常罕见。当这种情况发生时，一方面人们会因其以有益且出人意料的方式被使用而感到兴奋，另一方面，一项无处不在、同时被广泛使用的技术也会显得十分脆弱。”

Cohere研究副总裁兼Cohere For AI负责人Sara Hooker表示上述观点。她与其他人工智能权威人士一道，参与了世界经济论坛“达沃斯电台”播客人工智能专题的观点综述。

论坛于2023年举办了两场人工智能峰会，并启动了人工智能治理联盟（AIGA），这是一个多方利益相关者团体，致力于探讨如何让人工智能政策跟上技术发展的步伐。人工智能日益增长的影响，也有望成为其即将召开的达沃斯年会上的热门议题。

那么，专家们是怎么看的？今年我们对人工智能有了哪些认识？未来，人类社会该如何治理这项快速演进、并可能具有高度颠覆性的技术？

为何人工智能及其治理如此重要

人工智能有能力改变我们的世界：重塑我们的生活和互动方式，提升工作中的生产力和投入度，增强创造力……以及方方面面。

然而，这些技术正以指数级速度演进，将世界带入充满未知的领域，其中潜藏着各种挑战，包括技术滥用、安全漏洞、工作岗位流失和经济颠覆。

世界经济论坛的《2023年未来就业报告》指出，人工智能虽可能导致数百万个工作岗位流失，但这项技术的出现也将创造许多新的岗位。

增长最快的职业是人工智能和机器学习专家。Image: 世界经济论坛

人工智能和机器学习专家是增长最快的职业，此外，还有一些需要判断力、创造力、身体灵活性和情商等人类技能的岗位也在快速增长。

下降最快的职业包括银行出纳员、收银员、邮政服务人员和售票员等从事重复性工作的岗位。

“我不会淡化焦虑，因为我认为焦虑是很自然的。每一次重大技术变革都会引发焦虑，其中一些焦虑确有其道理，”Hooker表示，“我认为，重要的是我们要就如何设计教育项目、以及如何为人们使用人工智能技术提供支持，进行切合实际的讨论。”

那么，我们如何确保人工智能模型被安全、负责任地部署？

世界经济论坛人工智能、数据与元宇宙负责人兼第四次工业革命中心（C4IR）副负责人Cathy Li解释道，此前已有多种保障人工智能使用安全的尝试。

2023年10月，美国政府发布了一项关于人工智能的行政令，责成建立新标准，以确保人工智能的安全、可靠使用。

同月，主要国家组成的七国集团（G7）还发布了一项面向开发先进人工智能系统的组织的国际行为准则。

随后，英国政府举办了一场人工智能峰会，并由此达成了《布莱切利宣言》，呼吁多方利益相关者采取行动，在利用人工智能益处的同时应对其风险。

协作对于人工智能的安全部署是否重要？

在世界经济论坛人工智能治理峰会（2023年11月于旧金山举行）上，各方讨论体现了对确保人工智能的伦理及负责任发展的承诺。

“来自各行业的参与者强调了人工智能整合所蕴含的巨大机遇，同时强调必须按照全球伦理标准负责任地开发。会议还探讨了自适应监管框架和统一标准等议题，”Li表示。

该活动汇聚了监管机构、政府、企业、学术界及其他利益相关者，共同探讨人工智能带来的挑战与机遇。

“人工智能为整个社会、政府、企业、社区乃至每一个人带来的变革机遇，只有在公共部门与私营部门实现有力协作的前提下才能实现，”Salesforce总裁兼首席法务官Sabastian Niles表示。

“如果我们以信任和包容为先，重视平等、可持续性和创新，并在审视人工智能时真正拥抱利益相关者的共同成功，我认为我们就能托住底线，改善商业成果、人类福祉、社会成果、公民社会成果，并实现真正强有力的登月式宏大目标。

“我们需要健全的法律和合理的公共政策，为这类技术的发展提供支撑和保护，以促进负责任的创新。

“我们需要建立更加多边、更加多方参与的体系，”Niles表示。

弥合数字鸿沟

“从名称上看，人工智能本身并不是可以直接加以治理的对象。你可以治理人工智能可能影响的次级效应或行业。如果你逐案处理，这就是制定某种政策的最佳方式，”迪拜未来基金会首席执行官Khalfan Belhoul表示。

“但最大的挑战在于，如何统一这些政策，制定最佳实践和标准，并在全球范围内加以应用，从而确保每个人都能以最佳方式使用人工智能。

“AIGA联盟可以专注于第一步：把合适的声音召集到同一场合，形成一份汇集各方观点的综合计划，然后将其转化为行动事项。

“当你尝试通过该联盟将这些行动付诸实施时，我可能会说，第一步应是某种切实可行的用例或试点项目，为全球树立范例，并在此基础上逐步实现标准化。

“具体到人工智能，你需要聚焦某个特定行业。例如，我如何影响媒体行业？我们可以使用哪些类型的内容？我们将如何使用这些内容？完成这些之后，你才能逐步跨入不同的行业，”Belhoul表示。

论坛的AIGA及其峰会的不同之处在于：第一，它们以社区为基础；第二，这些灵活高效的活动能够及时推动一些最紧迫、最急需的实际行动。

“一个重要的关注点是，确保人工智能发展所带来的包容性益处惠及发达国家和发展中国家，”Li表示。

“弥合数字鸿沟成为核心议题，与会者倡导增加对数据云服务和计算机等关键基础设施的使用机会，同时夯实改善培训和教育的基础。”

“主要结论包括：在开源与创新的讨论中，需要明确定义并审慎考量；推动公私协作，实现全球范围内对数字资源的获取；并通过自适应监管、统一标准和持续的国际讨论，推进人工智能治理，”Li表示。

过度监管是否会扼杀人工智能的创新？

在有关人工智能的政策辩论中，一些人担心，过度监管可能通过立法扼杀创新，使人工智能充分的变革潜力无法实现。

“我目前对人工智能最大的担忧是，扼杀性的监管可能会阻止这一美好进程，而这一进程本可以让世界上的许多人过上更健康、更长久、更充实的生活，”Coursera和DeepLearning.AI创始人Andrew Ng表示。

“人工智能技术非常强大，但它是一种通用技术，这意味着它不像ChatGPT或Bard那样只能用于某一种用途。它正在帮助医疗系统改进病历处理方式，使法律文件的处理更加高效，帮助客户服务并满足客户期望，等等。

“具体应用存在风险，应当加以监管：比如，如果你想销售医疗设备，那就要确保其安全。如果你开发自动驾驶汽车，那就需要进行监管。如果你有用于发放贷款的核保系统，那就要确保我们知道如何检验其是否存在偏见。

“真正的危险在于对底层技术本身进行监管。”

“可以将人工智能与电力相比较。它有许多有待开发的用例，而且的确，它可能会electrocute人，也可能引发危险的火灾。但如今，即便因担心触电，我们中间也几乎没有人愿意放弃取暖、冷藏和照明。”

“我认为人工智能也是如此。它有许多有害用例，但我们每天都在使其变得更加安全，并通过监管应用来帮助我们继续前行。然而，为减缓人工智能技术发展而实施有缺陷的监管，将是一个巨大的错误，”Ng表示。

展望我们的人工智能未来

那么，人工智能的发展及其治理的未来将会如何？

“世界经济论坛人工智能治理峰会促成了制定切实可行的计划，以推动生成式人工智能技术负责任且具包容性地发展，”Cathy Li表示。

“下一步是在2024年1月的达沃斯年会上整合并分享这些计划，并通过发布我们的第一份报告来实现。

“达沃斯会议的讨论将涵盖开源与闭源人工智能模型之间的争论，以及人工智能技术的近期与长期风险。

“预计这些举措将推动治理伙伴及更广泛生态系统内的进一步协作与行动，以确保人工智能领域的负责任和合乎伦理的进步，”她表示。