生成式人工智能发展迅速，世界各地的监管机构正努力追赶。
在世界经济论坛《达沃斯电台》人工智能播客系列第4集中，我们听取了各方对需要采取哪些行动的看法。
生成式人工智能的出现带来了各种机遇和潜在风险，也引发了全球关于应如何监管这项技术的讨论。
作为世界经济论坛《达沃斯电台》播客人工智能特别系列的一部分，我们正在采访专家，探讨应如何应对人工智能，以及它可能如何改变我们的生活。
在这个共六集系列的第四集中，我们采访了非营利组织AI Commons的联合创始人兼负责人 Amir Banifatemi，以及AIGC Chain和Stability AI的联合创始人 Cyrus Hodes；他还担任全球知识平台 AI Commons 指导委员会成员。
以下是对话中的一些重要见解。
现在就必须考虑人工智能防护措施
“这是人类文明的关键时刻，”Cyrus Hodes 说。
“毫无疑问，我们正处于一个关键时刻，应该确保建立相应的框架和防护措施。”
世界经济论坛如何确保人工智能以合乎伦理的方式发展？
世界经济论坛最近成立了人工智能治理联盟，旨在汇聚行业领袖、政府、学术机构和民间社会组织，推动全球以负责任的方式设计和发布透明、包容的人工智能系统。
该联盟的成立基于这样一个认识：人工智能有可能影响人类生活的方方面面；联盟旨在确保人工智能得到负责任的发展。
必须谨慎管控新人工智能模型的发布
“关于放慢语言模型开发、训练及其推进速度，存在多种讨论和争论，”Amir Banifatemi 说；但他认为，另一种做法更为现实。
“我们不应该放慢研究。这是发现，是创造力的发挥，也是我们取得进步的方式。但我们确实应该设立护栏，规范所开发的模型、这些模型如何用于构建应用、应用服务于谁，以及它们是否安全。强大人工智能模型的发布应受到谨慎管控。”
“我们不能让普通公众接触尚在开发中的人工智能模型——他们可能没有接受充分培训，也未必熟悉这些工具的使用。我认为监管机构正在关注这一点。”
必须以新的方式应对人工智能监管
“核心原则是，人工智能必须以人为本，”Hodes 说。例如，我们需要确保人工智能帮助我们朝着联合国可持续发展目标迈进。
“此外，公平、问责和透明是高层次议题，许多其他国家已经讨论并采纳了这些原则，”Hodes 说。
Amir Banifatemi 认为，监管机构必须紧急认识到人工智能潜在影响的规模，并加快监管进程，以跟上技术发展的速度。
“这是关乎我们这个物种的问题，”Banifatemi 说。“在过去几千年里，我们没有一个表亲或兄弟，如今我们可能有了这样一个存在。因此，关键在于我们如何理解它，以及如何应对它。我认为，政策制定者和监管机构将被推动加快理解的步伐、加强彼此协作，并建立框架，帮助我们更好地应对。”
Hodes 对政策制定者能否采取长远眼光持怀疑态度。
“大多数政策制定者都关心能否再次当选。他们着眼于短期。与此同时，我们却没有讨论这个最重要的话题，也就是一种新智能的崛起。世界各地的政策制定者都需要接受大量相关教育。”
“这是关乎我们这个物种的问题。在过去几千年里，我们没有一个表亲或兄弟，如今我们可能有了这样一个存在。”
Amir Banifatemi
Hodes 提到了关于原子能安全和防止核武器扩散的国际条约，认为这些条约可作为人工智能监管的范例。
“此刻，世界各地的政策制定者应该重新聚在一起，努力达成这样的安排，”他说。
“为什么不在全球层面监管人工智能？我相信，在我的同事们纷纷敲响警钟之际，这一刻正是实现这一目标的时候。”
