本文稿由语音识别软件生成,可能包含错误。请对照音频核实其准确性。
Amir Banifatemi 人工智能共享社区(AI Commons)主任:我想,机器、自动化和人工智能终将具备某种形式的智能,要么与我们竞争,要么增强我们。我认为这是人类作为一个物种需要思考的问题。在过去数千年里,我们没有表亲或兄弟,而现在我们可能会有一个。因此,关键在于我们如何理解这一点,以及如何应对它。
Robin Pomeroy,《达沃斯广播》主持人:欢迎收听《达沃斯广播》,这是世界经济论坛推出的播客,探讨最重大的挑战以及我们如何应对这些挑战。本期是我们关于生成式人工智能系列的第4期,我们将探讨我们能够并且应当如何监管人工智能。
Cyrus Hodes:AIGC Chain 与 Stability AI 联合创始人,哈佛肯尼迪政府学院:毫无疑问,比我们更具智慧的存在将能够解决几乎所有人类面临的重大挑战。
Robin Pomeroy:快速发展的人工智能承诺带来巨大机遇,但风险又如何呢?
Cyrus Hodes:现在,思考监管问题以及其对社会的影响极为重要。我们正在进入一个新的层次,即生成式人工智能的时代。
Robin Pomeroy:但应当采取何种监管方式?有人呼吁暂停先进的人工智能研究。
Amir Banifatemi:我们不应放慢研究的步伐。这是一项发现,是智慧的结晶,是我们取得进步的方式。但无疑应当设置某种形式的护栏。
Robin Pomeroy:请通过订阅《达沃斯广播》,您可以在任何收听播客的平台上找到我们,也可以访问wef.ch/podcasts,在那里您将找到迄今为止我们关于生成式人工智能的完整系列节目,以及我们的姊妹播客《与领袖对话》(Meet the Leader)、《议程对话》(Agenda Dialogues)和《世界经济论坛读书会播客》(World Economic Forum Book Club Podcast)。
我是世界经济论坛的 Robin Pomeroy。接下来,我们将探讨如何监管生成式人工智能,
Cyrus Hodes:我认为,这是人类文明的一个关键时刻。
Robin Pomeroy:这里是《达沃斯广播》。
欢迎收听《达沃斯广播》及我们的生成式人工智能系列节目。本期节目,我邀请到了我的同事 Lucia Velasco,她负责世界经济论坛第四次工业革命中心的人工智能治理工作。你好,Lucia。
Lucia Velasco,人工智能与机器学习负责人,第四次工业革命中心:Hola Robin,
Robin Pomeroy:Hola,你也好。让我们在《达沃斯广播》上保持多语种交流吧|
Lucia Velasco:听起来不错。
Robin Pomeroy:你是西班牙人?
Lucia Velasco:我有一半西班牙血统,另一半是阿根廷人。
Robin Pomeroy:哪一半对人工智能了如指掌?两半都是吗?
Lucia Velasco:也许是欧洲那一半。
生成式人工智能已从少数人手中的工具,跃升为一项变革性技术,正如个人电脑和移动电话曾经让信息获取与互联互通变得普及一样。
Robin Pomeroy:这想必是人工智能的一个关键时刻。为什么它在这项技术的历史上如此重要?
Lucia Velasco:嗯,我认为,能够投身于几乎所有人都认为必要的事业,是一件非常令人振奋的事。而且,这个时代将被载入史册。我们将记住这段时期。
我们已经感到,自己正身处某件非常重大的事情之中,就像身处一个具有历史意义的时刻。生成式人工智能正是从少数人手中的工具,跃升为一项变革性技术,正如个人电脑和移动电话曾经让信息获取与互联互通变得普及一样。我们正在见证一个非常相似的时刻。
当然,这是数十年研究的结晶,对一些人来说,这并不是什么新闻。但对大多数人而言,像我这样的普通人来说,这是一个真实可感的颠覆性时刻,它正在对从创意产业到科学研究等不同领域产生巨大影响。
我们看到,这些模型,即这种生成式人工智能、ChatGPT 及类似工具,具备从撰写文章、诗歌到起草代码等多种能力。我们曾被告知,如果你学会编写代码,你就会有未来;而现在,我们或许需要重新思考这句话,对吧?
另外,获取途径也得到了爆炸式的拓展。过去,使用人工智能模型需要深入理解机器学习和计算资源,并且真正清楚自己在做什么。而现在,我可以使用它们,你可以使用它们,我的父亲也可以使用它们。
Robin Pomeroy:正是这种自然语言的交互方式,让我们能够直接要求机器撰写文字、生成图片或编写能够实现特定结果的计算机代码,只需使用自己的语言,无需掌握技术语言或编程语言,无需会绘画,也无需具备流畅的写作能力。
Lucia Velasco:完全正确。
Robin Pomeroy:这是一种突如其来的变化。几个月前,我们还完全没有这样的能力。
Lucia Velasco:完全正确。这就像我们能够尝试去沟通,不,不是沟通,而是你尝试用一个电子表格来完成某件事。我不知道如何让它完成复杂的任务,但现在,只要我用自己的话说“好,计算这个”或“做那个”,系统就能理解我想表达的意思,并给出一个方案。这就是变化。
你只需要一个互联网连接。而且我们还必须牢记,世界上有一半的人口并不具备这种条件。因此,我们需要留意这种权力失衡,并思考如何让所有人而不仅是少数人获得这些服务。
Robin Pomeroy:这是一个非常重要的观点,因为我们这些有幸能够便捷使用这些工具(其中许多是免费的)的人,往往想当然地认为,世界上有一半的人根本无法接触到它们。
我认为,任何使用过 ChatGPT 的人都不会觉得 ChatGPT 将会取代这个人,但它很可能会增强其能力。
Lucia Velasco:完全正确。因此,当我们认识到这是一个全球性议题时,也需要理解世界的真实状况。
不过,是的,人工智能的这种普及化,也正在催生新一波创新与创造力浪潮,这种增长是指数级的,您知道,我们可以期待在此基础上出现大量新的发展。
最后,我想说,我们看到人们对人工智能的认知正在发生转变。尽管仍存在一些担忧。我认为,任何使用过 ChatGPT 的人都不会觉得 ChatGPT 将会取代这个人,但它很可能会增强其能力,让你能够更快、或许也更好地完成更多事情。这是一种提升生产力的方式,也是让自己成为更好版本的途径。
我认为,这不会与我们最初对自动化的恐惧所引发的反应相同,也不意味着相同的含义。相反,我们将把它视为解决问题或激发创造力的伙伴。
Robin Pomeroy:这是一种非常乐观的看法。我倾向于同意你的观点。但与此同时,治理方面或许尚未跟上技术的快速发展。因此,这一点现在需要得到关注,事实上,世界经济论坛正在帮助各方利益相关者齐聚一堂进行讨论。
你认为我们能跟上这些快速变化的步伐吗?
Lucia Velasco:我相信我们能够做到。我们已具备实现这一目标所需的全部要素。我们拥有关键的行业领军企业,它们随时准备为理解和应对可能影响社会的问题贡献力量。各国政府也对公私合作持开放态度,它们意识到,面对快速变化且需要适应性框架与前瞻性治理的技术,自身需要帮助才能跟上步伐。
Robin Pomeroy:接下来,让我们来听听今天的受访嘉宾。第一位是 Amir Banifatemi。他是一名投资人,也许是我在本系列节目中采访的第一位投资人。您认为,在负责任的人工智能方面,投资人扮演着什么样的角色?
如果我们希望这项技术惠及所有人,就应当让每个人都参与其部署与设计。
Lucia Velasco:嗯,投资人,即向企业投入资金的人,在塑造人工智能发展方式方面扮演着非常重要的角色,因为他们可以选择支持那些在经营上公开透明、公平对待他人并对自身行为负责的公司。
另一个我想到的例子是,投资人可以通过投资由不同背景人士领导的企业,并在性别平等方面更加包容,从而帮助行业变得更加多元化、减少同质化。我们在全球范围内了解到,在人工智能领域的专业人员中,每十人中只有两名是女性,而顶尖机器学习研究人员中有90%是男性。因此,如果我们希望这项技术惠及所有人,就应当让每个人都参与其部署与设计。
Robin Pomeroy:我们将听到 Amir Banifatemi 的发言,他实际上是旧金山活动的联合主席之一。我们的第二位受访嘉宾是 Cyrus Hodes。他曾参与多家高科技初创企业,并在经合组织(OECD)等机构的多个人工智能工作小组中任职。他将简要介绍某些机构已经开展的工作。在某些全球机构中,是否已有在人工智能治理方面取得进展的部分?
Lucia Velasco:我认为,多年来已经有过许多有趣且相关的对话,但仍有改进空间。我们需要加快步伐,因为生成式人工智能已在全球范围内被使用,这不仅仅是少数人在其企业或实验室中使用的东西。它在两个月内就达到了1亿用户,这是前所未有的。
Robin Pomeroy:我们将在本系列的最后一期,也就是几周后,回到治理问题以及世界经济论坛在该领域的工作。
但现在,我们先来听听今天的两段访谈。Lucia,感谢你参与《达沃斯广播》。
Lucia Velasco:谢谢。
Amir Banifatemi
Amir Banifatemi:我叫 Amir Banifatemi。我是一名投资人和未来学家,我致力于让技术更贴近人们,并投资于那些有影响力、可持续发展、能够让我们更接近丰裕感、并推动为每个人实现丰裕生活的机构。
Robin Pomeroy:生成式人工智能是否带来了这种进步的民主化承诺?
Amir Banifatemi:人类始终在追求改进,而 ChatGPT 迄今所展现的,是增强我们能力的理念,它让我们在探寻自身疑问的过程中不再感到孤单,并能成为伴侣,或者用他们的说法,成为一名“副驾驶”。
我认为,我们都相信 ChatGPT 是一个转折点,就像移动互联网、iPhone 以及许多互联网技术曾经的意义一样,它带来了让几乎任何人都能过上数字化生活的承诺。
这也是有史以来增长最快的产品发布之一。而且,从人们使用它的方式来看,我们似乎正在规避“空白页”的难题。接着,我们很可能会看到大量创新,它们试图借助人工智能的能力,转化我们与他人互动、沟通、规划和预测的方式。
因此,我认为,生成式人工智能将对每个人、对全人类以及我们对认知能力的整体思考方式产生巨大影响。
我最惊讶的,主要是聊天功能如此迅速地被集成到语言模型中,以及它被采用的速度之快。对我而言,那是一个分水岭时刻。
Robin Pomeroy:对您来说,有没有过令人惊叹的时刻?您是否曾突然打开某个应用,意识到“哇,这真是不一般”?还是说,根据您的经验,这项技术更多是一种温和、渐进的增长?
Amir Banifatemi:ChatGPT 推出时,我个人已经了解之前的 GPT 版本和语言模型,因此并没有感到特别惊讶。我最惊讶的,主要是聊天功能如此迅速地被集成到语言模型中,以及它被采用的速度之快。对我个人而言,那是一个分水岭时刻。
Robin Pomeroy:您惊讶于有这么多人开始使用它吗?
Amir Banifatemi:在业界,我们讨论的是人工智能在许多领域的应用,无论是工业、可持续发展目标,还是人工智能在企业或政府中的应用。
我们并未真正预料到,如此多的人能够如此迅速、如此轻松地使用这些工具。当我们看到人们如何上手 ChatGPT 并将其用于各种任务时,那才是真正令人惊讶的时刻。
“副驾驶”或能够辅助我们生活各方面的助手这一理念,很可能会成为杀手级应用。
Robin Pomeroy:您是否有想过它可能将我们引向何方?我们先看看积极的一面。您认为生成式人工智能的杀手级应用会是什么?
Amir Banifatemi:嗯,任何猜测都是有益的。我认为,这种“副驾驶”或能够辅助我们生活各方面的助手理念,很可能会成为杀手级应用,无论它是学习伙伴、预防性健康伙伴,还是甚至能让我们将自己的思维和生活复制到多个时刻。
这可能是最重要的部分,因为它将让几乎任何人都能够投入探索、创造以及“如果……会怎样”的思考之中。尽管它所训练的数据来自过去,而我们并不知道未来会如何,但我们依然可以进入无数种情境,而无需具备相应的素养或培训。这是革命性的。
Robin Pomeroy:您曾管理过将资源投向人工智能的投资基金。从投资者的角度来看,您认为其中的重大机遇和重大风险分别是什么?
我们认为,将会出现一股面向消费者(B2C)初创企业的“淘金热”,它们试图借助生成式人工智能解决几乎任何问题。其中有多少能够存活下来,我们并不知道。
Amir Banifatemi:如今,人工智能领域的投资正以极快的速度增长。
我认为,企业将是投资的头号机遇,因为许多由人类参与的、组织正在开发和使用的流程都将需要被修订和重塑,那里存在着巨大的投资机会。
除此之外,我认为组织之间的互联将创造合作机会,例如我们今天谈到的 API 和各种插件。在不涉及技术细节的情况下,可以这样理解:一种类似应用商店的概念,我们可以在其中开展多个领域的合作,并在无需编程或无需经历漫长开发周期的情况下实施解决方案,这将激发大量投资。也许面向企业的 B2B 模式会是头号机遇。我们认为,将会出现一股面向消费者(B2C)初创企业的“淘金热”,它们试图借助生成式人工智能解决几乎任何问题。其中有多少能够存活下来,我们并不知道。
Robin Pomeroy:您使用的“淘金热”这个说法很有意思。我想大约二十年前,也曾出现过一股互联网淘金热吧,大量资金涌入各类项目,其中一些至今仍然存在,比如亚马逊,而另一些则已经消失在历史之中。我们是否会看到类似的时期再度出现?这一次的资金规模会更大吗?这一时期会有更多资金流动吗?我们可以对这两段时期进行比较吗?
Amir Banifatemi:人工智能领域的投资并不新鲜。它是逐年逐步发生的,过去六到七年间投资有所增加。但如果我们看看 Web1(即互联网的诞生)、Web2(它基本上催生了电子商务,以及所有构建平台的公司,还有 Uber 等公司),以及 Web3 所承诺的去中心化方式、或许还有加密代币等,它们在投资方面都拥有庞大的追随者。而如今,随着该市场的变化以及我们在生成式人工智能领域取得的发现,我们可以看到两条投资战线。
其一是原本主要投向加密货币的资金,如今更多地转向人工智能;同时,人工智能本身也有望为社会带来如此大的变化,以至于如今所有基金都拥有人工智能或生成式人工智能的叙事和投资逻辑。因此,我个人正在投资多家生成式人工智能公司。我认为,大多数基金都将与生成式人工智能以及人工智能工具整体存在某种形式的关联或接近。
我认为这一趋势不会放缓。一年之后,我们可能会对正在形成的格局以及即将出现的重大新投资有更清晰的认识。我们很可能会在明年确定下一个谷歌或下一个 Meta,并判断谁将成为赢家。我们现在都还在学习。但无疑,这是一个有趣的时刻,热情已经超出了现有资本的范围。
Robin Pomeroy:那么风险呢?显然,投资初创企业存在血本无归的风险。您认为投资人工智能是否比这更具风险?
Amir Banifatemi:投资风险始终是相同的。我们采用所谓的投资组合策略,即尝试投资于与投资逻辑相关的多家公司。
然而,投资人工智能确实存在一些风险。第一个风险是碎片化风险,即并非每项投资都能成功,而如此激烈的竞争很可能会抹去部分投资。
第二个风险在于,解决方案的开发需要遵循某种形式的负责任人工智能伦理框架,包括公平性和透明度,并且可能需要受到某些政策和监管的约束。
因此,许多解决方案可能既缺乏完成全部深度开发所需的资金,又可能因某种国家或监管环境而被叫停或放缓。
Robin Pomeroy:各个司法管辖区正以多种方式考虑监管人工智能。您是否已经得出任何结论,认为什么样的方式是最佳选择?
我们不应放慢研究的步伐。这是一项发现,是智慧的结晶,是我们取得进步的方式。但在所开发的模型方面,无疑应当设置某种形式的护栏。
Amir Banifatemi:关于放缓语言模型的开发、训练及其发展速度,目前存在多种对话与争论。
可以肯定的是,技术人员本身并不总能充分把握这些工具可能具备的能力。同时,监管者和政策制定者也需要一定的时间和缓冲,才能真正理解这一切的走向。
我个人认为,我们不应放慢研究的步伐。这是一项发现,是智慧的结晶,是我们取得进步的方式。但在模型本身的开发、这些模型如何被用于构建应用、这些应用服务于谁、它们有多安全,以及受控发布等方面,无疑应当设置某种形式的护栏。
我们不能让可能尚未充分接受培训、或不具备使用这些工具素养的普通公众,接触到仍在研发中的模型。因此,风险确实存在,我认为监管机构也在关注这一问题。如果说我们必须放慢某些事情的步伐,那么这更可能涉及发布环节,或者需要为负责任的发布建立某种形式的背景框架。
Robin Pomeroy:我听到过“负责任的发布策略”这一说法。我们指的是这个意思吗?
Amir Banifatemi:我会将其界定为负责任的发布策略,我们希望政策制定者、学术界和研究人员以及企业能够展开对话,并理解这些发布的限度,因为我们仍然不完全清楚,这些模型在所有情况下究竟应当如何部署。例如,在医疗保健和教育等领域可能存在一些细分的部署场景。在某些情境下,风险相对较低。但请记住,模型本身、应用层面都存在固有风险,同时还存在恶意行为者以及那些利用这些技术的人所带来的风险。
至于对广大公众的责任,我们必须谨慎且保持一致,不仅要在推动相关研究和投资方面如此,还要在形成共同理解方面如此。您刚才使用了“共同”这个词,即对于这种发布对人们而言意味着什么,形成共同理解;以及在收益与风险之间如何权衡,并对此进行评估,同时与公众沟通。我认为,我们应当就此展开公开的社会辩论,而那些最适合组织这场公开辩论的利益相关方,应当立即采取行动。
Robin Pomeroy:立即采取行动——那么,在治理方面,事情就必须迅速推进了,对吗?
Amir Banifatemi:时间正在加速。过去几年我们一直在做的事情,如今几乎每周都在变化。因此,我认为政策制定者和监管机构很可能会被推动加快理解方式、协调方式以及制定框架的速度,以帮助我们更好地应对。
Robin Pomeroy:那么,基于这一经验,您认为人工智能是否具有智能?我们是否应该使用“智能”这个词?有人说这是一个误称。它并不具有智能,只是在快速进行大量计算或大量预测。它是否存在真正的智能?甚至在智能之外,我们是否会拥有意识或类似的东西?
几千年来,我们从未有过表兄弟或兄弟,而现在我们可能会拥有一个。因此,关键在于我们如何理解这一点,以及我们如何应对。
Amir Banifatemi:我认为人工智能是有智能的,只是目前还不如我们聪明。我看不出将来为何不会,人工智能也可能不会那么聪明。
意识是另一个问题,关键在于我们如何定义意识。拥有觉察能力以及在生活中具有具身性,可能才更能界定意识。也许有朝一日,随着机器人的发展,我们会实现这一点。
但我想,这只是时间问题:机器、自动化系统和人工智能将具备某种形式的智能,它们要么与我们竞争,要么增强我们。
我认为这是人类作为一个物种需要思考的问题。几千年来,我们从未有过表兄弟或兄弟,而现在我们可能会拥有一个。因此,关键在于我们如何理解这一点,以及我们如何应对。
Robin Pomeroy: Amir Banefatemi是世界经济论坛负责任人工智能领导力峰会的联合主席之一,该峰会近期汇聚了各方利益相关者,共同探讨这些议题。
您正在收听Radio Davos及我们关于生成式人工智能的系列节目。下面是另一位出席旧金山人工智能峰会的嘉宾。
CYRUS HODES
Cyrus Hodes: 我叫Cyrus Hodes。我从事人工智能及人工智能治理工作,既涉及政策,也涉及创业。就政策而言,我创立了哈佛肯尼迪政府学院人工智能倡议,该倡议现已并入Future Society,这是一家我多年来协助发展的非营利组织。
我们是最早讨论公共政策与人工智能的机构之一。我的意思是,向政策制定者普及人工智能及其对社会的影响。
所以在2015年我们开始时,这个主题对政策制定者来说有点像外星事物。
直到今天,他们那边仍有许多需要改变的地方。但至少,您知道,我们帮助搭建的这座桥梁,连接了技术界与政策界。
此后,我参与了许多讨论,致力于塑造这些治理框架,并将其变为现实。我会从电气电子工程师学会(IEEE)说起,它在推动制定标准方面做了一项出色的倡议,旨在形成符合伦理设计的人工智能和自动化系统。这个名字很拗口。
Robin Pomeroy: IEEE?
Cyrus Hodes: IEEE。它是世界上规模最大、历史最悠久的工程师协会,致力于制定标准。例如,他们推出了ISO标准。因此,真正的全球标准已被采纳。我们正在致力于制定人工智能治理标准。
但在我以志愿者身份与IEEE合作之后,我们把这一讨论带到了国际平台上。我认为我参与贡献过的最重要的平台是经合组织(OECD)。我参与了人工智能治理的讨论。经合组织很早就接受了这一理念,它是一个汇聚各国政府、共同讨论政策与政策建议的绝佳平台。我们制定了一套人工智能原则,已获得所有经合组织成员国采纳。但除此之外,最重要的是,在二十国集团(G20)峰会期间,这些原则也获得了G20的采纳。这意味着不仅经合组织国家,中国和俄罗斯也采纳了这些原则。
Robin Pomeroy: 这些原则是什么?您不必全部列出,但能否简要介绍一下最重要的是哪些?
Cyrus Hodes: 好的,其核心支柱是人工智能必须以人为本。因此,请确保人工智能推动我们实现联合国的可持续发展目标,这一点已体现在这些原则之中。
另外还有公平性、问责制和透明度,这些高层面议题已被许多其他国家讨论并采纳。但经合组织是第一个真正汇集相关各类观点,并将其纳入原则、作为政府建议的组织。
另一个相当重要的、我正在与之合作的平台是全球人工智能伙伴关系(Global Partnership on AI)。全球人工智能伙伴关系(GPAI)由法国和加拿大发起。事实上,其总部分别位于蒙特利尔和巴黎。宗旨相同,即关注人工智能在政府领域的有益应用。
因此,我通过人工智能与气候行动及生物多样性方面的工作为其作出贡献。我们在格拉斯哥气候大会(COP)期间发布了一份气候行动路线图。在蒙特利尔COP15期间,我们就生物多样性做了同样的工作。
我还与一个人工智能与农业小组合作,这是GPAI内的另一个小组,为农民及该行业提出建议,以便将人工智能用于更大的公共利益。当然,这里也有强烈的气候行动维度。
Robin Pomeroy: 我们现在是否处于关键时刻?正如您所说,您显然已经在这一领域,即监管或政策方面,工作了好几年。目前普遍的感觉是生成式人工智能真正开始迅速发展了。它已经被投放到现实世界中,而政策可能还未跟上。您是否认为这是一个关键时刻,政策制定者现在必须加紧追赶?您如何看待当前的局势?
Cyrus Hodes: Robin,您说得完全正确。我认为这是人类文明的关键时刻。
我们正在创造Tristan Harris所称的“Golems”(魔像),即生成式大型语言多模态模型。我所说的多模态,是指它适用于文本和图像生成,但其能力远不止于此。它还涉及编码,而在公开环境中放任其发展极其危险。它还涉及你所拥有的任何数据集。例如,Tristan曾举过一个例子:一台在人类大脑上训练的核磁共振成像(MRI)设备,能够理解图像所代表的内容,并非常清晰地呈现一个人正在思考什么。因此,在未来几年内,我们将拥有能够理解我们思想的这些“魔像”。所以,现在考虑监管以及对社会的影响极其重要——而生成式人工智能让这一问题上升到了另一个层次。
因此,目前所有致力于生成式人工智能的公司都至关重要。这正是我们需要在此与生成式人工智能领域的领袖展开这次讨论的原因。显然存在许多分歧,但毫无疑问,我们正处于关键时刻,我们应当着手确保建立起框架和保障措施——前提是为时未晚。我仍然希望现在还不太晚,能够确保我们打造出更强大的人工智能系统,它们将进一步改变我们的社会。
Robin Pomeroy: Tristan Harris,您提到他是人道技术中心(Centre for Humane Technology)的执行董事。
如果有人走到您面前,说他对这项技术一无所知,但您能否向他解释一下通用人工智能(AGI)的概念?您会怎样向他解释?
Cyrus Hodes: 简单来说,人工智能是我们试图复制智能,复制人类智能。所谓通用人工智能,就是指达到人类水平的智能。
通常,人工智能系统在非常精确的主题上表现极佳,并且能够击败人类。一个很好的例子是国际象棋,它们击败我们时非常轻松。围棋更为复杂,情况也是一样。但这种情况几乎出现在社会的所有领域。随着它不断融入社会,大语言模型和多模态模型能够做到这一点,这正是我们获得通用智能的时刻;我们正越来越接近通用智能,这也是我们应当加以监管的原因。
在我看来,几乎所有人工智能研究者都确信,比我们更强的智能无疑能够解决人类几乎所有的重大挑战。
Robin Pomeroy: 但通用人工智能也必定有一些益处,因为其中一些公司明确表示,这正是它们的目标:“我们将开发通用智能”。那么,它的好处是什么?例如,您多年来一直在气候科技领域工作。我们或许只剩下几年时间来防止气候灾难。也许超级计算机智能能够帮助我们避免这一灾难。
Cyrus Hodes: 在我看来,几乎所有人工智能研究者都确信,比我们更强的智能无疑能够解决人类几乎所有的重大挑战。再者,您知道,17项可持续发展目标(SDGs)能够而且将会通过一个安全、有益的系统,即强大的人工智能系统得以实现。
Robin Pomeroy: 可持续发展目标。
Cyrus Hodes: 没错,气候行动也是其中的一部分。
我认为,这一议题将以积极和消极两种方式深刻改变社会。积极方面,它有助于实现可持续发展目标,这很好。但在此之前,让我们确保人类和文明保持现状,或至少以对我们有益、适宜的方式发展,并使我们继续生存在这个星球上。
Robin Pomeroy: 您人生中是否有过某个时刻,某项技术进步真正让您叹为观止?
Cyrus Hodes: 我之所以进入人工智能领域,是因为我很早就和许多人一样意识到,我们正在创造一种即将超越我们的智能。简而言之,我们正在创造一个新物种。
我们现在正在谈论外星人遭遇,而不明空中现象(UAP)和不明飞行物(UFO)已获美国国防部(D.O.D.,即U.S. Department of Defense)和其他政府机构承认。与此同时,我们人类正在创造一种将超越我们的智能。对此毫无疑问。
对我而言,那是令人惊叹的时刻:我意识到这是一件极具变革性的事情,我们应当汇聚政策与技术领域最优秀的头脑来应对它。
Robin Pomeroy: 您多年来一直与政策制定者打交道。他们现在需要了解什么,又需要做什么?在与他们交谈时,您发现他们有哪些不理解的地方,是您必须告诉他们的?
Cyrus Hodes: 嗯,大多数政策制定者都关心连任问题。他们往往着眼于短期,我不想一概而论,但他们常常是自私的、以自我为中心的,考虑的是如何在下一届选举中连任。
与此同时,我们并未讨论这一最重要的议题,即一种新智能的崛起。全球政策制定者需要进行大量教育。
在核安全问题上曾出现过一次“警醒时刻”,世界各国决定携手合作并就保障措施达成一致。例如,成立了国际原子能机构,并参考了限制战略武器的《限制战略武器条约》(SALT)协议,以禁止核武器扩散。现在正是全球政策制定者重新集结,朝着类似安排努力的时刻。
因此,我还没有答案,但我知道交通运输受到监管,几乎所有行业都受到监管。为什么我们不在世界层面上监管人工智能?这让我感到困惑。但我相信,随着我的所有同行都在敲响警钟,这一时刻终将到来。
Robin Pomeroy: 感谢Cyrus Hodes,也感谢本期节目的另一位嘉宾Amir Banifatemi。我在世界经济论坛几周前于旧金山普莱西迪奥(Presidio)办公室举办的负责任人工智能领导力峰会期间,分别与两位进行了交谈。论坛刚刚发布了该会议的成果,您可在线阅读,名为《关于负责任生成式人工智能的普莱西迪奥建议》(The Presidio Recommendations on Responsible Generative AI)。
您可以在线找到更多相关信息,节目笔记中也提供了本集的链接。下周在本系列的最后一集中,我们将更深入地讨论这些内容,以及世界经济论坛在生成式人工智能方面的全部工作。
要收听该节目,并跟上往期节目,请在您使用的任何播客应用中订阅或关注Radio Davos,或访问我们的网站wef.ch/podcasts,在那里您可以获取全部往期内容以及完整文字稿。
如果您喜欢本播客,请在播客应用上为我们评分,甚至写下评论;如果您想讨论您在此听到的任何议题,请加入我们的世界经济论坛播客俱乐部,在Facebook上搜索即可找到。
本期Radio Davos由我Robin Pomeroy撰写并主持,Lucia Velasco参与制作。录音室制作由Gareth Nolan负责。
我们下周将回归,但现在感谢您的收听,再见。
向下滚动查看完整播客文字稿。
“人工智能将具备某种形式的智能,要么与我们竞争,要么增强我们。这是人类作为一个物种需要思考的问题。几千年来,我们从未有过表兄弟或兄弟,而现在我们可能会拥有一个。因此,关键在于我们如何理解这一点,以及我们如何应对。”
在我们关于生成式人工智能的专题系列第4集中,我们探讨了如何治理这项迅速发展的技术的各种选项。
嘉宾:Amir Banifatemi,AI Commons主任;Cyrus Hodes,AIGC Chain及Stability AI联合创始人,哈佛肯尼迪政府学院
联合主持人:Lucia Velasco,世界经济论坛人工智能与机器学习负责人
本系列往期节目:
第1集
第2集
第3集
相关播客:
人工智能的崛起与绿色转型将改变我们的工作方式:《2023年未来就业报告》
相关视频:
https://www.weforum.org/videos/3-leading-thinkers-on-how-to-make-ai-work-for-humanity
链接:
《关于负责任生成式人工智能的普莱西迪奥建议》: https://www3.weforum.org/docs/WEF_Presidio_Recommendations_on_Responsible_Generative_AI_2023.pdf
世界经济论坛的第四次工业革命中心: https://centres.weforum.org/centre-for-the-fourth-industrial-revolution/home
查看我们所有播客,请访问 wef.ch/podcasts:
加入 世界经济论坛播客俱乐部



