达沃斯2024:动荡世界中的技术

undefined
本内容由人工智能自动翻译。

本转录文本由语音识别软件生成,可能包含错误。请对照音频检查其准确性。

Fareed Zakaria,主持人,GPS,CNN: 我们将尝试在这个小组讨论中解决人工智能的问题。我们有45分钟。Henry Kissinger常说,最不需要介绍的人往往最渴望被介绍,所以我打算打破这个惯例。我想在座各位都无需介绍。大家都知道他们是谁,我也想他们当中没有谁特别在意这一点。

我先问问你,Sam。我想,大多数人对人工智能都有两种几乎相反的担忧。一种是它会让人类走向终结,另一种则是:它为什么还不能开车?

你觉得现实情况如何?目前人工智能发展到什么程度了?对你来说,它最能有效完成哪些事情?我们又需要明白它做不到什么?

Sam Altman,首席执行官,OpenAI OpCo, LLC: 我认为,这种新工具有一个很好的迹象:即使它目前的能力非常有限、存在很深的缺陷,人们仍在找到用它大幅提高生产力或获得其他收益的方法,同时也了解它的局限。

所以,如果一个系统有时正确、有时有创意,却常常完全错误,你确实不会想让它开车,但会乐于让它帮你构思写作主题,或协助你编写代码,然后由你来检查。

Fareed Zakaria,GPS,CNN: 请帮我们理解,为什么它还不能开车?

Sam Altman,OpenAI OpCo, LLC: 其实已经有很优秀的自动驾驶汽车系统了。比如现在,Waymo在旧金山运营,还有很多这类汽车,人们很喜欢。我指的是OpenAI这类模型,它擅长某些事情,但不适合用于攸关生死的情境。

不过,我认为人们对工具及其局限性的理解,比我们通常以为的更深。人们已经找到了让ChatGPT对自己非常有用的方法,大多数人也明白哪些事情不该用它来做。

所以我认为这是个很好的迹象:即使这些系统目前的能力极其有限——远不如我们今年将拥有的水平,更不用说明年将达到的水平——许多人已经找到了从中获益的方法,也懂得了它们的局限。

因此,我认为人工智能在某种程度上已经不再那么神秘,因为人们现在确实在使用它,而我认为,这始终是推动世界借助新技术向前发展的最佳方式。

Fareed Zakaria,GPS,CNN: 我认为人们担心的一点,是能否信任人工智能。要达到什么程度,你才会说:“我真的放心让人工智能来做这件事”?无论是开车、写论文,还是填写医疗表格。

我认为,信任在很大程度上来自于理解它如何运作。人工智能研究人员和工程师面临的问题之一,就是弄清楚它为什么会做出这样的结果、神经网络如何运作,以及它给各种因素分配了什么权重。

你觉得我们最终能弄清楚吗?还是说它变得如此复杂,以至于某种程度上我们只能信任这个黑箱?

Sam Altman,OpenAI OpCo, LLC: 先说你问题的第一部分。我认为,人类对其他人犯错相当宽容,但对计算机犯错几乎完全不能容忍。

所以有人会说:“你看,自动驾驶汽车已经比人类驾驶更安全了。”但它恐怕得安全十倍到一百倍——我猜大概是这个范围——人们才会接受,甚至可能还要更安全。

最棘手的是,它有99.99%的时候都是对的,而你因此放松了警惕。

Sam Altman,OpenAI

我认为其他人工智能系统也会遇到同样的情况;不过,如果人们知道、习惯使用一种工具,也知道它可能完全出错,那这种情况其实还算可以接受。我认为从某种意义上说,最棘手的是它有99.99%的时候都是对的,而你因此放松了警惕。

我还认为,验证或理解事情如何运作,其含义会与人们现在的想法有所不同。

我无法看进你的大脑,查看那一千亿个突触,逐一弄清每个突触发生了什么,然后说:“好,我完全明白他为什么会这样想;对我来说,你不是一个黑箱。”

但我可以请你解释你的推理。我可以问:“你为什么认为这件事是这样?”你可以解释:先是这样,然后是这样,接着得出这个结论,再得出那个结论,最后得出这个结论。我就能判断这听起来是否合理。

我认为我们的人工智能系统也能做到这一点。它们能够用自然语言向我们解释从A到B的步骤,我们可以判断这些步骤是否妥当,即使我们没有深入其中逐一查看每个连接,并说:“好,我看到了这里的每个关联。”

我认为,与透视你的大脑相比,我们将更有能力透视人工智能的大脑,了解其中的连接。但到了你我需要判断是否认同某个结论的层面,我们会用同样的方式作出判断:请对方解释推理过程。

Fareed Zakaria,GPS,CNN: 我和你之前聊过,你一直强调人工智能可以非常友善、温和、富有同理心。我想听听你的看法:如果人工智能的分析能力和计算能力都胜过人类,那么人类还有什么事情可做?很多人会说,这意味着我们剩下的核心天性——人性——就是情商、同理心和关爱他人的能力。但你认为人工智能也能在这些方面做得比我们更好吗?如果能,人类的核心能力又是什么?

Sam Altman,OpenAI OpCo, LLC: 我认为有很多事情可做。人类确实很在意其他人怎么想,这似乎深深地刻在我们的天性里。

国际象棋是最早成为人工智能受害者的领域之一,对吧?很久以前,Deep Blue就能打败Kasparov了。当时所有评论员都说,这是国际象棋的末日。既然计算机能打败人类,那以后就没人愿意看棋或下棋了。

我认为,国际象棋现在比以往任何时候都更受欢迎。如果你用人工智能作弊,那可是件大事。没人,或者说几乎没人,会看两个人工智能彼此对弈。我们对人类的表现很感兴趣。

我读完一本非常喜欢的书后,第一件想做的事就是了解作者的一切,并希望与创作出这件令我产生共鸣的作品的人建立某种联系。

很多其他产品也是如此。人类非常了解其他人想要什么,也对其他人很感兴趣。我认为人类将拥有更好的工具。过去我们也有过更好的工具,但我们仍然非常关注彼此,我认为我们会用更好的工具去做事情。

我承认,这次的感觉确实不同。通用认知能力似乎离我们珍视的人性如此之近,以至于确实让人觉得这次不一样。

当然,会有一些需要另一个人参与的人类角色。但即便如此,想到我的工作,我当然不是一位出色的人工智能研究人员。我的职责是弄清楚我们要做什么、思考这件事,然后与他人合作协调并把它实现。

我认为每个人的工作都会变得更像这样。我们都会在更高一些的抽象层次上工作,都能获得更多能力,也仍然会作出决定。随着时间推移,我们的工作可能会更多转向筛选和把关,但我们仍将决定世界上应该发生什么。

Fareed Zakaria,主持人,GPS,CNN: Mark,我想请你这位在场的另一位科技界人士谈谈。Sam似乎是在说,情感、团队合作这类品质会变得非常重要。你怎么看这个问题?

你管理着一个庞大的组织,使用大量技术。你认为在人工智能时代,人类最擅长做什么?

Marc Benioff,董事长兼首席执行官,Salesforce Inc: 我不知道。你觉得我们什么时候会有第一场由人工智能主持的世界经济论坛小组讨论?

我在这个讲台上坐了很多年,总是低头看着某个人。你身边就有一位很棒的主持人,但也许这一天离我们并不远。也许再过几年,世界经济论坛就会有一位数字主持人坐在那张椅子上主持这场讨论,而且可能做得相当不错,因为它能获取我们掌握的大量信息。

这就引出了一个问题:我们会信任它吗?我认为信任很快就会成为优先事项。我们将会有数字医生、数字人物,这些数字人物将会出现,而信任也必须达到一定程度。

如今我们看人工智能,会看到Sam所做的出色工作,也会看到这里许多我们接触过的公司所做的工作,比如Cohere、Mistral、Anthropic以及其他所有优秀的模型公司。但我们都知道,仍然存在一个叫作“幻觉”的问题。幻觉很有意思,因为这些模型很有趣,我们在和它们交谈,结果它们却撒谎。你就会想:“哇,这完全不是真的。”

昨晚我参加了一场晚宴,我们和几位朋友共进晚餐,问人工智能关于一位宾客的情况。人工智能说,这个人是某家医院的董事。她转向我说:“我不是。”我们都遇到过这种情况,对吧?

我们必须跨过这道关。我们必须跨过信任这道关。这也是我们去参加英国人工智能安全峰会的原因。几个月前,我们一群人都去了,事情很有意思,因为那是科技界领导者首次齐聚一堂,各国政府的科技部长也全都来了,确实令人惊叹,我以前从未见过这样的场面。

大家都去了,因为我们意识到自己正处在一个关键时刻。我们还没有完全到达那个阶段,但毫无疑问,我们已经走到一个关口:大家都在使用Sam的产品和其他产品,并惊叹于自己与人工智能互动的非凡体验。我们以前从未有过这种程度的互动,但我们还没有完全信任它。

所以我们必须跨过信任这道关。我们也必须求助于监管机构。看看过去十年的社交媒体吧,简直是一团糟,糟透了。我们不希望人工智能行业也变成那样。我们希望与这些调解者和监管机构建立良好、健康的合作关系。

我认为,这就开启了我们未来的发展道路。我与客户交流时,他们并不确切知道自己想要什么。我是说,他们知道自己想提高利润率,Julie会告诉你这一点。他们想提高生产力,改善客户关系。

但归根结底,他们会求助于这些人工智能:它们会取代员工,还是增强员工的能力?如今,人工智能还远未达到能够取代人类的程度。它真正能做的是增强人类的能力。

所以,如果你用人工智能来准备这场讨论,向ChatGPT提出一些很好的问题,我不会感到意外。比如:“我可以问Sam Altman哪些关于人工智能现状的好问题?”它让你表现得更好,增强了你的能力。

你知道,我的放射科医生正在用人工智能帮助解读我的CT扫描和核磁共振成像之类的检查。我们即将迎来一个突破,届时我们会惊叹:“哇,它几乎就像一个数字人。”到了那一步,我们就会问自己:我们信任它吗?

Fareed Zakaria,主持人,GPS,CNN: 好。郑重声明,我没有用ChatGPT来准备这场讨论。

Julie,人们谈论人工智能时往往停留在抽象层面,但我觉得大家想知道它究竟如何提高生产力,也就是Marc刚才提出的问题。你管理着一个庞大的组织。我是说,你刚才告诉我,光是在印度你们就雇用了33万人。你们是否已经了解如何实施人工智能,以及它带来了什么效果?

Julie Sweet,董事长兼首席执行官,Accenture: 请允许我先谈谈实际情况。我年纪够大,记得我在律师事务所工作时开始使用电子邮件的情形。我记得很清楚,因为那时我是年轻律师,要给客户发传真,就得自己守在传真机旁。所以电子邮件出现时,我们觉得这太棒了。可我所在律师事务所的负责人说:“电子邮件很好,但不能附上文件发给客户,因为不安全。”现在想想看。

如今我们进行这些抽象讨论时,某种程度上也在发生类似的事。很多员工其实想要使用这项技术,他们会主动推动它。例如,如果你在消费品行业做实地销售,大部分时间都花在弄清客户情况上;比如是否有配送问题,因为那是另一个部门负责的,诸如此类。

如今,借助现有技术,做好所有必要的风险考量后,你可以在手机上准确获知该拜访哪位客户、客户是否遇到配送问题,还可以生成个性化内容。这样你就能把大部分时间用来与客户交流,而这才是真正促进业务增长的方式。

所以,谈到人工智能,当然会有不同的风险。正如Sam所说,技术会不断变化,关键在于了解它现在适合做什么,以及如何在设置适当防护措施的前提下实施。作为首席执行官,我可以联系公司里的一位同事,他能告诉我人工智能用在什么地方、有什么风险,以及我们如何管理这些风险,然后我们据此实施。

因此,我们正在它已经成熟的领域广泛实施人工智能。但我认为,我们必须谨慎。你一开始说我们要解决人工智能的问题,我当时马上想到的是,希望我们能弄清楚如何使用人工智能,因为这是一个巨大的机遇。我相信Albert会谈到它对科学的意义;它也正在为我们的员工带来许多好处,他们不想把时间花在阅读和摸索上,而是希望把时间用于服务客户、与客户交流。

因此,我认为,能否成功使用人工智能,最大的区别因素就是领导者是否主动学习。他们不能成为当年告诉我不能用电子邮件发送文件的那种人。但如果不花时间了解这项技术,并以负责任的方式加以应用,就做不到这一点。

Fareed Zakaria,主持人,GPS,CNN: 那么,如果你想提高Accenture的生产力,用人工智能让更少的人完成现在的工作,难道不是一种办法吗?也就是说,比如你有一个大型部门,负责发送表格之类的东西,人工智能能更高效地完成这些工作。这样你只需要一半的人。这种情况可能发生吗?

Julie Sweet,Accenture: 请记住,生成式人工智能是最新一代人工智能。我做这类事情已经十年了。过去我有成千上万名员工手动测试计算机系统,这项工作基本上在2015年就消失了。

所以,当投资者问我,什么时候才能打破人员与技术之间的界限时,我会说,我每年都在做这件事。在生成式人工智能出现之前,我每年都向客户提供服务,并承诺找到额外10%的生产力提升。这并不新鲜,对吧?这项技术比以前的版本更强大,也更易于使用。你以前也没听说过什么“负责任的个人电脑”。那时这不是一个概念,对吧?所以,因为它更强大,我们必须换一种方式思考。

2019年,我们有50万名员工,现在有74万名员工。我们为所有人引入了技术培训,无论你是在邮务室工作——我们现在还有邮务室——在人力资源部门工作,还是为客户服务;所有人都必须学习BASIC,并通过相关评估,还要学习人工智能、云计算和数据知识。

未来六个月内,我们将为25万名员工提供生成式人工智能和责任规范培训。这是基础数字素养,是经营好公司、做好工作的基础。

顺便说一句,公共服务领域也将因引入这项强大的技术而得到大幅改善,社会服务也会如此。

所以首先,我们必须了解它是什么,这样才能以平衡的方式讨论它。接下来,确实有些能力是如今大多数公司还不具备的,比如负责任地使用人工智能。在Accenture,只要有人使用人工智能,系统就会自动将其登记,评估风险并提出缓解措施;我也可以联系相关人员,准确了解人工智能用在什么地方。未来12到24个月内,负责任的公司都会普遍具备这种能力。

Fareed Zakaria,主持人,GPS,CNN: Albert,过去几年我们听到的另一场重大革命是生物学领域的革命:基因组测序以及基因编辑能力。人工智能会如何影响你的领域?特别是,这两场革命现在是否正在交汇——人工智能革命与生物技术革命?

我坚信,由于技术与生物学领域的进步并存,生命科学即将迎来科学复兴。

Albert Bourla,Pfizer首席执行官

Albert Bourla,首席执行官,Pfizer, Inc.: 技术革命正在改变我们的工作。我们的使命是取得突破,挽救患者的生命。借助人工智能,我们能更快、更好地做到这一点。这不仅得益于我们刚才谈到的生物学进步,也得益于技术进步以及二者的交汇。它们共同产生巨大影响,让我们能够做到过去做不到的事情。

我坚信,由于技术与生物学领域的进步并存,生命科学即将迎来科学复兴。

Fareed Zakaria,主持人,GPS,CNN: 请给我们一些概况,举几个例子,或者帮我们理解这两种技术、这两场革命如何相互作用。

Albert Bourla,首席执行官,Pfizer, Inc.: 我们去年大致看到生成式人工智能时,都感到印象深刻,对吧?但人工智能有不同的形式,已经存在很多很多年了,我们在实验室里也一直在非常频繁地使用它。

我认为最能引起共鸣的例子是,用于治疗新冠的口服药,其化学部分的研发只用了四个月,而通常需要四年。这是因为在我们称为药物发现的传统流程中,你要合成数百万种分子,然后从中找出哪一种有效。

如今,借助人工智能,我们正在从药物发现转向药物设计。我们不再制造300万种分子,而是制造600种;我们运用强大的计算能力和算法,设计出最有可能成功的分子,再从中找出最佳方案。

从四年缩短到四个月。数百万人的生命因此得以挽救。

Fareed Zakaria,主持人,GPS,CNN: 首相先生,您是政治家。Sam提出的信任问题、Marc Benioff提出的信任问题,似乎都至关重要。如何让人们信任人工智能?他们应该信任人工智能吗?政府是否应该监管人工智能,使其值得信任?

Jeremy Hunt,财政大臣,英国财政部: 我 认为,我们需要采取轻触式监管。因为这项技术仍处于非常早期的阶段,若不等它成长就扼杀了它,可能会毁掉下金蛋的鹅。

我记得第一次使用ChatGPT时,我问:“Jeremy Hunt是个好财政大臣吗?”它回答:“Jeremy Hunt不是财政大臣。”我就说:“他是。”然后又问:“那他做得好吗?”它回答:“很抱歉,我们辜负了您的期望,但Jeremy Hunt不是财政大臣。”所以,你会发现它的回答带着一种确定的口吻,但这种确定性往往毫无依据。

不过,我认为人工智能能为我们所有人带来巨大好处。英国已经从中获益。伦敦是旧金山之后全球第二大人工智能中心,英国最近也成为全球第三大科技经济体,科技经济规模达一万亿美元,仅次于美国和中国。

但作为政治家,我会关注我们面临的重大问题。比如,下一次发生疫情时,我们不希望等上一年才拿到疫苗。如果人工智能能把疫苗研发时间缩短到一个月,那就是人类向前迈出的巨大一步。

目前在英国,我认为在大多数发达国家也是如此,选民对自己的税负非常不满。如果人工智能能够改变公共服务的提供方式,让公共服务更高效、税负更低,那将是巨大的利好。

但我认为,我们必须让这项技术发展。我们必须清醒地认识到需要设置哪些护栏。

英国在全球安全领域也发挥着非常重要的作用。正如我今天早上早些时候对萨姆所说的,我们必须确保不法分子无法利用人工智能制造核武器。

所以我们必须保持警觉,这也是里希·苏纳克去年年底组织的人工智能安全峰会如此重要的原因。

但我们必须以适度、审慎的方式推进,因为我们确实需要保持谦逊。我们有太多事情尚不清楚,也需要了解这项技术可能把我们带向何方;在这个阶段,没有人能真正回答这个问题。

法里德·扎卡里亚,CNN《GPS》主持人:阿尔伯特,我觉得这是一个监管可能引发人们最大担忧的领域,大家最担心的会是信任问题,也就是人工智能与医疗相结合。比如,这位医生的话可信吗?我可以服用某个电脑在某处研发出来的药物吗?有没有办法消除这种顾虑?

阿尔伯特·布尔拉,辉瑞公司:我认为有办法。首先,我们需要明白,人工智能是一种非常强大的工具。落在坏人手里,它可能给世界带来坏事;落在好人手里,它也能为世界创造巨大的价值。

我确信,目前人工智能的益处显然大于风险,但我认为我们需要监管。现在,关于如何通过监管设置护栏,大家有很多讨论。有些国家更关注如何防范不良行为者;另一些国家则更关注如何让科学家能够利用这项技术做好事,例如应对下一次疫情。

我认为,我们需要找到适当的平衡,既能保护世界,也能让世界继续前进。

法里德·扎卡里亚,CNN《GPS》主持人:萨姆,我看待技术时,常常担心坏人会用它做什么。但也有很多人担心一个更大的问题:这项技术会不会反过来支配我们?

你一直对人工智能持良性看法,或者说相对乐观。但埃隆·马斯克,有时还有比尔·盖茨,以及其他许多非常聪明、对这个领域了解很多的人,都非常非常担忧。

为什么你认为他们错了?他们对人工智能有什么地方没有理解?

萨姆·奥特曼,OpenAI OpCo, LLC:我不认为他们一定是错的。我是说,其中有一种态度、有一部分观点是对的:这项技术显然非常强大,而我们无法确定地说清楚将会发生什么。

所有重大的新技术革命都是如此。

不过,对于这一次,很容易想象它会给世界带来巨大影响,也可能走向非常糟糕的局面。

我们一直努力推动技术朝一个方向发展,并认为可以让它变得安全,这其中包括很多方面。

我们相信渐进式部署,也就是说,我们会逐步将这项技术推向世界,让人们逐渐适应,这样社会和各类机构就有时间讨论、研究如何监管,以及如何设置一些护栏。

法里德·扎卡里亚,CNN《GPS》主持人:从技术上说,你们能否设置护栏,为人工智能系统编写一种宪法?那会有效吗?

萨姆·奥特曼,OpenAI OpCo, LLC:如果看看从 GPT-3 到 GPT-4 的进步,就会发现它们按照一套价值观进行对齐的能力已经大幅提升。

现在有一个比技术问题更棘手的问题:谁来决定这些价值观是什么?默认设置是什么,界限在哪里?它在这个国家和那个国家的运作方式如何?我可以用它做什么,又不能做什么?

人们担心这项技术的负面影响,这是好事。我认为大家愿意讨论它也是好事。我认为我们和其他人都受到高标准的要求,这也是好事。

萨姆·奥特曼,OpenAI

所以,这是一个重大的社会问题,可以说是最重大的问题之一。

不过,从技术路径来看,我认为我们有理由乐观。虽然我不认为目前的对齐技术能够一直扩展到更强大的系统,我们还需要创造新的方法。

所以,我认为人们担心这项技术的负面影响是好事。我认为大家愿意讨论它是好事。我认为我们和其他人都受到高标准的要求,也是好事。

而且,我们可以从过去汲取许多经验,了解如何让技术变得安全,也可以借鉴社会中不同利益相关方如何协商安全的含义,以及怎样才算足够安全。

但我非常理解全世界对我们这样的公司,以及其他从事类似工作的人的普遍紧张和不安:为什么我们的未来掌握在他们手里?他们为什么要做这件事?他们凭什么可以这么做?

我认为责任在我们。我相信,现在世界也相信,这项技术带来的益处非常巨大,我们应该继续推进。但我们有责任找到办法,让社会参与这些决策,不仅包括系统应该遵循什么价值观,也包括安全阈值是什么,以及我们需要怎样的全球协调,才能确保一个国家发生的事情不会对另一个国家造成极其严重的负面影响——让大家看到这个愿景。

所以,如果不谨慎、不认真看待潜在风险的严重性,那会非常糟糕。因此,我赞成大家保持警惕。我们自己也会感到不安,但我们相信可以妥善应对。唯一的办法就是让人们使用这项技术,让社会与技术共同演进,通过紧密的反馈和及时调整,一步一步构建这些系统,在满足安全要求的同时创造巨大价值。

法里德·扎卡里亚,CNN《GPS》主持人:马克,你怎么看这个问题?

马克·贝尼奥夫,Salesforce, Inc:我们都看过那些电影。你知道,我们看过《2001太空漫游》里的 HAL,也看过《少数派报告》和《战争游戏》。我们的想象中充满了这样的情景:人工智能运行良好会怎样,出现问题又会怎样。

你知道,我们正在迈入一个奇妙的新世界。我很喜欢萨姆总是提到,他办公桌上方有个牌子,上面写着:“我不知道接下来究竟会发生什么”,因为我们确实无法完全预知未来。

萨姆·奥特曼,OpenAI OpCo, LLC:牌子上其实写的是“没人知道接下来会发生什么”,我觉得这两种说法有个重要区别。

马克·贝尼奥夫,Salesforce, Inc:谢谢你纠正我——希望我刚才表达的意思没错。

我们的客户总是来找我们说:“嘿,我们想用这项技术。”客户想要什么?他们想提高利润率、提升生产力、改善客户关系,也希望人工智能能帮他们实现这些目标。

我刚从米兰回来,去看了 Gucci。他们在那里有 300 名呼叫中心客服,正在使用我们的 Service Cloud,也想使用我们的人工智能平台 Einstein。本周它将处理一万亿次预测和生成式人工智能相关操作。我们与萨姆合作,这非常令人兴奋。它还有一个信任层,让客户放心地使用我们的产品。

我问他们:“你们真正想要什么?”但我不确定他们想要什么。他们是想裁员,还是想增加员工?他们想获得某种价值?对很多企业来说,人工智能还是一个试验阶段,所以我们就把它部署进去。

这个测试已经进行了六到九个月,效果惊人。发生了一件了不起的事。这个呼叫中心原本处理的业务是:你在 Gucci 买了东西,需要维修,就要把它修好或换掉。你打电话给这些客服,他们就会和你沟通。

我走进去,他们说:“这里发生的一切太不可思议了。”我问:“发生了什么?”他们说:“收入增长了 30%。”收入增长了 30%?“是的。”怎么做到的?他们原本都是服务专员,现在有了生成式人工智能,还有预测式人工智能的辅助。他们都得到了增强。他们告诉我,这些服务专员现在也成了销售专员和营销专员。他们开始销售产品,而不只是提供售后服务;他们为客户创造了更多价值,这简直是个奇迹。他们的士气大幅提升,简直不敢相信自己能做到这些。

他们甚至不知道自己对产品还有哪些不了解。人工智能真正成了他们的导师和引路人,给他们启发。Einstein 能够增强他们的能力,而他们也获得了迫切想要的收入和利润率。

你们正在使用的世界经济论坛应用程序也运行在 Einstein 上。

所以你们收到的那些推荐,比如“嘿,既然你喜欢这个人工智能专题讨论会,不妨试试世界经济论坛的这个专题讨论会”,或者“你也可以看看那边”,都是我们的 Einstein 平台为你们提供的建议。

这就是它真正的力量。不过,对我们的客户来说——这也是我的好朋友萨姆和我的公司之间略有不同的地方——你们的数据不是我们的产品。我们不会拿走你们的数据,也不会使用你们的数据。我们不会用你们的数据训练模型。我们有数据隔离措施,也有信任层。我们绝不会把客户的数据用于人工智能,也不会使用这些数据。所以,你们的数据不是我们的产品。这一点非常重要。

信任也是我们的核心价值,此外还有客户成功、创新、平等和可持续发展。我们为客户打造这些产品时,必须体现我们的核心价值观。我们的团队必须理解这一点,这至关重要。

不过,回到你和萨姆刚才的话题:现在是人工智能发展的重要时刻。人工智能在过去一两年里取得了巨大进步。

没错,正如萨姆所说,从一到二、三,再到四,我相信五、六、七也会陆续到来。

问题在于,事情可能会变得非常糟糕,我们不希望如此。我们只想确保人们不会受到伤害,不想让事情变得一团糟。这就是我们参加安全峰会的原因,也是我们讨论信任问题的原因。我们不希望出现广岛时刻。我们见过技术酿成严重后果,也见过广岛。

我们不希望人工智能造成一场新的广岛灾难。我们希望现在就充分认识到这个问题。这就是为什么我认为这些对话、治理,以及明确我们的核心价值观如此重要。

当然,我们的客户会提高利润率,那些首席执行官会非常高兴。但归根结底,我们必须以正确的价值观来推进这项工作。

法里德·扎卡里亚,CNN《GPS》主持人:马克提到了数据及其使用问题。萨姆,我得问问你,《纽约时报》正在起诉你们。按《纽约时报》的说法,OpenAI 和其他人工智能公司将《纽约时报》的文章用作输入,以生成语言预测,而且使用过度,并且没有向《纽约时报》支付报酬。这大致就是他们的主张。

难道不是这样吗:归根结底,每个人工智能模型都在使用所有这些公开领域的数据,而编写这些数据的人,无论是报纸撰稿人,还是写过笑话的喜剧演员,都应该得到报酬?

萨姆·奥特曼,OpenAI OpCo, LLC:关于这个问题,我有很多想法。

我先说说训练和用户提交查询时我们展示的内容之间有什么区别。

顺便说一句,据我了解,我们当时正与《纽约时报》进行富有成效的谈判。我们想付给《纽约时报》一大笔钱来展示他们的内容。我们和其他人一样,看到《纽约时报》起诉我们的消息时也很意外。这件事确实有些奇怪。

我们愿意使用《纽约时报》的内容进行训练,但这不是我们的优先事项。事实上,我们不需要用他们的数据训练。我认为人们对此并不了解:任何单一的训练数据来源,对我们的影响都没有那么大。

我们希望与《纽约时报》这样的内容所有者合作,就像我们已经与许多其他出版商达成合作,并且未来还会继续合作一样。当用户问:“嘿,ChatGPT,今天达沃斯发生了什么?”我们希望展示内容、提供链接,并展示《纽约时报》《华尔街日报》等优秀媒体的品牌,然后告诉用户“今天发生了这些事”。我们会提供实时信息,也希望为此付费、为这些媒体带来流量。这是用户查询时展示相关信息,而不是用这些信息训练模型。

我们也可以用这些内容训练模型,但这不是我们的优先事项。我们完全可以不这么做。

法里德·扎卡里亚,CNN《GPS》主持人:对于任何一家特定媒体,你们都可以不使用它的内容训练模型;但如果你们完全不使用数据训练,就没有事实可供模型学习了。

萨姆·奥特曼,OpenAI OpCo, LLC:我正要谈到下一个问题。

我预计有一点会开始改变:这些模型在训练时能够使用更少但质量更高的数据,更深入地思考这些数据,并学到更多东西。

你不需要读 2,000 本生物学教科书才能掌握高中水平的生物学知识。也许读一本,或者三本就够了,而第 2,001 本肯定帮不了你多少。随着模型逐渐以这种方式学习,我们就不再需要海量训练数据了。

无论如何,我们想找到适用于整个世界、也包括内容所有者的新经济模式。我认为很清楚的一点是,如果你读了一本物理学教科书,之后运用学到的知识去做物理研究,这通常是可以接受的;但如果我们要用你的教科书和教案来教别人物理,我们希望找到办法让你因此获得报酬。

如果你帮助训练我们的模型,提供人工反馈,我很希望能找到新的模式,让你根据这些工作的成效获得报酬。

所以,我认为我们非常需要新的经济模式。我认为当前的讨论稍微偏离了重点。而且,我认为未来几年里,模型训练的含义会发生很大变化。

法里德·扎卡里亚,CNN《GPS》主持人:杰里米,你在一次采访中说,美国、英国等国家赢得对华人工智能竞争非常重要。请解释一下你的意思,以及为什么你认为这很重要。

杰里米·亨特,英国财政部:我认为,这可能曲解了我想表达的核心意思。我的意思是,在制定全球人工智能标准时,标准体现自由民主价值观非常重要。

但我认为,与中国这样的国家对话确实非常重要。毕竟,我觉得今天上午的讨论中最有意思的一点是,萨姆的牌子上写着“没人知道未来”,但我们确实能够影响未来。

这两者之间存在张力。我认为我们非常幸运,萨姆这样的人正在帮助改变人类的未来前景。我想在座没有人认为,如果没有人工智能,世界会变得更好。

但现在我们有选择。我们需要选择如何利用人工智能,让它成为一股向善的力量。我确实认为,这意味着要和中国这样的国家对话,因为人工智能可能带来负面影响的一个原因,是它沦为新一轮地缘政治超级大国竞赛中的工具,大量精力被投入武器,而不是用来真正改变我们的日常生活。这些都是我们可以做出的选择。避免这种情况发生的办法之一,就是围绕共同点与中国这样的国家展开对话。

不过,我们在谦逊承认无法预测未来的同时,也应该记住,我们能够通过法律和监管掌握一定主动权,也有能力塑造这段发展历程。我认为我们还应该回顾历史:看看工业革命和计算机革命,只有当这些革命带来的益处在社会中广泛共享,而不是集中在少数群体手中时,革命才真正成功。

就人工智能而言,我认为挑战在于确保其益处惠及全世界,包括南北方国家、发展中国家和发达国家,而不是只集中在先进经济体。否则,人工智能会加深一些裂痕,而在我看来,这些裂痕已经在把我们引向错误的方向。

法里德·扎卡里亚,CNN《GPS》主持人:朱莉,你怎么看?埃森哲在世界各地开展业务。你认为这可能引发一场新的技术军备竞赛吗?

朱莉·斯威特,埃森哲:从务实的角度看,我们都从数据隐私监管各不相同这件事中吸取了教训。我们希望能花同样多的时间思考,能否找到共同点,并借此与一些存在分歧的地区合作。若要实现任何形式的全球化,客观上都需要共同标准。

我乐观的一面认为,我们可以把这当作合作的契机,减少其中的地缘政治因素,因为这样做确实合情合理。

这场讨论让我想起埃森哲有一条领导力准则,我每天都会看一看,尽量每天都看。上面写着:“以卓越、自信和谦逊引领。”

杰里米,你刚才谈到了谦逊。我认为,作为领导者和国家,我们最重要的责任之一,就是对此保持谦逊。要确保我们彼此对话。这就是达沃斯如此重要的原因。这也是我们刚刚与毕马威、普华永道和世界经济论坛共同开展关于信任、数字信任、学习和阅读的工作的意义。我认为我们需要做很多事情来增长知识,然后尝试用不同的方式思考。

法里德·扎卡里亚,CNN《GPS》主持人:阿尔伯特,你认为中国会如何以不同方式监管医学领域的这些问题?我们在基因编辑问题上遇到过这样的情况:一位中国医生曾决定尝试通过基因编辑来预防艾滋病,中国政府后来依据一项国际公约把他关进了监狱。你能想象人工智能领域也发生类似的事吗?

阿尔伯特·布尔拉,辉瑞公司:我不知道人工智能领域会发生什么。正如萨姆所说,没人知道。我也不知道中国最终会如何看待这些问题。

我知道的是,在生命科学领域,中国正在取得巨大进步。我认为,现在中国的生物技术公司甚至比美国、英国或欧洲都多。我认为中国政府致力于发展生命科学领域的基础科学,再过几年,我们就会看到首批来自中国而非美国的新分子实体。

法里德·扎卡里亚,CNN《GPS》主持人:我最后想……

阿尔伯特·布尔拉,辉瑞公司:或者这么说:这些新分子实体将不再只来自美国。

法里德·扎卡里亚,CNN《GPS》主持人:我最后想问一个与这些话题稍微无关的问题。萨姆,你卷入了近几十年来最广为人知的董事会丑闻之一。你从中吸取了什么教训?除了要信任萨提亚·纳德拉之外。

朱莉·斯威特,埃森哲:萨姆,他至少是在你只剩 42 秒的时候才问你!

萨姆·奥特曼,OpenAI OpCo, LLC:有很多教训。

我想想能说些什么。

有时候,你只能一笑置之;有时候,事情荒唐到了一定程度,笑一笑就好。

不过,我是说,我可以指出那些显而易见的教训:不要让重要但不紧急的问题一直悬而未决。我们早就知道董事会规模太小,也知道自己缺乏所需的经验。但去年对我们来说,在许多方面都是极为动荡的一年,所以我们多少忽视了这件事。

不过,我认为还有一点很重要:随着世界越来越接近通用人工智能(AGI),风险、压力和紧张程度都会上升。对我们来说,这件事是一个缩影,但可能还不是我们经历过的最令人紧张的事情。

我观察到一件事已经有一段时间了:我们每向功能强大的人工智能迈进一步,每个人的性格就好像会多出10点疯狂值。这件事压力很大,也理应如此,因为我们正试图以负责任的方式应对极高的风险。

所以我认为一个教训是,随着我们——全世界——越来越接近功能强大的人工智能,我预计会出现更多意想不到的情况。做好更充分的准备,增强韧性,花更多时间思考各种可能出错的奇特方式,这些都非常重要。

在整个过程中,我学到的最重要的一点,远胜其他,是我们团队的实力。

董事会第一次问我是否愿意谈谈回归的事,是在解雇我后的第二天。我当时的第一反应是拒绝,因为我对这件事的很多方面都非常生气。

后来你知道,我很快就冷静下来,意识到我不想眼看着所有这些价值被毁掉,也不想看到那些为此倾注心血的优秀人才和我们的所有客户受到影响。但我也知道,而且从观察那段时间里高管团队、实际上是整个公司所做的一切中看到了这一点:没有我,公司也会很好。无论是我招聘的人、我指导他们的方式,还是你想怎么称呼,这支团队都已经准备好承担起这项工作。

这让我非常满足,既是因为我所做的一切,也因为我们——我们所有人、整个团队——打造了一支运转极其出色、凝聚力极强的团队。这个收获是我从整件事中学到的最宝贵的一点。

Fareed Zakaria,主持人,《GPS》,CNN:谢谢大家

随着技术日益融入我们的日常生活,并对推动发展与繁荣变得愈发重要,安全、人际互动和信任等问题对于兼顾技术的益处与风险至关重要。

技术如何彰显人类特质?

这是世界经济论坛2024年年会一场会议的完整音频

发言嘉宾:
Sam Altman
OpenAI OpCo, LLC首席执行官

Marc Benioff
Salesforce, Inc.董事长兼首席执行官

Julie Sweet
埃森哲董事长兼首席执行官

Jeremy Hunt
英国财政大臣

Fareed Zakaria
CNN《Fareed Zakaria GPS》主持人

Albert Bourla
Pfizer, Inc.首席执行官

查看我们的所有播客:wef.ch/podcasts:

YouTube:https://www.youtube.com/@wef

达沃斯电台 - 订阅: https://pod.link/1504682164

与领袖对话 - 订阅: https://pod.link/1534915560

议程对话 - 订阅: https://pod.link/1574956552

世界经济论坛读书会播客 - 订阅: https://pod.link/1599305768

加入世界经济论坛播客俱乐部: https://www.facebook.com/groups/wefpodcastclub

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。