在达沃斯论坛“动荡世界中的科技”会议上，OpenAI首席执行官山姆·奥尔特曼阐述了他对人工智能发展方向的看法。
“人工智能作为经济与社会的驱动力”是世界经济论坛年会的一个核心主题。
奥尔特曼回顾了生成式AI频频登上头条的一年。
山姆·奥尔特曼办公桌上方挂着一块标牌，上面写着：“没有人知道接下来会发生什么。”
但作为OpenAI的首席执行官、ChatGPT的创建者，他比大多数人更有条件预测人工智能的发展方向，并阐明它能做什么、不能做什么。
以下是奥尔特曼在“动荡世界中的科技”会议上的一些主要观点。
随着人们使用AI，生产力提升将不断增长
“即使当前能力非常有限、缺陷也非常深，人们仍在想办法用[这款工具]获得巨大的生产力提升或其他收益，并理解其局限性。
“人们对工具及其局限性的理解，往往比我们通常认为的要多。在大多数情况下，人们已经找到让ChatGPT对自己非常有用的方法，并明白哪些事情不应使用它来完成。”
由于人们现在真正在使用它，人工智能已在一定程度上去神秘化。而这始终是用新技术推动世界前进的最佳方式。
山姆·奥尔特曼，OpenAI首席执行官
AI将能够向我们解释其推理过程
能够信任技术，部分取决于理解它如何运作。但奥尔特曼表示，真正理解生成式AI如何运作，将与人们现在的想象“有些不同”。
“我无法看进你的大脑去理解你为何这样思考。但我可以请你解释你的推理过程，然后判断这在我看来是否合理。
“我认为我们的AI系统也将能够做到同样的事。它们将能够用自然语言向我们解释从A到B的各个步骤，而我们可以判断这些步骤是否合理，即使我们并没有逐一查看每个环节。”
AI不会取代人类彼此之间的关怀
1997年，IBM国际象棋电脑“深蓝”击败世界冠军加里·卡斯帕罗夫时，评论人士称这将意味着国际象棋的终结，此后再无人愿意观看或下国际象棋，因为电脑已经获胜。
但奥尔特曼表示，“国际象棋从未像现在这样受欢迎”，并称“几乎没有人会观看两个AI互相对弈，我们非常关注人类在做什么”。
“当我读到一本我喜爱的书时，读完后我做的第一件事就是查找作者的一切生平。我想与创作出这部打动我的作品的那个人建立某种联系。”
“人类了解其他人类想要什么。人类将拥有更好的工具。我们以前也有过更好的工具，但我们依然非常关注彼此。
山姆·奥尔特曼，OpenAI首席执行官
人类将更多地处理各种想法
尽管人们普遍预计人工智能将带来职位增长与职位流失，奥尔特曼预测它将通过给予人们构思想法和策划决策的空间，改变某些角色。
“当我思考自己的工作时，我当然不是一名优秀的AI研究员。我的职责是弄清楚我们要做什么，思考这件事，然后与其他人合作，协调并促成它实现。”
“我认为每个人的工作都会或多或少更像这样。我们都将以稍高一层的抽象水平开展工作。我们都将获得强大得多的能力。我们仍会做出决策。随着时间推移，决策可能会更多地趋向于策划，但我们仍将决定世界上应当发生什么。”
在AI价值观对齐方面仍有乐观空间
“我们一直在努力推动的技术方向，是我们相信能够使其安全的方向，”奥尔特曼表示。
迭代式部署意味着社会可以逐渐适应这项技术，并且“我们的机构有时间展开这些讨论，弄清楚如何监管这项技术，如何设立一些防护措施”。
奥尔特曼表示，就其与一套价值观保持一致的能力而言，GPT-3与GPT-4之间已取得“巨大进展”。
但更难的问题是：“谁来决定这些价值观是什么，以及默认设置是什么、边界在哪里？在这个国家与那个国家，它的运作方式有何不同？我可以或不可以用它做什么？这是一个重大的社会问题。”
“从技术路径来看，仍有乐观的空间，”他表示，并补充说，当前的对齐技术无法扩展到能力更强的系统，因此“我们将需要发明新的东西”。
他欢迎人工智能技术正受到的审视。
“我认为我们和其他人受到高标准的审视是件好事。我们可以借鉴过去的经验，了解技术是如何被做到安全的，以及不同利益相关方在协商“安全”的含义时是如何处理的。”
山姆·奥尔特曼，OpenAI首席执行官
他还表示，科技行业有责任就价值观是什么、安全阈值如何设定等决策征求社会的意见，从而使收益超过风险。
“我非常理解世界对像我们这样的公司普遍存在的担忧和不适……我们自己也有担忧，但我们相信可以应对，而做到这一点的唯一方法，就是把技术交到人们手中。”
“让社会与技术协同演进，循序渐进，并通过非常紧密的反馈回路和及时纠偏，构建既能创造巨大价值、又满足安全要求的系统。”
内容的新经济模式将会发展起来
奥尔特曼区分了大语言模型展示内容与将内容用于训练这两种情况。
“当用户问：‘嘿，ChatGPT，今天达沃斯发生了什么？’时，我们希望展示内容，链接到《纽约时报》、《华尔街日报》或其他任何优秀出版物的品牌，并说：‘这是今天发生的事’，然后我们希望为此付费。我们希望为此带来流量，”奥尔特曼表示，并补充说，用这些数据训练模型并不是优先事项，只需展示即可。
未来，大语言模型在训练过程中将能够使用数量更少、质量更高的数据，并对其进行更深入的思考，从而学到更多。
奥尔特曼表示，当内容被用于训练时，我们需要新的经济模式来补偿内容所有者。
“如果我们要用你的教科书和你的教案教别人物理，我们希望找到让你因此获得报酬的方式。如果你教我们的模型，我很希望找到新的模式，根据其成功情况让你获得报酬……当前的讨论在某种程度上聚焦于错误的层面，我认为在未来几年里，训练这些模型的含义将发生很大变化。”
其他小组成员还包括：马克·贝尼奥夫，Salesforce董事长兼首席执行官，朱莉·斯威特，埃森哲董事长兼首席执行官，杰里米·亨特，英国财政大臣兼阿尔伯特·博拉，辉瑞首席执行官，共同探讨这些议题。
在此观看完整会议：
