据专家称,领导者很快将开始管理人工智能代理——他们需要具备这些技能

undefined
本内容由人工智能自动翻译。
  • 人工智能专家预测,未来人类将把人工智能代理作为“数字员工”来管理。

  • 但管理者在与人工智能合作时需要具备哪些技能?

  • 从提示词编写到建立信任,从培训到软技能,三位专家分享了他们的看法。

“我认为,很快衡量一名优秀管理者的标准将是:你能管理多少名数字员工?这需要一套不同的技能。关键在于,你如何提示自己的代理,让它们尽可能出色地完成工作。”

这番话出自旺冠春,他是来也科技,这家中国公司开发人工智能代理,也称“数字员工”,以执行线索挖掘、候选人筛选等任务。

他在世界经济论坛的“夏季达沃斯”中国活动上发言,当时他参加的会议主题是构建智能体经济。

人工智能代理虽然运用了生成式人工智能,但与之不同的是,它们能够实际执行任务,而不只是生成内容。

例如,人工智能代理可以编写代码,也可以为你预订下一次假期—— 你可以与一家旅游公司的人工智能代理交谈,争取拿到最优惠的价格。

未来,“多代理系统”将能够协作和交流以完成任务,我们也可能会看到“具身代理”。

英伟达首席执行官黄仁勋在2024年10月表示,他希望公司有一天能雇用50,000名员工,并与1亿个代理协同工作。

黄仁勋说:“人工智能会招募其他人工智能来解决问题。人工智能会彼此加入 Slack 频道,也会和人类一起加入。可以说,我们将组成一个庞大的员工群体,其中一些是数字员工和人工智能,另一些则是生物个体。”

但如果我们已经开始步入一个需要管理这些人工智能代理及其系统的时代,那么我们需要具备哪些技能?

我们采访了三位专家,了解他们的看法。

世界经济论坛如何为人工智能建立防护框架?

人工智能卓越中心汇聚各行业领导者,帮助他们理解人工智能的快速发展及其对经济和社会的影响。中心支持围绕人工智能应用相关机遇、风险和权衡开展知情对话。

通过可信赖的交流空间和协作倡议,该中心帮助合作伙伴增进共同理解,并携手探索负责任的人工智能创新与应用方式。

了解该中心的工作

提示之后进行核查至关重要

Women in Tech Global 创始人兼首席执行官绫美·穆尔·青木表示,提示词编写是管理人工智能的核心技能:学会以容易理解的方式提出问题。

“但最重要的是,你必须核实答案。不要把别人直接给你的任何内容都当成事实。要检查答案,也要核查答案所依据的数据。我知道这需要做很多工作,但说实话,这非常重要。”

穆尔·青木表示,即使在自己的研究工作中,她也发现人工智能工具会产生幻觉。

“我可能会说:‘给我这个领域最重要的学术论文和参考文献。’但如果你点开链接去查看数据,就会发现这些内容根本不存在。它们是假的。”

“所以每一步都必须核查……我会努力找到数据来源,并亲自解读。有时我们的数据并不干净,你可以让它得出许多不同的结论,因此找到核心内容,并据此作出自己的判断、形成自己的思考,至关重要。”

她补充说,不核查来源会带来巨大风险。

“错误信息可能导致严重后果,因为如果你依据错误信息作出决定,事情就可能变得很糟。”

了解信任的边界

巴巴克·霍贾特是 Cognizant 的人工智能首席技术官。该公司刚刚开放了Neuro AI 多代理加速器的源代码,以帮助企业扩展协作代理网络。

“我认为,最重要的技能是克服恐惧,能够表达我们对这些系统的期望,同时学会把握信任的边界。那么,我们在多大程度上、何时可以信任这些系统?

“随着这些系统变得越来越好,我们面临的挑战是可能会过度信任它们。因此,我们必须学习并教给孩子们的一项技能,就是弄清楚边界在哪里。”

霍贾特解释说,更广泛地看,我们必须非常谨慎地界定这些系统:“我们设定怎样的门槛,才能明确哪些情况适合让代理自主作出决定,哪些情况我们无法接受?”

“我们还需要确保设有防护措施,并对这些系统实行良好治理。这样,当它们在未知情境下运行时,我们就能对其进行监控,确保它们按照预期行事,并与我们的价值观保持一致。”

人工智能代理与多代理系统将如何互动。Image: 世界经济论坛

代理的能力取决于训练质量

人工智能劳动力平台 WorkWhile 的首席执行官兼联合创始人贾拉·尤斯顿表示,人工智能代理本质上只是“一段代码”。该平台由人工智能提供支持,WorkWhile负责为一线员工对接轮班工作。

“它可能并不具备同等程度的理解力、共情能力,也不了解你所在组织的内部政治,不了解它所服务的人们的恐惧、顾虑或抱负。

“所以管理者必须明白,代理的能力取决于你如何训练它。我认为,我们距离拥有无需任何人工监督就能运行的代理还很远。”

“作为管理者,你希望借助人工智能提高自己和团队的效率,但你必须持续检查、迭代并训练这些工具,才能充分发挥它们的作用。”

她警告说,如果对人工智能代理 关注不足,可能适得其反:“如果工具效果不佳,人们就会停止使用它。因此,最大的风险是生产力可能下降,因为你的组织不再信任或认可这个代理或人工智能。”

“你还必须保持耐心,并且持续调整、试验、测试和迭代。”

软技能将变得更加重要

根据世界经济论坛《2025年未来就业报告》,雇主预计到2030年,劳动力市场所需的关键技能中有39%将发生变化,其中包括人工智能管理技能。

预计未来五年,技术技能将日益重要,其增长速度将超过所有其他技能类别。人工智能和大数据将引领这一趋势,紧随其后的是网络、网络安全和整体技术素养。

所谓的“软技能”——创造性思维、韧性、灵活性和适应能力——重要性也在上升,求知欲和终身学习同样如此。

Women in Tech 的穆尔·青木表示,共情是人工智能代理无法学会的一项技能,她认为这会让女性更具优势。

“人工智能只是预测,机器背后没有幽灵。它不过是一套预测公式。无论它们给出什么结果,人类都必须判断答案是否合乎伦理,是否真正代表社会,以及是否体现公司的文化和价值观。

“这种辨别和决策只能由人类来完成,对吧?我认为女性擅长作出这些决定,因为她们富有共情能力。”

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。