与生成式AI共处的3条经验

We need to find ways to manage generative AI.
We need to find ways to manage generative AI.Image: Getty Images.
本内容由人工智能自动翻译。
  • 生成式AI被用于生成多种内容,包括文本和图像。

  • 要充分发挥这些先进技术的作用,需要人类的认知技能。

  • 这些建议概述了生成式AI在我们生活中的作用,以及如何最好地使用它。

ChatGPT和Bard标志着我们与先进技术互动的方式,以及我们彼此期望的方式,开始发生真正的变化。

与以往的技术不同,生成式人工智能(AI)需要人类的输入和好奇心;它需要我们认识自身的优势与局限;它还要求我们摆脱熟悉而被动的“用户”心态。

这或许听起来有违直觉,但充分发挥生成式AI作用的最佳策略,是更加积极地运用我们最具人性、最为主动的认知能力。

在AI辅助的世界里,人类需要哪些技能?什么将区分成功与失败?简而言之,是提出出色且富有成效的问题,以及熟练地质疑存疑答案的能力。

我们需要了解生成式AI的哪些知识?

首先,包括生成式AI在内的AI应用,目前仍最适合两种一般用途之一:在我们确信所需结果、因为过往表现明确满足未来需求和/或人类能力限制的情况下,辅助或取代常规性的人类任务;或者在数据集过于庞大、或时间框架过短以至于人类难以处理的情况下,发现新的洞见和预测,或揭示数据之间潜在的关联。这并不涵盖所有任务——AI也正在为许多其他类型的用例而开发。但就目前而言,在我们希望它“循环往复”或“扫描并建议”的场景中,它的效果最好。

其次,如前所述,生成式AI并不适合“用户”或“消费者”的思维模式。恰恰相反,它要求一种积极的方式:探究、共同创造与协作。我们的语言应当随之改变以体现这一点。生成式AI工具与我们习惯的数字产品和设备存在根本区别——它们既不是设备,也不是产品。没有我们,生成式AI就是不完整的。 我们不应仅仅消费它提供的内容。

第三,没有人确切知道这些技术最终会使我们能够做什么,也无法界定即使技术上可行,我们也不应去做的事情。这些工具将在定义明确、重复性的任务上变得更出色,并能吸收海量数据。它们在概括大量文本(或其他媒体)以及表述半复杂想法的初稿方面也会相当出色。

但它们是统计建模工具,而非推理工具(结果是基于复杂模式匹配得出的预测,“学习”也仅限于此意义上);它们或多或少会默认所提问题的有效性,而不管该假设是否合理,例如“告诉我地球是平的最佳论据”。它们将继续受“输入垃圾,输出垃圾”问题的困扰(基础数据中的错误会在结果中显现)。而且它们与我们人类一样存在不精确的缺陷,以及并非总是知道(或承认自己不知道)某些事情。

我们如何才能最大限度地从生成式AI中获益?

无论你是首席执行官还是学生,是护士还是律师,建立一个简明的框架都有助于我们理解生成式AI在生活中可以发挥的作用,以及如何最好地使用它。以下是适用于每个人的三项关键考量。

1. 提出问题

在面对这些先进技术时,好奇心至关重要,请提出这样的问题:它们有什么用途、如何构建,以及它们的局限是什么。同样,更具体地说,生成式AI工具将要求我们学会如何提出并给出周全、准确的问题与指令,从而获得有用、切合目的、稳健且能减少错误、偏见和隐私风险的答案。

并非所有问题都一样。我们如何提问以及如何向工具下达指令,会直接影响我们得到的结果,以及这些结果的价值、可辩护性和安全性。例如,要求一个癌细胞检测模型识别样本图像中所有非典型细胞,与要求该模型排除所有典型细胞,是不同的。两种情况下的假阳性率和假阴性率会有所不同;当依赖模型输出来支持个人癌症状况的专业诊断时,这种差异具有重大影响。要求模型为一双泵推荐方案,可能会引发同样的问题,但后果则远不那么严重。

设计有用的指令并非看上去那么简单——这是一项高度依赖语境、具有文化特异性的工作。我们在询问事情时常常做了很多假设。我们往往不够精确(即下达指令关于如何做一个三明治),使用特定语言的习语(如“小菜一碟”)或假设过多(如“这之前行得通,所以之后也会行得通”)。这些问题中的每一个,实际上都可能随着专业知识和经验水平的提高而加剧。

2. 审视答案

同样,生成式AI要求我们学会以批判的眼光评估所有模型输出。我们必须抽出时间和空间,允许人类对技术驱动的建议提出质疑。这正是“输入垃圾,输出垃圾”问题出现之处(技术和人类双方皆然),同时也是我们审慎审视历史做法、在某些方面加以改进,并同时改进与AI赋能工具协作方式的机会。

生成式AI可以产出一系列输出。我们选择将其中哪些输出付诸实施以产生结果,取决于我们自己,而且通常会因具体情况而异。当AI取代可重复、易理解的任务时,识别合理或恰当的输出可能更为容易。我们在评估这类输出方面积累了大量经验,但对于独特或新颖的任务或洞见则并非如此。审视预期输出以及出人意料的输出尤为重要。如果你得到的是其中之一,你真正知道的只是:你遗漏了由同一问题可能产生的一整系列其他结果。

并非所有答案都是正确答案。事实上,许多答案完全错误,有些答案尚可接受但并非最佳,或者对某些条件足够好却不适用于其他条件。我们也会持续地从工具中以及彼此之间学习。同样,我们能够做某事,并不意味着我们就应该去做。因此,在实际场景中使用这些工具时,我们需要保持谦逊与审慎,随时准备考虑:在输出成为结果之前,我们自己的判断,或同事、学生、供应商的判断,可能有充分理由对模型输出提出质疑。一些学生已经在这样做,希望更多人很快也能如此。

3. 负责任地使用

这些是新工具,并不完美,其设计目的是与人协作(而人也并不完美),而非取代人。各种恶作剧、错误假设和粗制滥造的工作都可能发生。风险管理实践和治理控制措施正开始考虑所有这些可能性。重要的是,许多此类治理实践并不新鲜。即使在生成式AI领域,我们每个人仍可以在日常工作中,从手头已有的工具开始,营造尊重、人性化和包容的规范。我们应鼓励孩子和同事学习使用生成式AI工具,同时确认公民社会的规则依然适用。或许,这些规则更应适用。

基于此,以下是每个人都可以采取的九项措施,以更有效地使用生成式AI:

  • 鼓励、奖励并为自己和他人的好奇心与提问留出时间。

  • 多次运行同一问题。

  • 以多种方式提出同一问题。

  • 标明工作何时得到了AI工具的协助。

  • 不要直接接受或依据首次结果行事。

  • 努力发现那些既能产生最令人惊讶的结果、也能产生最符合预期结果的问题。

  • 学会解释你为何接受或偏好某些输出(相较于其他选项)。

  • 不接受粗鲁、辱骂或剥削性的结果。

  • 保持好奇与谨慎。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。