在种种 骇人听闻的警告 中，有人声称由人工智能（AI）驱动的机器终有一天会取代人类。我们需要更多地思考，究竟该如何为它们编程。
这项技术可能还远未成熟，目前还不至于需要认真担忧这些问题；但围绕人工智能的许多不信任，源于人们误解了称机器“思考”究竟意味着什么。
当前人工智能研究的目标之一，是设计机器、算法、输入／输出流程或数学函数，尽可能模仿人类思维。
我们希望更好地理解人类思维中发生的事情，尤其是那些无法得到合理解释、只能诉诸“直觉”和“本能感受”的决定——也就是只有从经验中学习后才能做出的决定。
设想一位雇用你的管理者：他先根据你的工作经历、技能和表现，将你与其他求职者进行比较。这位人类管理者能够做出决定，选出成功的候选人。
如果我们能设计一个计算机程序，让它接收与这位人类管理者完全相同的输入，并重现其输出，那么即使这位管理者无法清楚说明任命某人的理由、只能说“归根结底还是经验”，我们也能推断出他或她真正看重的是什么。
这类研究如今正在 开展 ，并被用于理解金融顾问的风险规避和风险偏好行为。此外，研究人员也在 医学诊断领域进行相关研究。
这些模仿人类的系统尚未被要求做出决定，但它们确实正被用于帮助引导人类决策，并减少人为错误和不一致。
模糊集与人工智能
一个有前景的研究方向是运用 模糊集框架。模糊集和模糊逻辑由 Lotfi Zadeh 于1965年形式化提出，可用于以数学方式表示我们关于某一给定主题的知识。
在日常语言中，我们指责某人“逻辑模糊”或“思维模糊”，意思是他们的想法自相矛盾、带有偏见，或者只是考虑得不够周全。
但在数学和逻辑学中，“模糊”是一个研究领域的名称，其基础相当可靠明晰。
模糊集的出发点是：许多传统上可由计算机处理的决策过程，涉及二元真值：某事非真即假，任何行动都基于答案（在计算中通常编码为0或1）。
例如，前面提到的人类管理者可能会对人力资源部门说：
如果求职者年龄在25至30岁
并且拥有哲学或文学学历
那么安排面试。
这些信息都可以根据真或假的答案写入招聘算法，因为求职者要么年龄在25至30岁之间，要么不在；要么拥有该学历，要么没有。
但如果这位人类管理者表达要求时更加含糊呢？他改为说：
如果求职者个子高
并且有吸引力
那么应提供更高的薪水。
人力资源部门在将这些要求编码进招聘算法时面临的问题是，其中涉及若干主观概念。尽管身高是可以客观测量的，但一个人要多高，我们才会称其为高？
吸引力也是主观的，即使我们只考虑这位人类管理者一个人的喜好。
灰色地带与模糊集
在模糊集研究中，我们称这类特征为模糊特征。也就是说，某事物是否属于一个集合、某个陈述是真是假，可以在给定数值范围内从0逐渐增加到1。
任何基于模糊理论的软件应用，最难处理的问题之一，是如何最好地将观测到的输入（某人的身高）转换为模糊隶属度，然后进一步确立有关如何在该模糊集中使用“与”和“或”等连接词的规则。
直到今天，乃至未来数年或数十年，这种转换的规则仍由人类设定。例如，要规定一个人有多高，我可以设计一个函数，规定身高190cm的人算高（真值为1），而身高140cm的人不算高（或称“高”的真值为0）。
然后，从140cm开始，身高每增加5cm，真值就增加0.1。因此，任何人工智能系统的一个关键特征是，所有关于如何定义数值或词语的规则，仍由我们这些普通人类掌控。更重要的是，我们定义人工智能系统能够采取的所有行动——也就是“那么”语句。
人机共生
一个名为 用词计算的领域，将这一理念进一步拓展，目标是实现人类用户与人工智能计算机算法之间的无缝沟通。
目前，我们仍需为“高”“有吸引力”“好”和“快”等主观词语提出数学表示方式。接着，我们需要设计函数来组合这类评论或命令，再通过另一种数学定义，将所得结果转换成诸如“是的，他很高”这样的输出。
在构想用词计算这一理念时，研究人员设想，未来我们或许能更直接地获取这些词语的底层表达，例如我们使用“高”这个词时的大脑活动和读数。
这将是一次了不起的飞跃，不过主要体现在观测此类现象所需的技术上（大脑中的神经元数量，更不用说它们之间的突触数量，接近宇宙中的星系数量）。
即便如此，设计出能够模仿人类行为、乃至模仿与我们沟通的机器和算法，仍有很长的路要走。
归根结底，我们设计的任何系统都会按照预期行事，遵循我们设计的规则和支配它的程序。
非理性的恐惧？
这让我们回到那个最大的恐惧：未来人工智能机器会反过来对付我们。
真正的危险不在于真正人工智能的诞生——也就是我们不知怎的设法创造出一个能够自我意识的程序，例如电影《2001太空漫游》中的HAL 9000，或《终结者》系列中的天网。
真正的危险在于，我们在编码算法时出错，或者让机器置身于某些情境，却没有充分考虑它们将如何与环境互动。
然而，这些风险与任何人造系统或物品所伴随的风险并无不同。
所以，如果我们把比如说开火的决定交给人工智能算法（而不只是交给制导系统），那或许确实有值得担忧之处。
值得担忧的不是这些智能武器终有一天会反过来对付我们，而是我们给它们编程时——在一系列主观选项中——让它们做出错误决定并攻击我们。
即使对于“思考”机器的未来及其在社会中的作用，人们仍有些不确定，但有一点可以肯定：最终决定它们能做什么的将是我们。
在为人工智能编程时，责任在于我们（就像设计摩天大楼、制造机械、研发药物或起草民事法律时一样）：我们必须确保它按我们真正希望的方式行事。
本文与 The Conversation合作发表。阅读 原文。
本文的发表并不意味着世界经济论坛认同其中观点。
如需了解议程最新动态，请 订阅我们的每周新闻简报。
作者：Simon James是迪肯大学数学讲师。
图片：在新加坡举行的Robocup锦标赛期间，一名参赛者举起自己的足球机器人供镜头拍摄。路透社/Vivek Prakash。
