你有没有给别人发过短信，说自己对某件事“烦得要死”？或者让 iPhone 上的 Siri 给妻子打电话，结果不知怎么却接通了岳母？
如果有过，你可能就遭遇过计算领域的一项新挑战：我们信任计算机替我们做出预测，尽管它有时会预测错误，而信任与不信任之间的界限十分微妙。
澳大利亚移民部的一名倒霉管理员，几乎可以肯定是因为这种信任而陷入了 极其尴尬的境地 （甚至更糟）：据披露，去年 11 月期间，他们因自动填充的电子邮件地址严重出错，意外将 G20 领导人的个人资料发送给了亚洲杯足球赛的组织者。
我们信任机器，但有时机器会让我们失望。那么，究竟发生了什么？是机器太笨，不明白我们的意思？还是它们聪明过了头，反而惹祸？
计算机预测的恐怖谷
我们似乎正步入计算机预测的 恐怖谷 。在这个阶段，计算机看起来 几乎像人一样 ，让我们开始信任它们，却又突然犯下令人恼火的错误，使我们因过于信任机器而感到不安。
问题在于，这一切实在太方便了。自从我开始信任 iPhone 自动更正我输入的含糊词语、顺其自然以来，我的打字速度大幅提升。像 Google Now 这样的服务甚至会在你开口询问之前，就预测你想要的信息，因此更加实用。
但代价是，它有时会出错。有时我会无意中给妻子发错信息，或者手机会给出荒唐的建议，比如把我的办公室建议成“家”（这让前面提到的妻子很不高兴！）。
那么，为什么计算机很难像人一样？
骗我一次，算了；骗我两次，计算机……
让计算机显得像人，这项挑战由来已久。自从艾伦·图灵在第二次世界大战期间发明计算机来 破解恩尼格玛密码 以来，我们一直努力创造能够像人一样思考、像人一样行动的计算机。
我们甚至为此设计了一项名为图灵测试的测试，用来判断计算机能否 成功骗过某人 ，让对方以为它是人。
在提出 图灵测试的论文中，图灵认为，我们不必制造一台真正能够思考的计算机——不管这究竟意味着什么——而只需构建一个计算机模拟系统，让我们能够对这个问题作出肯定回答：“机器能否做到我们（作为思考主体）能做到的事？”认知科学家 Stevan Harnad 如此表述。
在他称为“模仿游戏”的测试中，一名人类评判者通过纯文本渠道，与一名人类和一台机器进行自然语言对话。如果评判者无法分辨机器和人类，便认为机器通过了测试。
自图灵最初发表论文以来， 人们提出了许多 种测试变体，加入了视觉和音频等感知能力，并通过机器人技术扩展测试。
但迄今为止，还没有计算机明确通过最初的图灵测试。每当我们接近成功时，它们就会跌入那个恐怖谷，以某种方式功亏一篑，让我们开始感到不安，随后整座纸牌塔便轰然倒塌。
这并不令人意外。我们试图让机器处理人类认知的全部复杂性，它难免会犯错。一个经典例子是 Elieler Yudkowsky讲述的坦克寓言。
有坦克，没坦克
为了说明教计算机像人一样思考的问题，Yudkowsky 描述了这样一种情形 ：美国陆军研究人员训练一台计算机识别场景中是否有坦克。为此，研究人员向计算机展示许多图像，有些图像里有坦克，有些没有，并告诉计算机每张图像中是否包含坦克。
经过测试，他们认定计算机已经学会正确识别每个场景，于是将系统交给五角大楼；但五角大楼的人却说，他们没能让系统正常工作。
研究人员苦思之后发现，坦克照片是在阴天拍摄的，而没有坦克的照片是在晴天拍摄的。因此，系统学到的不是识别坦克，而是辨别阴天和晴天！
这就是在计算机缺乏足够背景信息、无法理解你希望它做什么时，教它掌握一项技能所带来的隐患。
教计算机理解我们的意思，而不只是听懂我们说的话
后来，我的手机好心地告诉我工作地点是“家”，我便相应修改了地址。我注意到妻子回家路上相当沉默，便转头问她怎么了。她说：“没什么，我很好。”那一刻我就知道自己惹上麻烦了！
但当然，她说的并不是那个意思。她说自己“很好”，而一台缺乏背景信息的计算机只会照字面理解。背景信息至关重要，无论是在处理坦克问题时，还是尤其在面对闹脾气的配偶时。
有时，背景信息很简单。比如几年前 Google 推出的一项系统：如果你在电子邮件中写了“已附上”，它就会检查你是否真的添加了附件，并且 如果你没有同时做到这两点，就会发出提醒。
但有时背景信息更难处理，比如你输入“Ian”并让系统自动补全，结果却选错了“Ian”。毕竟，如果没有依据邮件内容以及你对收件人的了解等大量其他信息，Gmail 怎么可能知道你想找的是哪个 Ian？
尽管如此，计算机在这方面正变得越来越好。iPhone 的自动补全现在会先添加不带撇号的“well”，直到它根据后面的几个词判断出你想写的是带撇号的“we’ll”，这时才会作出更改。因此，它或许不久就能提醒你邮件发错了“Ian”。
但目前我们仍需谨慎，因为在计算机能够理解我们作为人类的意图和行为所涉及的全部背景信息之前——而且无法保证它们最终一定能做到——我们仍处于这种自作主张的计算所带来的恐怖谷中。
本文由 The Conversation合作发表。发表本文并不代表世界经济论坛认同其中观点。
如需了解议程最新动态， 请订阅我们的每周通讯。
作者：Michael Cowling 是中央昆士兰大学移动计算与应用专业高级讲师兼学科负责人。
在这张照片中，男子在视频屏幕前形成剪影，手持 Samsung Galaxy S3、Nokia Lumia 820 和 iPhone 4 智能手机摆姿势（从右至左）。照片摄于波斯尼亚中部城镇泽尼察。路透社/Dado Ruvic。
