一组研究人员正致力于打造一种“解释者”，说明人工智能（AI）如何得出特定问题的答案，以此建立人类与人工智能之间的信任。
在自动驾驶汽车和自主无人机的时代，人工智能正日益融入我们的生活。它也变得越来越智能。如今，人工智能能够识别文本、通过面部辨认人物，甚至在一定程度上识别实物。但即使是最先进的人工智能系统，也仍然经常出错。
波士顿大学计算机科学助理教授凯特·萨恩科（Kate Saenko）表示，这带来了一个大问题。
“如果人工智能工具出错，人类用户很快就会对它失去信心，最终完全停止使用它，”她说。“我认为，人天生就不太可能只是接受机器告诉自己的事情。”
她补充说，另一个难题是，随着人工智能变得更强大，驱动它的算法对人类用户而言也越来越不透明。信息从计算“黑箱”的一端输入，答案从另一端输出；然而，得出答案所依据的规则和推理过程却被遮蔽了。
萨恩科正努力改变这种关系。她的研究旨在探索了解人工智能“思维”的新方法，打造一种翻译工具，向人类用户解释人工智能的决策过程。
乍看之下，这个目标似乎微不足道。只要答案正确，谁会在意计算机是如何得出答案的？然而，萨恩科说，了解人工智能设备为何作出某项决定所获得的反馈，最终或许能帮助提高其准确性，因为人类可以借此进行细微的修正。
这一过程还可能增强人们对机器的信任，使机器成为复杂工作中更好的协作者。不过，要让当今的人工智能做到如此开放，可能并不简单。
新型人工智能
了解人工智能的“思维”并非一直都很困难。过去，许多人工智能系统（例如人脸识别系统）采用程序员预先制定的规则和准则——比如界定肤色、确定鼻子的形状，以及界定光线与阴影的规则。所有这些由用户创建的概念都必须从一开始就以硬编码方式写入人工智能，为其工作提供框架。
这种方法让人比较容易弄清机器是如何得出结论的：只要找出它使用了哪些预先编程的规则即可。但它也从根本上限制了人工智能的能力。毕竟，现实生活极其复杂，即使是最优秀的人类程序员，也无法列出计算机理解世界时可能用到的所有规则。
“例如，我们很难预见世界各地的任何图像中，狗可能呈现的所有样子，”萨恩科说。“如果处理能力和数据足够，一种更好的方法是给计算机看一百万张狗的照片，让它自己定义狗。”
过去五年左右，这种方法在人工智能领域得到更广泛的应用。这些新系统不再采用单一模板，而是运用更具迭代性的方式，其设计仿照我们自身神经系统的工作方式。
这类新型人工智能被称为“深度神经网络”，它由大量相互连接的函数（或称节点）组成，排列成庞大的网络。每个节点负责解析少量信息，并在此基础上逐步构建，承接前序节点的工作。
这种在简单数据基础上逐步累积的过程，是深度神经网络的核心。它让人工智能灵活、快速且强大——一些系统的运行准确率可超过95%。然而，一旦出现少数不准确的情况，深度神经网络就会让人极难查明原因。由于神经网络会在运行过程中自行形成宏观准则，因此没有预先编写好的定义可供查阅。
“这些模型能够处理的参数数量极其庞大，这正是它们擅长视觉和语言任务（例如自动翻译）的原因。这使它们能够吸收大量数据，”合作研究者、加州大学伯克利分校的特雷弗·达雷尔（Trevor Darrell）说。“但由于参数太多，要直接提取和解读其中的结构非常困难。”
打造人工智能“解释者”
萨恩科和达雷尔正与他们在荷兰阿姆斯特丹大学的同事泽内普·阿卡塔（Zeynep Akata），以及开源软件公司Kitware合作，探索如何深入了解深度神经网络，使其更容易被理解。
研究人员表示，让这样的网络解释自身，很可能会降低其速度和效率，因此他们希望打造一种翻译工具——让第二个网络与第一个网络协同工作，实时解读其选择并向人类用户报告。
“主神经网络只是在完成自己的工作。它的所有处理都专注于解决自身任务，例如在图像中寻找门或窗，”萨恩科说。“这就是我们想使用第二个神经网络的原因：它能够访问第一网络的内部机制和输入数据，并学会将这些内容转化为人类能够理解的文字。”
萨恩科说，这种翻译很重要，因为深度神经网络一旦出错，很可能是因为它在数据中发现了与现实不完全吻合的模式。比如，如果它正在一条维护不善的道路上驾驶自动驾驶汽车，可能会把阴影当作巨大的坑洞而停车。
如果发生这种情况，人工智能“解释者”就可以用通俗易懂的英语向用户询问更多信息。她说：“我希望它能够说：‘我停止行驶了，因为我不确定那是坑洞还是阴影，请告诉我该怎么做。’”
“未来，我们会把人工智能用于人类与计算机的协作。我们需要能够与它沟通，了解它的优势，知道它擅长什么，这样它就能帮助我们处理不擅长的事情——比如梳理一拍字节的视频以识别其中的内容，”萨恩科说。“我认为这会创造出超人。这是人类与人工智能之间的协作。”
萨恩科的研究由美国国防高级研究计划局（DARPA）的一项拨款资助。
