人工智能算法无法解释其决策背后的思考过程，但如果它们能够做到，人类或许可以从其智能化的问题解决方式中学习。
人工智能的一个分支——强化学习，研究计算机如何从自身经验中学习。
研究人员希望将这一成果转化为向人类解释解决方案的能力。
人工智能（AI）领域已经开发出能够驾驶汽车、合成化合物、折叠蛋白质和探测高能粒子的计算机，其能力已超越人类水平。
然而，这些人工智能算法无法解释其决策背后的思考过程。一台既能精通蛋白质折叠、又能向研究人员阐明更多生物学规律的计算机，远比一台只会折叠蛋白质却无法作出解释的计算机更有用。
因此，像我这样的人工智能研究人员如今正致力于开发能够以人类可以理解的方式解释自身的人工智能算法。我相信，如果我们能够做到这一点，人工智能将能够发现并向人们揭示关于世界的、尚未被发现的新事实，从而带来新的创新。
从经验中学习
人工智能的一个分支，即强化学习，研究计算机如何从自身经验中学习。在强化学习中，人工智能探索世界，并根据其行动获得正面或负面的反馈。
这一方法已使算法在无需任何人工指导的情况下，自主学会了以超越人类的水平下棋，并能够证明数学定理。在我作为一名人工智能研究人员的工作中，我运用强化学习来开发能够学习如何解决魔方等谜题的人工智能算法。
通过强化学习，人工智能正在自主学习解决连人类都难以破解的问题。这促使我和许多其他研究人员的思考重心，从人工智能能够学到什么，转向人类能够从人工智能身上学到什么。一台能够解开魔方的计算机，理应也能教会人们如何解开魔方。
窥探黑箱
遗憾的是，超人类水平人工智能的内部运作目前仍超出人类的理解范围。人工智能并不是出色的老师，在计算机科学界，我们称其为“黑箱”。
黑箱式人工智能只会输出解决方案，却不说明其理由。计算机科学家数十年来一直试图打开这一黑箱，而近期研究表明，许多人工智能算法的思维方式实际上与人类相似。例如，一台经过训练可以识别动物的计算机，会学习不同类型的眼睛和耳朵的特征，并将这些信息结合起来以正确识别该动物。
打开黑箱的这一努力被称为可解释人工智能。我的研究团队隶属于南卡罗来纳大学人工智能研究所，专注于开发可解释人工智能。为此，我们大量借助魔方展开研究。
魔方本质上是一个路径寻找问题：从点A（打乱的魔方）找到一条通往点B（复原的魔方）的路径。其他路径寻找问题还包括导航、定理证明和化学合成。
我的实验室建立了一个网站，任何人都可以在上面看到我们的人工智能算法如何解开魔方；然而，人们很难通过这个网站学会解魔方的方法，因为计算机无法告诉你其解法背后的逻辑。
魔方的解法可以分解为若干通用步骤——例如，第一步可以是拼出十字，第二步可以是将角块归位。虽然魔方本身有超过10的19次方种可能的组合，但通用的分步指南非常易于记忆，并且适用于许多不同的场景。
将问题分解为若干步骤来加以解决，通常是人们彼此解释事物的惯常方式。魔方天然契合这种分步框架，这使我们更容易打开自身算法的黑箱。开发具备这种能力的人工智能算法，可以让人们与人工智能协作，将各类复杂问题拆解为易于理解的步骤。
协作促进创新
我们的流程始于运用个人直觉，制定一套可能解决复杂问题的分步计划。随后，算法会逐一审视每个步骤，并反馈哪些步骤可行、哪些不可行，以及计划可以如何改进。人类再根据人工智能的建议对初始计划加以完善，这一过程不断重复，直至问题得到解决。我们期望，人与人工智能最终能够达成某种相互理解。
目前，我们的算法已能够审视人类提出的魔方解法计划，提出改进建议，识别行不通的计划，并找到可行的替代方案。通过这种反馈，它能形成一套人类可以理解的魔方分步解法。我们团队的下一步是构建一个直观的界面，使算法能够教会人们如何解开魔方。我们希望将这一方法推广到更广泛的路径寻找问题中。
人类具有任何人工智能都无法比拟的直觉，而机器在计算能力和算法严谨性方面则远胜人类。人与机器之间的这种往复互动，充分发挥了双方的优势。我相信，这种协作将为从化学到数学等各领域此前未能解决的问题带来新的启示，催生新的解决方案、直觉与创新，而这些成果在过去或许是遥不可及的。
