增强智能：可解释人工智能如何让制造业岗位变得更好

• 人工智能已经彻底改变了工作世界，但人工智能在制造业等领域的应用进展缓慢。

• 可解释人工智能（XAI）通过提供决策依据的洞察，有助于消除“算法厌恶”，从而建立信任。

• 采用XAI方法，可以使人类和机器在制造业等领域都发挥最佳水平。

工作是人类的一项基本活动，目前正因人工智能（AI）的突破而经历重大转型。然而，人工智能在制造业等各类工作场景中的应用一直进展缓慢。

一个关键原因在于，人类往往不愿信任不透明的算法。尽管人工智能的技术进步已有大量记录，并备受炒作，但行为因素实际上阻碍了人工智能在制造业中的大规模应用。

本文认为，要扫清这些障碍，需要一种特殊类型的人工智能：可解释人工智能（XAI）。

人类工作的终结？

一种普遍的说法认为，人工智能即将大规模取代人类工作。大规模取代人类工作。我们在多种制造业场景中的研究，以及世界经济论坛近期发布的一份关于制造业中的人工智能的报告，均否定了这一愿景。

相反，人工智能有潜力增强人类智能，从而更有效地完成工作任务，同时丰富工作体验。释放这一潜力的关键在于可解释算法，它与传统人工智能系统中往往不透明的决策过程形成对比。

尽管人工智能前景广阔，但其在职场中的应用进展缓慢，超出了人们的预期，这种抵触情绪主要受两个关键因素推动。第一个是“算法厌恶”，即人类不愿信任那些作为“黑箱”运行、在没有任何明确依据的情况下给出决策的人工智能系统。

第二个挑战在于，许多前沿算法的不透明性，使领域专家无法将人工智能生成的建议与领域知识进行对照基准检验，从而难以发现和纠正错误。这些问题不仅侵蚀了人们对人工智能的信任，也限制了人与人工智能有效协作的空间。

为工业元宇宙注入活力

46:35

这正是可解释人工智能（XAI）实现重大突破之处。我们在制造业领域历经多年的研究得出一个统一结论：可解释性正是推动人工智能在制造业应用的关键缺失要素。

为什么？可解释人工智能如同一位翻译，弥合了复杂算法过程与人类理解之间的鸿沟。正如译员能让普通人理解复杂信息一样，XAI能够揭开复杂算法错综复杂的逻辑之谜。

通过将人工智能的“黑箱”转化为附有清晰解释的建议，XAI增进了信任，并促成更有效的人机协作。XAI不仅使人工智能更加合乎伦理且可问责，我们的研究还表明，它同时能够改善工作体验和工作绩效。

尽管人工智能有能力筛选海量数据集，并识别远超人类能力范围的模式，但真正释放生产力增长的，是人类专业知识与人工智能建议之间的协同共生。

借助可解释人工智能（XAI），专家的表现优于人工智能

西门子的现场实验为说明XAI的重要性提供了一个有力的案例研究。在该研究中，我们比较了两组工厂工人在电子产品视觉质量检测任务中的表现。

第一组得到传统“黑箱”人工智能的辅助，而第二组则受益于一种人工智能，该人工智能以视觉热力图解释其对潜在质量问题的预测。

视觉检测任务中“黑箱”人工智能与可解释人工智能的对比示例

结果十分显著：在没有解释的情况下，专家型工人错误推翻人工智能准确建议的可能性高出三倍以上。相比之下，借助XAI增强的工人更懂得何时信任人工智能，何时依靠自身专业判断，从而超越了人工智能系统单独运行时的表现。

这表明，XAI不仅关乎更智能的机器决策；它是一种变革性方法，能够使人类和机器都发挥最佳水平。

XAI不仅有利于为车间操作人员提供决策支持，还能帮助理解复杂的生产系统，为制造业专家提供关键洞察。

在我们于一家半导体工厂开展的另一项研究项目中，我们借助XAI工具增强了工艺专家的能力，以解释质量问题的根本原因。人工智能解释了生产变量与质量结果之间的复杂关联，而要将这些洞察转化为有效的改进措施，则需要人类的专业知识。

通过将人工智能的解释与自身领域知识相互对照，专家得以设计有针对性的实验，以确认质量损失的根本原因。结果如何？质量损失骤降超过50%，充分证明了基于人工智能解释的人机协作的有效性。

增强智能的有力案例

我们的研究有力地表明，制造业的未来并非人类与机器之间的较量，而是一种协作型事业，它充分利用双方各自的独特优势。

许多工作任务既不会、也不能被人工智能取代或委托给人工智能。然而，人工智能可以增强人类的工作，并创造更有效、更高效的任务，尤其是在人工智能的决策得到解释的情况下。

通过揭示每一项算法建议背后的“如何”与“为何”，XAI有助于在人工智能驱动的洞察支持下，充分发挥人类解决问题的能力。

大众讨论不应局限于“人类与人工智能对立”的叙事，而应探索两者协同所蕴含的广阔机遇。我们的研究表明，在解决任何一方都无法独自应对的问题时，人工智能与人类的协作尤为有效。

因此，我们呼吁一场范式转变：与其用人工智能“取代”人类，不如用人工智能“增强”人类。这需要一套截然不同的工具，而我们认为其中尤为相关的一项是：XAI。