人工智能有望改变制造业和供应链，使企业保持竞争力变得至关重要。
对安全、数据保护和监管不确定性的担忧，对人工智能的应用构成严峻挑战。
管理AI系统的质量提供了一种系统方法，用于评估风险，并判断AI系统在整个生命周期中是否满足关键要求。
人工智能（AI）已成为重塑制造业格局的基石，各行业89%的高管认为人工智能是实现其增长目标的必要条件，并计划将其应用于自身运营之中。然而，对安全、数据保护、合规性或性能问题的担忧，对人工智能在制造业和供应链中的应用构成严峻挑战。人工智能本身也伴随着固有风险，若未经审慎考虑，这些风险可能会加剧。缺乏标准化流程来认证AI产品，以及在集成和运行AI解决方案时评估风险，导致前行之路复杂且往往不够清晰。
有效管理AI系统的质量，使工业组织能够克服这些挑战，充分发挥人工智能的潜力，以提升生产力、灵活性、可持续性和员工参与度，同时降低相关风险。
什么是AI质量，为何它很重要？
质量一直是工业运营的关键要素。质量保证在制成品生命周期的每个阶段都至关重要，与之相对应的是AI质量，即一种系统方法，用于评估AI系统在整个生命周期中满足特定要求的程度。
在评估AI系统的质量时，会考虑六大关键支柱：
安全性：关注对人员或财产的潜在危害。
信息安全：评估网络安全风险和人工智能特有的威胁。
法律：确保符合法规和合同义务。
伦理：使系统与公司价值观以及影响利益相关方的伦理原则保持一致。
性能：确认系统的有效性和准确性。
可持续性：审查其开发和运营是否已充分考虑环境因素。
综合来看，这些要素决定了AI系统的整体适用性和影响。
制造业AI质量：我们目前处于什么位置？
为了解在制造业中实施AI时最常见的质量差距，并共同确定应对方案，以实现长期成功、负责任且可持续的成果，世界经济论坛与TÜV SÜD合作，对AI质量进行了深入分析，作为人工智能驱动的工业运营倡议。TÜV SÜD的AI质量框架被用于开展“AI质量就绪度分析”（包括风险分析和成熟度评估），涵盖五个制造用例。在确定相关质量支柱后，分析了60项风险特征，其中21项根据出现频率和观察到的最高风险水平被重点列出。
评估结果显示，风险比例最高的是性能和安全支柱。功能适用性、可维护性和机密性等风险标准受到重点关注。每项风险特征都代表一项质量考量，若未得到满足，便会在AI系统的应用中引入风险。例如，确保功能适用性对于保证AI系统实现预期目标、并在其指定环境中有效运行至关重要。这不仅是实现可靠、准确结果的关键，也有助于避免意外后果并维护用户信任。
由于部分受评用例所处理数据的敏感性，安全支柱的风险水平相对较高。然而，总体而言，各支柱的剩余风险已得到良好管理。有效的风险缓解策略（如强有力的安全措施、主动监控以及安全意识文化）将最大风险降至可接受水平。
成熟度评估的综合结果表明，受评用例所涉及的组织总体成熟度管理良好。合规与战略以及网络安全等维度的成熟度较高，相关组织已实施健全的政策和流程，用于管理与AI相关的网络安全威胁。
在监督和流程管理维度发现了一些成熟度差距。组织往往会忽视AI生命周期的某些方面，尤其是在制定健全的退役计划方面。测试方法并不总是考虑到AI特有的风险，例如对抗性攻击。尽管受评用例中采用了多种测试工具，但这些工具并未始终被系统地使用。为确保AI应用的整体可靠性和稳健性，并将AI故障的影响降至最低，有必要采取结构化的测试与控制方法。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心汇聚各行业领袖，共同理解人工智能的快速演进及其对经济和社会的影响。该中心为围绕人工智能应用的机遇、风险和权衡取舍开展知情对话提供支持。
该中心通过可信赖的空间和协作倡议，使合作伙伴能够建立共同理解，并携手推动人工智能创新与应用的负责任实践。
通过咨询更广泛的行业与技术专家社群，形成了针对已识别成熟度差距的最佳实践解决方案。关键考量包括：通过培训和发展计划提升人才技能、使业务战略与技术产品保持一致，以及建立健全的故障管理体系。
该社群还强调，应将AI质量视为一个持续过程，而非一次性评估。对AI系统、其相关风险及风险缓解策略进行的常规评估，以及持续的文档记录和更新，对于确保AI系统质量至关重要，并应作为健全的质量管理体系的一部分加以落实。
未来之路
要在制造业中充分发挥人工智能在推动生产力、敏捷性、可持续性和员工能力提升方面的潜力，并取得持久成果，组织必须认识到：与传统自动化系统不同，AI解决方案自身带有一系列固有风险，需要进行系统化管理。
在AI系统的开发和部署过程中，采用稳健的方法识别和评估这些风险，有助于制造商有效地将AI融入其工业流程，实现顺畅高效的实施与运行。这不仅有助于推动AI应用并满足法规合规要求，还能增进对AI技术的信任。此外，持续的评估与调整有助于组织在这一快速发展的领域中保持敏捷，并对新机遇和挑战做出积极响应。
通过全面的AI质量战略，可以负责任且有效地发挥人工智能的变革潜力，为企业、劳动者、社会和环境释放新一轮价值。
