随着自学习系统越来越多地负责对人和环境做出决策，确保人工智能的安全使用已成为一项优先事项。
即将出台的欧盟《人工智能法案》很可能将成为全球监管人工智能使用的事实标准。
DNV《人工智能系统保证》推荐实践的目的，是证明其符合欧盟《人工智能法案》的要求。
人工智能（AI）技术在推动商业发展、改善生活以及应对全球挑战方面具有巨大潜力。由于能够从数据中学习，随着新数据的出现，它们为自学习系统提供了机会。这种动态学习和提升性能的能力，带来了传统软件程序难以实现的优势和机遇。
人工智能的早期应用主要集中在聊天机器人和自动化消费者推荐系统等领域，这些系统在人工智能未能做出良好决策时，并不被认为存在高风险。然而，随着自学习系统越来越多地负责做出可能最终影响人员、资产或环境安全的决策，确保人工智能安全使用的需求已成为一项优先事项。
人工智能也带来了新的伦理挑战。由于以数据为驱动，人工智能可能会强化数据所体现的不道德行为或偏见。奖励破解和深度伪造等非预期用途凸显了解决人工智能伦理与负责任使用问题的必要性。
以ChatGPT为代表的生成式人工智能近期取得的进展，展现出近乎人类的创造力，这增加了其对利益相关方可能产生的影响。在这种情况下，传统的质量保证和测试机制已不足够。
为确保人工智能的安全和可信使用，需要具备以下几个方面：
针对人工智能的相关法规及适当要求；
理解内置人工智能的系统；
适当的保证。
针对人工智能的相关法规
欧盟《人工智能法案》很可能将成为全球监管人工智能使用的事实标准。该法案的主要目标是加快人工智能的开发和应用，并确保其使用符合欧盟价值观。鉴于人们预期人工智能将在某个时点受到监管，这一即将出台的法规因此消除了监管不确定性，并为行业创造了公平的竞争环境。
《人工智能法案》对人工智能的开发者和使用者在人工智能全生命周期内均提出了具体要求。其重点在于使用人工智能的伦理、法律和技术层面。对于高风险人工智能应用，还额外要求进行合格评定。然而，《人工智能法案》并未就此类合格性应如何在实践中予以证明提供具体指引。
因此，DNV制定了一项名为“人工智能系统保证”的新推荐实践（RP）。该推荐实践是对欧盟《人工智能法案》以及客户对内置人工智能系统的信任需求的回应。该推荐实践从广泛而深入的角度探讨如何建立对人工智能的信任：它涵盖了《人工智能法案》所涉及的信任的不同维度（技术与非技术层面），并通过运用基于证据的论证方式对各项主张进行推理，描述了一种建立信任的实用途径。该推荐实践将于2023年第一季度发布，征求外部意见。
理解内置人工智能的系统
该推荐实践的一个关键部分，是采用系统方法来理解人工智能，以及其使用在现实世界中可能产生的潜在后果。内置人工智能的系统可以是信息物理系统（如船舶、风力发电机、电网、医疗设备等），也可以是纯数字系统（如数字孪生、区块链等）。无论哪种情况，我们最终关注的都是对人员、资产和环境在现实世界中所产生的后果。值得注意的是，我们的人工智能推荐实践是DNV用于保障工业数字化应用基础组件的更广泛机制体系的一部分，该体系还包括针对数据质量、算法、传感器系统、仿真模型及网络安全稳健性的推荐实践。
世界经济论坛如何确保人工智能的伦理发展？
内置人工智能的系统通常较为复杂，其运行行为难以被完全解释。同时，技术、伦理和法律层面之间的相互作用也带来了额外的复杂性。其动态特性使得在人工智能使用过程中保持我们的认知有效性面临实际挑战。因此，有必要将人工智能所处的整个系统纳入考量，以便更好地理解使用过程中可能产生的潜在后果（包括正面和负面的）。
适当的保证
我们推荐实践中所述的保证方法具有通用性，并不局限于任何特定的法律管辖区或监管框架，但其目标之一是通过使用该推荐实践，使其能够证明符合欧盟《人工智能法案》的要求。
保证是指，我们确立有充分依据的信心，确保各项要求得到满足，从而为受人工智能系统影响的利益相关方建立信任。我们在推荐实践中采用了基于主张与证据的方法，使监管要求及其他要求通过主张的形式加以阐述。随后，这些主张将根据相关利益相关方的利益予以验证。通过这种方式，不公正或不相关的主张可以被识别并加以纠正。收集证据以核实某一主张是否以足够的把握为真，证据构成了合格评定的基础。
