人工智能（AI）有望成为我们这个时代最深远、影响最大的技术创新。
企业必须迅速适应不断演变的监管环境，并建立与其价值观和目标相一致的负责任AI治理框架。
负责任AI的核心在于审慎权衡诸多取舍，在创造价值的同时规避风险并保护声誉资本。
人工智能（AI）有望成为我们这个时代最深远、影响最大的技术创新，并以极快的速度不断演进和发展。
凭借其最新进展，尤其是生成式AI（GenAI），它必将重塑整个行业，催生新的商业模式，并影响每一项企业职能以及我们的个人生活。
与所有颠覆性技术一样，AI也伴生一系列严重风险，包括与数据质量与隐私相关的风险、机密信息的安全与保密问题、误导性输出，以及更严重的是，恶意行为者在虚假信息活动中对该技术的蓄意滥用。
认识到这些挑战，全球各国政府已开始建立监管框架，以确保基于AI的技术得到负责任的开发。欧盟已出台《欧盟人工智能法案》，这是首部专门针对AI的法律。该法案旨在确保AI系统安全、合法地使用，并尊重其中的基本权利。
展望未来，企业需要奠定基础，以迅速适应不断演变的监管环境，并需要建立与其价值观和业务目标相一致的负责任AI治理框架。
私营部门肩负着巨大责任，须确保其拥有全面且动态的AI框架，以帮助弥合创新与负责任部署之间的差距。
那么，企业应从何入手？
世界经济论坛如何为人工智能建立防护机制？
AI卓越中心汇聚各行业领袖，帮助他们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕AI应用相关的机遇、风险与权衡展开知情对话。
通过可信赖的交流空间和协作项目，该中心助力合作伙伴形成共同认知，并携手推进AI创新与应用的负责任方法。
评估准备情况
评估准备情况是为AI治理创造最佳环境的第一步。这意味着从整体上审视AI，并回答有关组织内AI使用的一些基本问题。例如，基于其所处行业和监管环境，企业对负责任AI的愿景是什么？考虑到组织的商业模式，该愿景如何与现有价值观保持一致，AI又可能带来哪些风险？基于这些考量，组织必须评估其现有治理架构，并判断现有治理模式是否足以应对这些风险。
许多组织目前认为三道防线模式非常适合AI。该模式通过三层防御来应对风险：
1. 负责日常风险控制与管理的运营管理人员和员工。
2. 负责监督与支持的专业风险管理和合规职能部门。
3. 内部审计，为风险管理和治理流程是否有效提供独立保证。
尽管这是一种广泛认可的方法，但每个组织都必须评估其如何适用于自身环境，并确定适合每一道防线的参数和条件。
准备工作还意味着研究适用的立法，并确定具有成本效益的解决方案以满足合规要求。
例如，《欧盟人工智能法案》要求被视为高风险AI开发者的企业编制合格评定报告，并保存完整文档，以证明其符合该法规。属于此类别的组织还须编制基本权利影响评估，以评估其AI系统对个人及其权利的影响。这将涉及编制编程和训练方法记录、所用数据集记录，以及为监督和控制所采取的措施记录。
与此同时，作为生成式AI基础的大型语言模型（LLM）的广泛应用，将给组织带来新的安全风险。LLM使不法分子的作案效率得以提高，而防御方尚未跟上这些新技术。因此，过早在多个工作流程中运用AI技术，可能会扩大风险敞口。
为提前应对网络风险，企业需要重新评估其安全策略，并日益引入红队演练 ——即采用对抗性方法、借助AI对网络安全系统进行测试——以及风险管理框架和控制措施。
世界经济论坛如何为人工智能建立防护机制？
AI卓越中心汇聚各行业领袖，帮助他们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕AI应用相关的机遇、风险与权衡展开知情对话。
通过可信赖的交流空间和协作项目，该中心助力合作伙伴形成共同认知，并携手推进AI创新与应用的负责任方法。
组建多学科团队
AI不仅仅是技术。它将重塑我们的人际关系，以及我们共同工作、与技术协同工作的方式。
对组织而言，最大的挑战之一是统一观点，并围绕AI建立共同的专业语言。例如，数据科学家可能无法充分理解AI的法律和伦理影响。相比之下，法务团队可能具备法律和伦理背景，却缺乏将这些考量转化为计算逻辑的能力。
在各领域建立共同语言是一项复杂的任务，要求团队在将法律要求转化为计算要素、反之亦然时加强合作。未来，数据科学可能成为法务团队追捧的技能，而工程师则可能需要精通世界各地已颁布的AI法规。
这一挑战需要各组织投入资源进行交叉技能培养。迟早，每个组织都需要推出全公司范围的培训计划，为员工提供基础性和跨学科的AI技能。此外，团队还需要积极开展隐私增强技术方面的专项技能提升，并开发更全面的技术解决方案，以遵守围绕AI的法律要求。
为AI准备数据
数据是生成式AI背后大型语言模型的基础。这些模型使用大量数据，并基于原始输入生成自身的数据。输入模型的数据质量及其收集方式将影响输出结果。归根结底，劣质数据将导致劣质输出，削弱AI的价值，甚至更糟的是，强化偏见并导致错误结论或“幻觉”。
随着AI模型所用数据量持续增长，部分模型将需要基于特定数据子集进行再训练，以提高准确性。总体而言，数据治理与管理将成为AI有效部署的关键。
归根结底，准备和训练AI模型将使组织能够做出更精准的预测、发现新的数据关联并获得更优的洞察。从数据质量、标注和增强，到数据保护与治理，企业必须在整个数据生命周期中强化其数据管理流程。先进的数据分析工具、严格的数据质量检查，以及持续进行数据优化与评估的文化，都将是成功的关键。
警惕偏见
数据质量也是解决AI中存在偏见和不公平做法的首要任务。当看似中立的程序反映出其开发者、训练人员或数据输入的偏见时，此类问题便可能出现。
存在偏见的算法会带来相当大的问题。由算法模型驱动的歧视可能进一步加剧人口中代表性不足群体的劣势。研究表明，此类AI辅助招聘中的偏见可能导致基于性别、种族和个性特质的歧视性做法，这往往源于原始数据集有限以及算法设计者的偏见。
偏见问题处于多个学科的交汇点，在隐私和平等法律的语境下尤为相关。解决AI中的偏见需要技术与人工干预相结合，并依托稳健的治理模式。
善用技术，但不可完全依赖技术
在许多情况下，技术将发挥作用，帮助企业应对与透明度、隐私和数据质量相关的挑战。
例如，零知识证明（一种密码学协议）可以在不暴露数据本身的情况下，利用合成数据验证机密属性或事实。随着合成数据的质量不断提升，此类解决方案将越来越有助于应对数据透明度方面的问题。
此外，采用隐私增强技术（如加密和差分隐私——一种确保数据集中个人隐私的数学框架），有助于缓解数据泄露问题，并营造更为安全的环境，以便开展数据试验并构建新的解决方案。
尽管技术至关重要，但必须牢记，AI相关问题的解决仍需人工介入，以引导实现积极成果。在此背景下，人的作用在于提供必要的监督、伦理决策，以及对社会和文化语境的理解，而这些是机器无法替代的。企业需要依靠人类专业知识来解读AI输出、确保遵循伦理标准，并持续优化AI系统，使其与企业及社会价值观保持一致。
在创新与负责任的AI之间取得平衡
归根结底，企业领导者有责任推动负责任的创新，确保这一颠覆性技术不因监管而受阻，并以对企业和整个社会都有净效益的方式加以应用。
我们如何部署AI，将体现我们作为企业的价值观。撇开法律不谈，负责任AI的核心在于审慎权衡诸多取舍，在创造价值的同时规避风险并保护声誉资本。若我们以透明的方式推进此事，让员工参与其中，并对员工进行培训，使其与我们一同走好这一历程，我们便将在确保AI造福人类方面发挥至关重要的作用。
