人工智能正在变革各行各业，推动了对创新解决方案和专业人才的需求增长，以满足治理需求。
面对不断涌现且持续变化的监管动态，人工智能系统的自我治理需要组织和技术两方面的管控。
人工智能的前进道路是开放和协作的，同时需要通过自动化实现规模化的负责任应用。
随着各界领导者认识到这项技术在提高生产力、增强创造力、提升质量和产生新解决方案方面的潜力，人工智能（AI）正在全面变革各行各业。这使得对AI的需求激增，尤其是对生成式AI。
释放价值生成式AI通过负责任的转型可以成为改变游戏规则的力量。生成式AI的应用场景遍布各个行业，从为家具行业激发新设计、实现个性化营销，到加速制药行业的药物研发。
然而，除了AI的潜在价值，领导者还担心其风险，包括偏见、安全、保障以及一旦出现问题可能导致的声誉损失。
许多领导者也认识到，降低这些风险可以带来竞争优势，并从根本上促进组织的成功。因此，以合乎伦理和负责任的方式采用该技术已成为关键考量，这推动了AI治理的快速兴起和应用。
AI监管已经到来并持续扩展
AI已受到适用法规的约束，这些法规的关注点不仅限于技术本身。例如，法律关注隐私、反歧视、责任和产品安全。此外，针对AI的监管活动也在不断扩大。
2024年，《欧盟人工智能法案》（即欧盟AI法案）经过多年的讨论和期待，终于通过立法。与《通用数据保护条例》（GDPR）一样，我们预计它将影响世界其他地区的许多类似法律。
全球政策制定者都在讨论AI，被提及在立法程序中的提及频率在2023年是2022年的两倍。在某些情况下，监管活动明确聚焦于生成式AI，例如中国《生成式人工智能服务管理暂行办法》。
与AI相关的标准制定活动和跨辖区合作也有所增加，例如经济合作与发展组织（OECD）、美国国家标准与技术研究院（NIST）、联合国教育、科学及文化组织（UNESCO）、国际标准化组织（ISO）和七国集团（G7）推动的相关倡议。
2024年，随着新AI安全研究所的成立，以及美国、英国、新加坡和日本的研究所推动相关工作的扩展，AI安全受到更多关注。此外，新设立的欧盟AI办公室（依据欧盟AI法案设立）将专注于制定最佳实践。
随着政策制定者努力应对如何管理AI风险的问题，可以预见，在可预见的未来，AI法规和标准在数量和种类上的增长将持续下去。关于可互操作标准和基础监管要求的国际协议，将在促进创新和提升AI安全方面发挥重要作用。
AI自我治理需要组织和技术两方面的管控
许多组织选择采用自我治理方法，以进一步使其行为与组织价值观保持一致，并树立卓越声誉。
事实上，落实组织的原则通常需要满足超出监管要求的伦理标准。组织可能会选择利用自愿性方法和框架，例如美国NIST的《AI风险管理框架》、新加坡的AI Verify框架和工具包，以及英国AI安全研究所开源的InspectAI安全测试平台。
AI系统的自我治理将涉及组织管控，并且越来越多地涉及自动化技术管控。AI需要健全的组织管理体系，其中的管控措施应类似于ISO/IEC 42001国际标准中所描述的措施。
技术管控与社会技术系统同样重要。自动化通常可以提供帮助，例如通过以下方式实现自动化：AI红队测试（一种对AI模型进行结构化测试，以识别问题并帮助防范有害行为或后果的方法）、元数据识别、日志记录、监控和告警。
随着技术达到需要实时管控的速度和智能水平，自动化将成为必需。此外，随着统一标准和AI安全技术管控的推进，许多组织将会采纳这些措施。
人与AI的协作仍将十分重要。例如，IBM通过其AI伦理委员会和综合治理计划落实组织管控，并提供解决方案，帮助客户实施组织和技术管控，例如watsonx.governance。
对熟练AI专业人才的需求日益增长
随着AI治理市场持续快速扩张，能够落实负责任的组织和技术管控的熟练AI专业人才将需求旺盛。
竞争格局将涵盖现有科技领导者，以及几乎完全专注于AI治理解决方案的新创企业，例如AI资产清单管理、政策管理和报告。
市场将不断演进，以支持事件管理、红队测试、合规性评估、透明度报告和技术文档等专业领域。随着这一进程的推进，受过培训的AI治理专业人才数量也需要增长以提供支持。
这些专业人员需要接受培训，以完成满足市场需求的特定任务，包括法规要求的任务。教育和认证项目将发挥关键作用。事实上，我们已经看到出现了新的认证选项，例如国际隐私专业人员协会的人工智能治理专业人员认证。
虽然培训专业人员以及更广泛地落实AI伦理和治理实践会产生成本，但不这样做的成本可能更高。
组织可以采用全面的方法来评估投资回报，不仅考察传统回报，还考察通过声誉影响获得的回报以及建立新组织能力的可能性。
领导者应确保从价值创造的角度看待AI治理，而不仅仅将其视为规避风险。
前进的道路是开放和协作的
AI正在改变并推动人们的工作和生活方式，为个人、组织和社会带来前所未有的益处。
要规模化应用AI，需要熟练的人才，并且通常还需要自动化来支持负责任的应用。这些专业人员还可以支持日益增长的有效合规与自我治理需求。
世界经济论坛如何为人工智能建立护栏？
AI卓越中心连接各行业领导者，帮助他们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕AI应用相关的机遇、风险和权衡取舍展开知情对话。
通过可信平台和协作倡议，该中心使合作伙伴能够建立共同理解，并携手推进AI创新与应用的负责任方法。
尽管企业目前正在发现使用AI的令人振奋的新方式，但随着AI与量子计算、机器人、生物技术和神经技术等其他技术的融合，未来将蕴含更大的前景。
在此背景下，开放技术以及与多元利益相关方的协作将至关重要。随着AI变革各行各业，AI治理是释放这项技术全部价值的关键推动因素。
