人工智能治理联盟在运用人工智能和生成式人工智能的变革力量方面取得了重要里程碑。
作为世界经济论坛的一项旗舰倡议，联盟致力于推动人工智能负责任且合乎伦理的发展。
以下是对人工智能未来以及联盟首年工作的思考；联盟隶属于第四次工业革命中心。
人工智能治理联盟近期在跨领域运用人工智能和生成式人工智能变革力量的共同征程中，迎来了一个重要里程碑。
5月28日，人工智能治理联盟社区会议在旧金山举行，来自公共和私营部门、学术界及民间社会的118位领袖齐聚一堂，开展全天对话与工作，以推进联盟的愿景和目标。会议还庆祝了联盟自2023年6月成立以来充满活力、成果丰硕的一年。
继2023年负责任人工智能领导力峰会之后成立的人工智能治理联盟迅速发展壮大，如今汇聚了来自280多个组织的350多名成员。
作为世界经济论坛的一项旗舰倡议，并隶属于第四次工业革命中心，联盟致力于推动人工智能负责任且合乎伦理的发展。其使命是在人工智能领域促进透明度、包容性和问责制，确保技术进步惠及全球所有利益相关方。
构建可信赖的人工智能生态系统
自成立以来，联盟一直致力于为人工智能治理制定全球最佳实践。其早期工作与普雷西迪奥建议相关，这些建议为人工智能治理中的伦理使用和国际合作提供了指导方针。
2024年1月，联盟发布了首套简报系列，汇集各工作流的经验教训，为利益相关方制定协调一致的人工智能治理战略提供指引；相关内容也在5月的会议上进一步讨论。
人工智能治理社区会议的主要亮点如下：
1. 深入探讨包容性人工智能
近期会议的核心主题之一是包容性人工智能，这是联盟新设的重点领域，旨在确保人工智能技术以包容、公平的方式开发和部署。该倡议汇集各领域领袖，共同制定战略框架，应对人工智能带来的独特挑战和机遇。
活动讨论强调，应负责任地将人工智能融入社会框架，并关注伦理考量和可持续创新。联盟计划围绕这一议题开展思想引领工作，并将人工智能视为经济增长和快速发展的催化剂。
这项承诺还包括让全球各地都能使用人工智能，尤其是在发展中地区。作为一项新的工作流，它自然延续了联盟提升人工智能技术全球可及性的努力，并着重为发展中国家建立必要基础，助力其培育繁荣、可持续的人工智能生态系统。
2. 探索人工智能与其他前沿技术的融合
会议讨论的另一项重要探索领域，是人工智能与其他前沿技术的融合。本场讨论聚焦于发挥这些技术之间的协同效应，以推动创新并应对复杂的全球挑战。
与会者探讨了作为基础技术的人工智能如何通过提升医疗、农业和教育等行业的精准度与预测能力，推动这些领域发生变革。他们还考量了人工智能对社会和经济可能产生的影响，尤其是人工智能将如何与生物学、量子计算和机器人等新兴技术互动，形成推动经济与技术发展的新型飞轮。
3. 推进现有工作组的工作
会议还推动了联盟三项主要工作流的进展：
安全系统与技术工作组：该工作组将人工智能智能体定义为由上下文窗口、记忆、行动和自主性等组件构成的系统，由大型语言模型和多模态模型提供支持。工作组根据智能体的功能、物理或虚拟形态以及自主性对其进行分类。讨论还强调，应应对滥用和社会 disruption 等安全与治理挑战。工作组指出，明确的治理实践至关重要，包括透明度、与人类价值观保持一致、可验证的诚实以及事后审计。
韧性治理与监管工作组：该工作组强调，应通过国际合作并吸纳多元利益相关方参与，制定透明、包容且可问责的人工智能治理框架；相关方应涵盖不同领域、小型企业以及全球南方等地区。讨论围绕现行法律的缺口、确保人工智能问责的各方职责、披露机制，以及纳入多元观点对于有效治理和反馈机制的关键意义展开。确定的国际合作重点包括协调标准、加强数据保护、改善透明度和可及性，以及建立战略监督和敏捷治理机制，以应对多智能体系统监管等新兴议题。该工作组提议创建全球人工智能治理沙盒，以测试和完善这些框架，旨在协调标准并加强全球人工智能合作。
负责任应用与转型工作组：该工作组阐述了人工智能在各行业的变革潜力，以及组织如何需要采用以人为本的人工智能文化，才能在人工智能时代生存并蓬勃发展。讨论促使与会者认识到，随着人工智能预计将颠覆现有价值链并创造新的商业模式，必须着眼长远并采取前瞻性方法。会议最后着重指出，在技术成熟度不断演变、监管环境持续变化之际，各行业需要实行自我治理。
人工智能治理的未来方向
展望未来，人工智能治理联盟将继续致力于构建包容、负责任、可持续且可信赖的人工智能生态系统，使全球利益相关方受益。随着使命持续推进，联盟诚邀所有希望参与这项重要事业的人加入。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心汇聚各领域领袖，共同理解人工智能的快速发展及其对经济和社会的影响。该中心支持围绕人工智能应用相关机遇、风险和权衡开展知情对话。
通过可信赖的交流空间和协作倡议，该中心助力合作伙伴建立共同认识，并携手探索负责任的人工智能创新与应用方式。
即将举行的活动包括今年10月在卢旺达举办的非洲人工智能峰会，以及2025年1月在达沃斯举行的世界经济论坛年会。此外，未来还将发布多份出版物，包括预计于秋季推出的治理与监管报告以及人工智能智能体报告，随后于1月发布人工智能与产业相关出版物，以及人工智能发展的区域蓝图。
积极参与至关重要，这有助于确保人工智能的开发和部署遵循最高伦理与公平标准，并最终营造一个造福全球社会的技术环境。
