算法治理涵盖嵌入人工智能技术中的算法的构建与使用规则和实践。
它确保算法正常运行，并防范诸如技术歧视或违反法律等任何错误。
我们概述了组织可采用的不同算法治理模式。
2023年6月，欧洲议会就一项法律文书进行了表决，旨在根据人工智能（AI）对公民基本权利的风险等级，规范其设计与使用。无论是消费者还是AI设计者，公共和私营利益相关方都必须建立算法治理，以确保其活动合规，最重要的是避免造成伤害——即使只是少数用户——并最大限度降低与算法丑闻相关的声誉风险，此类丑闻如近年来频频出现。
这样一来，OpenAI本可以在逐步推出其对话式智能体ChatGPT及其GPT算法的同时，预见到与对其进行的大规模挪用相关的风险，以及回答中的错误与近似之处和用户对该工具的误解。利益相关方必须通过伦理规则以及设计和使用这些算法的实践来建立算法治理，并采用既严谨又务实的方法，以便其能够得到有效且可衡量的应用。
什么是算法治理？（及其不是什么）
算法治理涵盖嵌入针对特定用例设计的人工智能技术中的算法的构建与使用规则和实践。它不仅仅是一份章程或一套伦理原则，而是基于为确保相关算法正常运行并防范诸如技术歧视或违反法律等任何错误所应采取的全部措施。它类似于法律，若要得到适用并在任何时候都评估其合规性，就必须有司法体系予以配套。
算法治理必须具有多学科性，并且具有横向贯通性，与若干学科（如社会学、政治学和人类学）相结合。它必须将项目中的各利益相关方（包括最终用户）联系起来，并纳入其对该技术及算法科学总体的理解水平，以及其就相关算法所享有的权利、承担的义务和职责。
算法治理还必须同时支持两种方法：历史上的自上而下方法，即由指导委员会或项目经理灌输并强制执行最佳实践及其应用；以及自下而上方法，即使公司每位员工或最终用户能够直接（通过切实、实际地参与项目）或间接（例如收集用户反馈）为项目的顺利运行作出贡献：从启动、开发直至部署。
最后，治理的实施与评估必须保持足够透明，以便所有参与算法设计、采购或使用项目的利益相关方都能理解。这里需要强调，对算法所编写的源代码实施无条件透明，不应成为免除算法治理义务的理由。实践中，所考虑的任何透明度都应涵盖源代码、所使用的全部数据集以及算法训练所采用的标准。在某些情况下，这可能只会让企业的知识产权向公众公开，从而阻碍创新。治理中的透明度必须无条件强制实施。
算法治理模式
除其可信AI伦理章程外，很少有利益相关方建立或公开其算法治理模式。过去的一些尝试并不成功，例如谷歌的AI伦理委员会于2019年终止，或微软于2017年推出的首份AI章程，其并未得到广泛采纳。此外，与数据或更广泛的AI伦理重要性相关的学术研究相比，阐述可直接使用的算法治理模式的学术研究数量有限。
然而，对这些利益相关方而言，在立法辩论之前采取行动至关重要。走在法律之前有诸多优势：预判新技术的伦理影响、避免代价高昂的诉讼、规避声誉陷阱、增强利益相关方信心、通过提升吸引力实现与竞争对手的差异化，以及与欧洲立法机构发挥积极作用。
应采用哪种算法治理模式？
并不存在单一模式，而是存在多种模式，可根据行业、企业及其目标以及算法项目类型进行调整。尽管如此，仍应采用一种通用结构来奠定自身治理的基础。该结构应涵盖设计或采购算法项目的多个阶段：从包括界定待解决业务问题在内的构思阶段，到包括收集最终用户反馈在内的使用阶段。
该结构还应涵盖业务与技术规格阶段，包括与硬件制造所需原材料开采相关的环境问题，以及训练和运行算法所涉及的计算能力（进而涉及能源消耗）。它还必须涵盖数据收集阶段，包括将要开展的任何抽样和代表性测试、计算机编程与算法训练、算法的验证与部署，以及算法投入使用后（有时已被数百万人使用）对其进行的测试。此外，还应包括对利益相关方（包括业务人员和终端用户）技术理解水平的评估与提升。
世界经济论坛如何为人工智能建立防护机制？
AI卓越中心连接跨行业领导者，帮助他们理解人工智能的快速演进及其对经济和社会的影响。它支持就AI应用相关的机遇、风险和权衡取舍开展知情对话。
通过值得信赖的空间和协作倡议，该中心使合作伙伴能够建立共同理解，并携手推进负责任的AI创新与应用方法。
在治理流程推进过程中，必须计算风险评分，以评估与该算法相关的科学、技术、伦理及声誉风险。在拟定算法治理所依据的结构时，应起草章程和良好实践原则，以补充需要解决的与项目相关的问题和事项。内部或外部伦理委员会的存在有助于确保治理流程顺利进行。
可解释性计算，即用于控制或提取算法运行逻辑的统计方法，必须在自动训练之前（即针对数据集）、训练期间和训练之后系统性地应用。这些计算能够降低算法的不透明性，并控制其输出结果及其变异性，从而显著降低错误、缺陷或算法偏见的风险，而这些正是技术歧视的根源。以此方式，本可防止早期人脸识别算法产生肤色偏见，或防止Apple Card应用程序中的高盛算法向女性提供的信贷额度远低于男性。
从何开始？
企业必须确定一个涉及算法技术的用例，以满足其某一具体业务需求。技术团队与业务团队必须共同确定算法治理各阶段的形式，并为每个阶段界定需提出的问题、需采取的行动及需开展的测试。此外，团队必须决定如何计算算法的风险评分以及治理成功指标。随后，将这一初始治理方案应用于该用例，再应用于若干其他用例，以检验其能否规模化推广。
最后，团队须采用迭代式敏捷方法，在组织内部推行治理的同时对其进行调整。通过这种方式，企业将设计出具有包容性、尊重公民与环境的算法。通过公开沟通与分享其治理方案，企业还将为相关且可持续的算法立法工作贡献力量，助力起草下一批相关且可持续的算法法律。
