2022年，全球人工智能（AI）市场估值约为1200亿美元；预测显示，到2030年该市场规模将达到1.6万亿美元。
作为一项两用技术，人工智能带来了深远的经济和社会效益，也带来了政府或企业不能忽视的挑战。
组织需要实施能够建立信任和信心的人工智能治理模式。
如今，人工智能（AI）技术已渗透到我们生活的大多数领域，从无人驾驶汽车、金融到医疗解决方案。2022年，IBM发现，35%的企业已在其运营中使用人工智能，而42%的企业表示正在探索使用人工智能。
此外，Gartner预测，到2025年，超过30%的新药物和新材料将借助生成式人工智能技术被发现。
人工智能在各行业的兴起也体现在其预计的市场增长上。2022年，全球人工智能市场估值约为1200亿美元；预测显示，到2030年其市场规模将达到近1.6万亿美元。
尽管人工智能技术具有诸多有助于推动社会进步的益处，但作为一项两用技术，它也带来了深远的经济和社会颠覆，可能影响我们的隐私、安全和福祉，因此政府、私营部门或个人都不能对此视而不见。
为了放大人工智能的益处并降低其相关风险，近年来，公共和私营组织已制定治理框架，旨在指导合乎伦理、公平且值得信赖的人工智能的开发与实施。
可信人工智能治理
例如，经济合作与发展组织（OECD）于2019年5月通过的《人工智能理事会建议》确立了政府、组织和个人应落实的、负责任地管理可信人工智能的五项关键原则。如今，这些原则已成为国际标准和国家人工智能立法的参考框架。
国际和区域层面在人工智能治理方面的其他努力还包括联合国教科文组织的《人工智能伦理建议书》、欧洲委员会基于其有关人权、民主和法治标准提出的人工智能法律框架提案，以及一系列界定欧盟人工智能路径的文件。例如，欧盟的《人工智能法案》提出了可信人工智能的法律框架。
在国家层面，各国政府已制定人工智能战略，其中除其他内容外，还概述了实现可信和安全人工智能的方法。
从私营部门来看，包括谷歌和微软在内的多家企业已制定了负责任地构建人工智能系统的治理工具和原则，并概述了如何确保避免该技术的意外后果的实际方法。
然而，尽管公共和私营部门开展了上述各类治理工作，研究表明，大多数组织尚未采取切实可行的措施，以确保可信和负责任的人工智能的开发与使用。例如，更超过70%的组织尚未采取必要步骤消除人工智能中的偏见，而估计有52%的组织无法在整个人工智能生命周期中保障数据隐私
从政策迈向实践
要推动可信人工智能从政策走向实践，组织应制定并实施清晰、结构化的计划，以指导人工智能治理框架的落实。这些计划尤其应当做到：
明确界定人工智能的目的。技术的目的将有助于确定其应处理哪些数据以做出决策和预测。人工智能系统所使用的数据必须是合法获取的，并与系统的目的相匹配。
识别并训练合适的算法，以实现预期结果。训练过程必须经过精心设计，避免引入人为偏见并陷入伦理陷阱。此外，还应引入监测机制，以确保算法有效学习。
在人工智能决策过程中考虑人机互动。决策需要越快做出，流程中设计人工互动的可能性就越小。然而，确保决策过程的开放性和透明度至关重要。
世界经济论坛如何确保人工智能的合乎伦理的发展？
作为一项超越行业和地域界限的技术，可信人工智能的开发与实施并非一人之力所能完成，因此需要研究人员、开发者、企业和政策制定者之间的协作。整个社会都有责任确保人工智能系统与社会价值观保持一致，并促进公共利益。
