城市正在评估生成式人工智能的前景。但首先,它们必须确立基本规则

undefined
本内容由人工智能自动翻译。
  • 在100名市长和市政工作人员中,有96人表示有兴趣探索生成式人工智能(GenAI)的可能应用,而非积极加以实施。

  • 这一探索阶段为了解GenAI的最佳用例和风险提供了机会。

  • 初步的整体审视显示,北美和欧洲的若干城市正在制定GenAI政策,涵盖基础性的技术治理议题。

生成式人工智能(GenAI)技术的应用——其涉及利用数据、算法和机器学习以生成新内容——正在个人和企业中迅速普及;政府也正通过将GenAI融入其运营而进入这一领域。GenAI市场预计将于2033年增长至2558亿美元,而2023年为135亿美元。

随着全球各城市认识到该技术的潜力,其中若干城市正在制定政策以规范其使用。这些政策的制定是应对新兴技术所带来的机遇与挑战的关键一步。从迪拜到加利福尼亚州的圣何塞,各城市正围绕伦理考量、透明度和问责制探索人工智能及GenAI治理。这些总体框架代表了持续推进的GenAI政策与程序制定和完善工作的初始阶段,旨在促进在公共行政和服务中负责任地使用GenAI能力。

沙特阿拉伯在将GenAI融入公共服务之前率先确立伦理框架,旨在负责任地利用人工智能造福社区,并与其成为全球人工智能领导者的“2030愿景”目标保持一致。这与以人为本的智慧城市原则相契合,确保技术提升生活质量并促进包容性。

Basma AlBuharian,管理总监,沙特阿拉伯第四次工业革命中心

GenAI的现状

各城市似乎正处于采用GenAI的探索阶段。2023年,彭博慈善基金会(Bloomberg Philanthropies)对100名市长和市政工作人员进行了调查,以了解他们对该技术的看法。全球各地的城市领导者均表示有兴趣利用该技术,69%的城市正在探索或测试GenAI的功能。

这些城市官员尤其关注如何借助GenAI增强市民参与、推动数据驱动的政策制定、优化服务与资源配置,以及简化行政流程和沟通。此外,他们还关注如何借助GenAI提升城市服务与效率,尤其是在交通与运输、基础设施、公共安全、环境问题、教育及行政事务等领域。

全球各地的市政管理部门需要对生成式人工智能的需求诊断、采购、整合与评估采取严谨的方法。这也是城市与非营利、慈善和企业部门开展合作的新兴领域。

Neil Britto,Intersector Project,阿斯彭研究所

然而,兴趣与实施之间似乎存在差距。尽管96%的市长对使用GenAI感兴趣,但许多城市尚未就此制定全面的政策,而仅有2%的城市正在积极采用该技术。采用GenAI的城市正在指定GenAI负责人、制定高层指导方针,并为员工提供培训。

二十国集团全球智慧城市联盟(G20 Global Smart Cities Alliance)于2024年初对GenAI城市政策进行的初步审查二十国集团全球智慧城市联盟表明,部分城市(主要来自北美和欧洲)正在采取早期步骤,为该技术的治理制定政策和指导方针。

GenAI为通过优化城市服务和推动数据驱动的决策来提升社区生活质量提供了变革性机遇。城市必须制定稳健的政策,确保合乎伦理且透明地使用该技术,同时不应犹豫,而应审慎且有目的地借助这项革命性技术推动积极的社区影响。

Mike Lake,首席执行官,Leading Cities

这些指导方针的共同原则包括优先考虑安全、透明度、隐私和问责制等伦理考量。指导方针强调决策过程中透明度的必要性、负责任的数据使用以及对个人权利的保护。此外,各方普遍认识到GenAI对市民的潜在影响,并认为在部署这些技术时维护公平性、包容性和人工监督至关重要。

以下列举几个示例:

• 华盛顿州西雅图市制定了一项政策,旨在明确市政部门在采购和使用符合GenAI定义的软件时必须遵循的要求。

• 加利福尼亚州圣何塞市制定了一项指导方针,为用户(如员工、承包商和志愿者)在为市政工作使用GenAI时设定基本规则。除技术使用须遵守《公共记录法》外,该措施还规定了使用GenAI的原则,涉及版权和内容所有权,并要求用户在使用时注明人工智能来源,并了解相关风险。

• 鉴于对GenAI的影响和使用存在担忧,马萨诸塞州波士顿市已出台一项临时政策,供员工在使用此类工具时参考。

• 阿姆斯特丹等城市和赫尔辛基等城市已建立登记制度,以说明算法在提供服务中的使用方式;而纽约市已通过法律,要求企业披露与招聘相关的算法。地方政府对GenAI的治理尚属新鲜事物——许多正在探索的伦理与负责任原则和实践,都与技术治理的基本关切相契合。

制定负责任的GenAI治理政策,对于开发值得信赖、能为社会带来最大价值的产品和服务至关重要。世界经济论坛的

AI治理联盟持续引领人工智能治理,推动就全球最佳实践达成共识,并确保技术治理有助于提升社会福祉。利益相关方还可参考“AI采购工具包”,重新思考其获取人工智能的方式,并做出负责任的采购决策。超越GenAI热潮

城市对GenAI的探索与采用仍处于起步阶段,其影响尚有待全面理解。全球各城市正面临诸多社会、环境和经济挑战。当技术被恰当使用,并被证明是正确且最佳可用的解决方案时,它可以成为应对这些挑战的有力工具。

GenAI是赋能市民和劳动力的新兴力量,我们对其的集体理解越深入,所释放的潜力就越大。但要让其为我们今日所用,我们必须超越早期阶段的投机迷雾,专注于实现变革性成效与效率的解决方案,并满足社区对政府所期望的严格的安全、可及性和绩效管理标准。

Justin Herman,副总裁,全球公共部门,ServiceNow

将无偏见的大型数据集与机器学习及其他技术能力相结合,其潜力可为社会、政府和企业带来重大益处。然而,只有在充分考虑并应对短期和长期的风险与意外后果,并通过旨在将危害降至最低的治理框架加以解决的情况下,这一潜力才能实现。此外,为城市找到具有成本效益且切实可行的用例和经验,对于成功采用至关重要。

正如Gartner所示,

沙特阿拉伯利雅得,2024年4月 - 开放论坛:破解智慧城市密码 - 英文版
沙特阿拉伯利雅得,2024年4月 - 开放论坛:破解智慧城市密码 - 英文版
55:07

,GenAI似乎正处于炒作周期的顶峰,需要数年时间才能抵达可观察到真正采用的“生产力平台期”。这为理解该技术在地方政府中的潜力提供了机遇:尽早全面确定障碍与风险,明确GenAI何时适用、何时不适用于城市挑战,并思考可长期持续且能应对复杂性的恰当而灵活的解决方案。GenAI正处于炒作周期的顶峰,导致人们对其在现实世界中的适用性存在不确定性。

GartnerImage: 各城市在确定GenAI的真正潜力方面已遇到若干障碍,包括不清楚其可在何处产生实际效果。

市长和市政工作人员也在查明该技术采用的障碍,包括缺乏技术专长、政策与意识不足、预算限制、数据隐私和安全问题、可获得的充足基础设施有限,以及缺乏用例。这些挑战凸显了制定全面战略的必要性,以应对将GenAI融入城市运营与服务所涉及的复杂性与风险。展望未来,城市GenAI政策的发展方向在于建立兼顾创新与伦理考量的全面框架。随着城市持续应对GenAI治理的复杂性,政策制定者必须与专家、利益相关方和公众开展持续对话,以确保GenAI政策反映其所服务社区的价值观和需求。

世界经济论坛如何支持全球城市与社区的发展?

城市转型中心

将城市领导者、企业和政府联系起来,共同理解塑造城市未来的挑战与机遇。通过同伴学习与合作,该中心使各城市能够交流见解,并将共同理解转化为切实可行、具有韧性的城市解决方案。

了解该中心的工作

城市必须优先制定GenAI政策,不仅要解决该技术实施中的技术层面问题,还要应对在城市环境中部署此类技术所带来的伦理、法律和社会影响。这需要营造负责任使用GenAI的文化,确保系统透明、可问责,并与社会价值观保持一致。城市还应注重在行政部门内部建立技术专长,并与学术界、产业界和民间社会建立伙伴关系。

城市正在评估生成式人工智能的前景。但首先,它们必须确立基本规则

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。