人工智能(AI)可以帮助政府应对新冠疫情。
这场疫情表明,政府主动塑造人工智能技术的开发与部署至关重要,以确保其具备问责机制并符合伦理规范。
政府可以利用公共采购支持人工智能创新和经济增长,同时制定适当的标准和法规。
乌尔苏拉·冯德莱恩于2019年当选欧盟委员会主席时,提出了协调一致的欧洲方案,以应对人工智能(AI)带来的人文与伦理影响。
当时,人们设想了许多可能情景:制定类似《通用数据保护条例》(GDPR)的严格人工智能立法;禁止在公共场所使用面部识别技术,如旧金山的禁令;以及在公共部门采用创新的人工智能部署方式,类似于加拿大的《自动化决策指令》。
如今,针对欧盟委员会白皮书的公众咨询恰逢新冠疫情。人工智能或可助力应对疫情,正如联合国全球脉动计划所指出的。人工智能的准确度可媲美人类,能节省放射科医生的时间,并以比标准检测更快、更低廉的方式诊断新冠肺炎。例如,BenevolentAI这家英国初创企业仅用90分钟,就发现一种已获批准的药物可能用于治疗新冠肺炎。
这些进展令人鼓舞,但也引发了关于如何实现人工智能问责制与合乎伦理的部署等问题。由于这场讨论至关重要,不能只交由业界负责,因此政府主动塑造人工智能技术的开发与部署十分重要。
政府进行充分且积极主动的监管至关重要。但政策制定者如何设计监管措施,在通过限制和规定来降低风险的同时,又能支持开放与创新?更重要的是,随着技术成熟,监管如何保持灵活?这些要求迫切需要我们重新思考政府的监管方式,尤其是政府如何运用监管权力来塑造人工智能的未来。
敏捷治理原则可以发挥作用。这些原则包括协作、以数据为依据作出决策,以及灵活且包容的监管理念,有助于政府把握行业和市场动态,及时跟进新进展。
政府应对这些挑战的一个机会,是以敏捷方式开展公共采购。仅在欧盟,超过25万个公共机构每年在外部服务、工程和物资上支出约2万亿欧元,其中用于软件、云存储和IT支持的支出持续增长。政府若有意识地运用这种商业力量和公共采购,不仅可以支持人工智能创新与经济增长,还能制定标准,向市场释放信号。
为推动创新与经济增长,政府可以考虑采用新的采购方式,推动市场创新。
例如,灵活的市场准入途径和招标邀请可以让政府聚焦于要解决的挑战,而非详细规定技术规格。人工智能专用招标模板、合同示范条款,以及特定采购框架(如基于挑战的采购,例如英国GovTech Catalyst计划)都能提供支持。
另一种思路是有系统地接触规模较小或成立时间较短的企业,因为它们可能缺乏适当的激励或组织能力,难以响应公共招标。它们面临的挑战包括招标流程漫长、付款延迟,以及不了解公共部门提供的机会。然而,市场变化迅速,将这些参与者纳入公共讨论将会有所助益。政府可以通过“展示交流”活动和共享办公空间等方式接触初创企业。这有助于确保公共采购流程不会妨碍年轻、小型的创新企业成为公共部门的供应商。
积极且具有战略性的公共招标设计,也为政府提供了一个机会:利用公共采购作为杠杆,促进合乎伦理且具备问责机制的人工智能发展。
将问责制和伦理原则融入采购周期,能让政府运用采购能力,在实践中有效落实这些原则。例如,政府可以预先批准符合伦理标准的供应商,类似于加拿大人工智能供应商名单;也可以要求采用可解释人工智能的最佳实践。评估中可纳入可解释性评分。此外,人工智能系统和人工智能影响评估(例如AINow所描述的评估)也应纳入采购文件。
世界经济论坛正在采取哪些行动应对第四次工业革命?
前沿技术与创新中心汇聚科学家、政策制定者和商界领袖,共同理解新兴技术及其对现实世界的影响。
中心通过促进协作与试验,帮助合作伙伴将研究创新转化为实际应用,以应对共同的全球挑战。
欧盟委员会白皮书强调公共行政部门负责任且具有前瞻性地采用人工智能的重要性,并提及围绕公共采购开展对话。不过,白皮书并未详细说明改革公共采购流程的目标,也未阐明如何实施这项改革。公众咨询将于6月14日结束,届时欧盟委员会将最终确定人工智能监管方案。
因此,委员会应对人工智能技术复杂需求时,除了采纳敏捷原则,也应启动重新思考传统公共采购方式的进程。如今,各国政府应超越原则层面对人工智能的讨论,采取切实可行的解决方案,在降低风险的同时促进人工智能的应用。
世界经济论坛人工智能与机器学习平台推出的“一站式人工智能采购工具包概述了人工智能采购的最佳实践,并提供支持政府团队落实这些实践的工具。





