上周，新近宣布成立的英国政府数据伦理与创新中心发布了一项公开征询意见。该中心呼吁制定指导方针，不仅规范私营部门的数据使用和技术开发，也规范公共部门对人工智能（AI）的应用，包括“精准识别最需要帮助的人群并向其提供公共服务，以及更有效地分配公共资源”。
英国并非唯一一个寻求提升人工智能能力、以用于公共服务提供和政策制定的国家。人们普遍认为，最具备人工智能应用准备度的政府分布在欧洲、大洋洲、美洲和中东。这些政府依赖与科技行业建立牢固关系；随着科技巨头意识到人工智能商业机遇的全球规模，而政府继续依赖外部技术专长，这一趋势可能会加剧。各国政府也开始将初创企业视为公共部门人工智能解决方案的潜在提供者，由国家支持的“GovTech”（政府科技）基金和竞赛则助力该领域发展。
尽管公私部门合作开发人工智能有诸多潜在益处，但双方的关系从一开始就很复杂。政府的首要职责是服务公民。相比之下，私营企业的首要责任是对股东负责。这些优先事项可能发生冲突——这并非新问题，但随着全球政府科技市场估值逼近万亿美元，其影响可能会扩大。谁来保护和控制公民数据？谁又能获取从这些数据中提取洞见所产生的经济价值？这些问题的答案对政府的合法性至关重要，尤其是在公私合作历来兼具腐败温床和裙带资本主义滋生地特征的地区。
世界各地以公民为中心的政府必须确保具备足够的内部技术知识，从而成为知情且有要求的客户。如今，政府比以往任何时候都更需要能够胜任“翻译”工作的专业人才，在政府技术和政策制定两方面之间，以及科技企业与国家之间，跨越不同的语言、文化、优先事项和目标进行沟通协调。
随着科技企业在全球不同政治文化中以不同步调日益参与政府人工智能开发，我们向国际政策制定者和专家小组提出了这个问题：“私营部门在开发政府人工智能时应发挥什么作用，又应受到哪些限制？”
剑桥大学贝内特公共政策研究所塔尼娅·菲勒博士
“大型组织和政府应对这种颠覆性变革的能力不足。”
过去几个月里，世界各国政府纷纷宣布或升级数字战略，并常常增设人工智能章节。法国、英国、美国、俄罗斯和中国都明确表示有意在这一领域发挥领导作用，但做法往往大不相同。与传统政策制定过程相比，此事的特别之处在于，政府与颠覆性技术格格不入——面对高度分布式技术时更是如此。大多数关键进展都是开源的（发布在 GitHub 和 TensorFlow 上），这只是政府必须应对的诸多复杂问题之一。大型组织和政府应对这种颠覆性变革的能力不足。政府开展的颠覆性项目往往结局不佳，DARPA 和极少数其他案例除外。
那么，国家应如何运用数字技术和人工智能，获得它们带来的生产力提升？第一，应关注原则，而非交付细节。政府应尊重公民并向其提供公共服务，而不是把公民当作消费者；第二，应积极将工作分包给私营部门，以提升项目和运营管理方面的专业能力；第三，公共服务的委托必须受到严格监管，并切实执行相关规定；如有可能，应通过具有域外效力的区域性协议（如 GDPR）来落实。若能做到这些，政府或许能成为二十一世纪的机构；否则就可能逐渐过时，被自身难以控制的私营机构逐步取代。
吉尔·巴比内是法国驻欧盟委员会数字事务代表。
“未来与私营部门的关系应是真正的伙伴关系，而非顺从屈从。”
公共部门是时候掌握自己的数字化发展方向了。自20世纪80年代以来，历届政府一直依赖私营部门推动数字创新，结果是信息技术合同僵化且成本高昂、用户体验糟糕，内部专业能力也不断流失。自2010年代以来，政府数字服务局（GDS）在中央政府层面部分扭转了这一趋势，但地方政府和英国国家医疗服务体系（NHS）的大部分部门仍依赖少数供应商。
政府的人工智能重大挑战计划有可能延续一种观念：只有私营部门才能创新并推动经济增长。政府的作用似乎仅限于刺激投资和适度改善数字基础设施。然而，正如经济学家玛丽安娜·马祖卡托所指出的，国家投资和研究推动了令人瞩目的技术发展：GPS、触摸屏、搜索算法和互联网都在很大程度上得益于国家的扶持。
国家应在人工智能的未来发展中发挥主导作用，未来与私营部门的关系应建立在真正的伙伴关系之上，而非顺从屈从。三项政策调整会有所帮助。第一，应在政府核心部门建设人工智能能力。应资助人工智能研究人员并将其派驻政府部门，同时为高级政策制定者提供人工智能培训。第二，国家应通过研发投资和资金支持，引导人工智能初创企业聚焦公共服务核心问题（如急诊、社会照护等）。公共服务具有普遍性，这意味着从私营部门照搬的“复制迁移”模式只能发挥有限作用，而且往往只关注“服务成本低”的业务，最终将代价高昂的“边缘案例”留给国家处理。新设立的人工智能办公室可以协调各政府部门提出的“应用案例”需求。最后，国家应最大限度地利用自身数字资产。没有理由让公共服务产生的、内容丰富且适合机器学习的数据集免费供人工智能公司访问。对于获得国家关键支持的初创企业，国家应考虑持有其股权。例如，牛津大学医院最近以500万英镑入股德雷森科技。
政府优先发展合乎伦理的人工智能是正确的，也需要建立规范政府与私营部门关系的框架；数据保护和控制问题必须得到解决。如果公民知道自己的数据将带来公共利益，例如帮助找到治疗自己或亲人所患疾病的方法，他们就更可能支持使用自己的数据。
安东尼奥·韦斯是2020 Delivery公司的董事。该咨询公司专门为英国公共服务机构提供数字化转型建议。2020 Delivery 与他方共同主办了“机器人何时会接管英国公共服务？”活动，时间为6月21日。
“墨西哥新政府必须制定一项全面的国家人工智能政策，以释放墨西哥的经济潜力并促进包容性社会发展。”
全球南方没有比这里更适合证明人工智能在减贫和减少不平等方面推动社会变革的潜力。然而，这些地区的国家和地方政府必须认识到投资人工智能、制定全面人工智能政策的紧迫性；这些政策应考虑伦理约束，并确保所有人共享其益处。
墨西哥是这一领域引领变革的新兴经济体之一。过去几年，其政府在开放数据政策和数字基础设施方面取得了长足进展，这两者是制定有效人工智能政策的关键基础。墨西哥最近还发布了2018年国家人工智能战略，成为最早制定此类战略的十个国家之一。民间社会、产业界和学术界也在推动重要变革，通过新近成立的人工智能联盟 AI2030，为有效的跨部门合作奠定基础。该联盟旨在帮助制定国家人工智能长期议程，并将伦理和行业共同负责作为核心组成部分。此外，哈利斯科州和墨西哥城等地方政府也在推动讨论和行动，并帮助加快当地数据与人工智能生态系统的发展。
毫无疑问，墨西哥正朝着正确方向前进；然而，要确保人工智能真正带来社会效益和包容性经济影响，仍有许多挑战需要应对。将于2018年7月选出的墨西哥新政府，必须制定一项全面的国家人工智能政策，以释放墨西哥的经济潜力并促进包容性社会发展。除其他关键行动外，新政府还需继续努力弥合数字技能差距，将数字议程列为优先事项，投资数字基础设施，持续确保发布高质量开放数据，并建立国家人工智能中心，以鼓励学术界与产业界合作、确定最具潜力的领域，并助力最优产品商业化。如果在国家和地方层面妥善运用，人工智能可以成为改善墨西哥收入最低的80%公民所享公共服务的重要工具。
康斯坦萨·戈麦斯·蒙特是《迈向墨西哥国家人工智能战略》一文的合著者（可从www.cminds.co/ai下载），也是 C Minds 的创始人兼首席执行官。
“鉴于该领域对专家的需求很高，政府中的许多、甚至大多数机器学习系统都将由私营部门开发和维护。”
当我们开始在政府中使用“人工智能”时，需要牢记一个显而易见的事实：治理从根本上说是一种规范性活动。政府所做的许多事情，并不存在一种“客观正确”的方式。当然，这一点一直如此。新变化在于，使用算法时，我们不得不把这些价值判断转化为代码。
鉴于该领域对专家的需求很高，政府中的许多、甚至大多数机器学习系统都将由私营部门开发和维护。然而，我们尚未建立相应机制，来监督和控制企业在构建人工智能系统时如何将此类价值判断编码进去。有时，人们甚至不太意识到这些价值判断从一开始就存在。
政府必须承担责任，确保我们在构建机器学习系统时作出的规范性选择，是经过深思熟虑且正当合理的，而非武断或无人负责的选择。
以 COMPAS 再犯风险算法为例。该算法会计算一个分数，表示被告再次犯罪的可能性，并用于辅助法官作出决定。开发公司在算法中植入了一种特定的公平观念，因此黑人和白人被告的真阳性率相同。然而，黑人被告的假阳性率却是白人被告的两倍。
在我们的研究中，我们既采访了开发这一算法的数据科学家，也采访了依赖其结果的人。COMPAS 的问题不只是它编码了一种特定且可能存在问题的公平观念。这类选择不可避免；卫生访视员、社会工作者、教师和公务员也一直在作出类似判断。
问题在于，依赖算法结果的法官和假释官并不太了解算法采用了这种特定的公平观念。另一个问题是，开发该算法的私营部门数据科学家没有意识到，他们正在把某些规范性观点植入算法。
在人类决策方面，随着时间推移，我们部分通过反复试错建立了治理机制，使人们能够审视决策背后的价值判断、提出申诉并促成改变。即使这些机制并不完美，至少它们确实存在。
政府中的“人工智能”系统也需要同样的机制。除非我们建立这些控制机制，并确保公民认为其正当合法，否则人工智能在政府领域的巨大前景就无法实现。
丹尼·布尔克利是公共影响力中心的项目主任。
