各国政府正越来越多地采购人工智能系统，但需要负责任的采购实践，以考量社会风险与机遇。
现有资源包括来自AI Now、英国政府和美国管理和预算局等机构的通用指南、有针对性的建议以及监管举措。
需要更多工具和资料库来支持负责任的人工智能采购，包括RFP模板、合同条款以及用于评估人工智能伦理成熟度的记分卡。
政府和公共管理部门正以日益扩大的规模采购人工智能。例如，2022年美国在人工智能相关合同上的支出 2.5 比2017年多出。这些采购可能非常有帮助，但其中包括存在巨大潜在危害的高风险系统。因此，购买人工智能系统的公共管理人员必须具备相应的知识和资源，以负责任地进行采购，并兼顾社会风险与机遇。已有一些有用的资源正在发布，但仍有空间填补额外的缺口，以适应人工智能系统及其应用的演进。本文回顾了现有英文资源及有待填补的缺口。
指南与监管
公共管理部门在采购人工智能时可获得的最常见资源类型是人工智能指南。这些指南分为三类：1）通用采购建议；2）有针对性的建议，侧重于某一行业、用例、主题或视角；3）监管举措。
通用指南和建议包括以下机构制定的成果：AI Now、DataEthics、Hickok、Miller and Waters、Rubenstein、英国政府、以及世界经济论坛。此外，美国已宣布美国管理和预算局（OMB）将发布人工智能采购指南。
在有针对性的指南中，监狱政策倡议组织（Prison Policy Initiative）提供了监狱中平板电脑采购的指南。虽然这些指南并未专门涉及人工智能，但其中包含的科技伦理要求可加以调整，用于人工智能。Coglianese & Lampmann建议在合同条款中增加有关商业秘密、隐私和网络安全、审计以及公众参与的内容。Jacobs & Mulligan建议在采购流程中采用一种称为“测量建模”的方法，以了解人工智能系统的预期影响。
监管举措同样提供指导。即使这些举措不适用于采购从业人员所在的司法管辖区，甚至即使未正式立法通过，从业人员仍可从中寻求指导。
世界经济论坛如何为人工智能建立防护框架？
人工智能卓越中心汇聚各行业领导者，以理解人工智能的快速发展及其对经济和社会的影响。该中心支持围绕人工智能应用的机遇、风险和权衡取舍开展知情对话。
通过可信赖的交流空间和合作性举措，该中心帮助合作伙伴建立共同理解，并携手推进人工智能创新与应用的负责任方法。
在加拿大，联邦机构必须遵守《自动化决策指令》，其中包括人工智能采购在影响评估、透明度、质量保证等方面的要求。在美国，现有的人工智能采购法规包括第13960号行政令（EO 13960），该令要求联邦机构以有助于增进公众信任和信心的方式设计、开发、获取和使用人工智能，并强调隐私、公民权利和公民自由等主题。《人工智能培训法》要求为采购人员的人工智能培训编列预算。最后，马里兰州、康涅狄格州和华盛顿州等州提出了将人工智能伦理要求纳入采购流程的法案。
这些指南和监管举措是良好的开端。然而，仍存在一些缺口需要填补，以便为从业人员配备合适的工具。在与本文作者的交流中，从业人员表达了担忧：如果缺乏适当支持，即使负责任的人工智能采购被法律强制要求，相关实践也可能无法落实。类似的采购法规过去就曾出现过这种情况。
工具
有一些有用且相关的工具可供公众使用，但对其正确实施、使用、改进和推广仍需给予更多关注。福特基金会、Richardson、以及世界经济论坛已创建了一系列供采购从业人员在采购全生命周期中提出的问题清单。阿姆斯特丹市创建了一份英文人工智能采购合同模板，其中纳入了负责任人工智能的功能（另见Miller and Waters，其中有一些背景说明和讨论）。加利福尼亚州的圣何塞市已创建了多种人工智能采购工具。其中包括一份审查流程图（用于购买人工智能系统时），以及一份用于向人工智能供应商收集信息的表格。加利福尼亚州阿拉梅达县发布了一份征求建议书（RFP），用于人工智能系统，其中包含隐私要求，可用作模板。
尽管上述工作朝着正确方向迈出了重要一步，但要应对负责任的人工智能采购，仍需做更多工作。例如，从业人员表示需要完整的RFP模板、可嵌入现有合同的简要条款，以及用于评估潜在供应商人工智能伦理成熟度的记分卡。此外，现有工具并未应对从业人员在负责任地采购人工智能时遇到的挑战，例如难以让供应商披露与人工智能伦理相关的信息，或难以跟进人工智能伦理承诺的履行情况——即使这些承诺已载于已签署的合同中。
资料库
我们发现了两类与公共管理中人工智能负责任采购相关的资料库。部分资料库有助于知识管理。例如，Gutierrez的软法数据库收录了2001年至2019年间与人工智能采购相关的软法清单。关于该资料库的讨论可见此处和此处。另一个相关的知识管理资料库是美国的采购创新元素周期表，由美国联邦采购研究院（FAI）创建。
另有一些资料库记录了公共管理部门所采购的人工智能相关信息。荷兰、阿姆斯特丹市、赫尔辛基市，以及加利福尼亚州圣何塞市已在其辖区内建立了算法登记系统。此外，Eurocities创建了一个架构，用于登记城市中使用的算法。
目前尚未发现专门整理人工智能负责任采购相关资源的资料库。然而，若没有资料库，从业人员可能难以找到相关资源，也难以选出最适合自身需求的资源。我们的审查需要深入研究，而许多参与人工智能采购的人员可能无法开展此类研究。
要点总结
目前，公共管理中人工智能负责任采购的现有资源颇有助益，但我们需要更加重视进一步开发这些工具并建设更多资源，以确保从业人员具备充分能力应对完整的采购周期。在开发新工具时，更大程度地让从业人员参与其中至关重要。我们发现的许多资源并未提及与从业人员进行实质性磋商，也忽视了从业人员面临的挑战。弥补这些缺口是一项关键任务。公共管理中人工智能的负责任采购对公共安全以及推动科技行业更负责任地开发人工智能至关重要。
本文得益于Beth Schwanke和Hubert Halopé的大力贡献。Beth Schwanke博士现任匹兹堡大学网络法律、政策与安全研究所执行董事。Hubert Halopé是世界经济论坛人工智能与机器学习负责人