新冠疫情期间争相采购人工智能技术的做法,暴露出关键的治理缺口。
如果这些缺口得不到解决,可能引发一系列问题,从误诊到公众信任的侵蚀。
新冠疫情的全球影响表明,相互关联性在国际合作中所发挥的作用,以及过时的技术如何阻碍有效的政策制定。
因此,许多机构和政府发现自己不得不急起直追——识别、评估并采购由人工智能(AI)驱动的可靠解决方案。
寻找合适的人工智能解决方案是一项紧迫任务,而公共部门有义务确保流程遵循公平、问责和透明原则,这使任务更加复杂(自动化流程尤其容易加剧系统性种族主义并扩大现有不平等)。
各国政府已经采取的人工智能采购举措,已暴露出关键的治理缺口。弥合这些缺口,将是发挥人工智能变革潜力并引领经济体走向复苏且不牺牲隐私、不损害公共卫生的关键。
以下是人工智能采购与应用中治理机遇的几个示例:
聊天机器人
许多政府已将聊天机器人整合到其网站中,以防止公众的大量健康问询压垮其资源。当普通公众的咨询使政府机构工作人员不堪重负时,政府机构使用政府聊天机器人有助于更快速、更有效地管理客户服务。通过回答常见问题并将较复杂的问题转交处理,可以节省大量时间,并更好地满足公民的需求。
然而,许多此类技术仍缺乏将风险降至最低的工具和流程。通常并未设置相应措施来确保信息准确性、落实隐私保护,或有效训练足够敏捷的模型,以跟踪这一快速变化疾病的最新知识。这可能导致信息传播效果不佳,至少对公众而言是一种失职;更糟的是,它可能导致症状误诊,从而可能使数千人或更多人的生命面临风险。政府必须制定行动计划,以帮助解决应当放大谁的声音,以及所分享信息的准确性如何等问题。
诊断
世界各地的医疗机构一直在借助人工智能系统来识别感染,方式包括通过人们的声音或借助胸部X光片。这些工具极大地帮助了负担沉重的医院应对患者人数的急剧增加。然而,关于如何评估这些工具的效果,目前几乎没有指导意见。因此,医疗机构可能因误诊患者而使情况变得更糟,面临这一风险。
治理专家敦促医院不要削弱其监管规程,并避免在未进行尽职调查的情况下签订长期合同。当前迫切需要制定政策框架,将人工智能系统在投入使用前的评估加以落实。一份近期报告分析了数十个用于诊断和治疗新冠肺炎的计算机模型,揭示出所有模型均使用了不适宜且数量不足的数据进行训练。此类评估应促使官员就风险缓解流程、性能和准确性提出关键问题,并通过独立第三方确保对系统进行有力的外部监督。
追踪病毒传播
数十个政府已提议或部署了追踪工具,用以监测病毒在人与人之间的传播。从亚洲到欧洲,多个公共部门机构已与私营部门合作,使用基于人工智能的服务来监测病毒传播。这包括一系列接触者追踪应用程序,旨在完成公职人员长期以来通过人工访谈感染者并逐一追查其近期接触者的手动工作。
关于这些数据在不同情境下如何被使用以及由谁使用的隐私担忧表明,现在就提出正确的问题,有助于预见日后不可避免的数据保护问题。建立全面的文档记录流程,有助于在问题出现时加以评估,并在理想情况下避免危害发生。一种日益受到关注的应对方式是推广内部评估工具,即企业采用多利益相关方方法设计内部评估问卷。例子包括IBM Research的FactSheets、谷歌的内部算法审计框架,以及微软的人工智能原则清单及其内部应用工具。随着时间推移,如果得到适当推广,这些方法或许能够确保人工智能在各种应用中得到负责任的部署。
“抓住机遇的窗口期很短,需要尽快制定一套可行的采购指南,以支持未来的科学决策。”
Eddan Katz、Conor Sanchez
展望未来
即便在新冠疫情之前,对人工智能监管的呼声已大幅上升,人工智能伦理原则的数量也在激增。新冠疫情加速了将这些原则落实为实际操作的需求。为帮助从业者应对这些挑战,世界经济论坛人工智能与机器学习平台推出了“采购工具包”(Procurement in a Box)一揽子方案,旨在通过政府采购推动公共部门采用人工智能。本周向公众发布的工具,是在近两年的时间里,与采购人员和私营企业进行磋商、多轮征求草案意见、组织综合性研讨会、开展个别访谈以及实施国际试点之后开发完成的。
“采购工具包”项目旨在通过帮助塑造技术的伦理和负责任使用,将许多规范性建议付诸实践。该项目以多种方式优先推进这些规范的实际应用,包括在尊重各辖区法律与文化差异的同时,提炼不同辖区之间的共同点,以及各国人工智能创新生态系统发展阶段的差异。
此类工具将日益与全球各个层面的国家相关,并具有及时的实用价值。论坛的人工智能采购倡议已值得注意地在一个动荡之际形成,此时政府、公民与其产业之间的信任社会契约处于搁置状态。新冠疫情这一全球危机凸显了创新责任与技术伦理使用的必要性。在我们开启这一“大重置”之际,治理规范的规则和标准尚未确立。抓住机遇的窗口期很短,需要尽快制定一套可行的采购指南,以支持未来的科学决策。
