疫情引发的混乱凸显了建立更具韧性系统的必要性。
负责任地使用技术,可以成为推动社会变革的有效工具。
以下是我们将伦理使用原则应用于疫情应对场景后所获得的经验。
2020年以难以想象的方式冲击了我们的世界,迫使我们同时面对多重相互交织的危机:公共卫生危机、经济危机以及种族正义危机。
诚然,技术并非解决系统性健康与社会不平等问题的主要工具,但在与政府和民间社会的合作中,它可以发挥重要作用。然而,要让技术真正有效,就必须负责任地加以构建;无论工具多么出色,如果人们不信任,就不会使用。
作为首席伦理与人道使用官,过去一年里,我与团队密切合作,在开发应对这些危机的技术时,践行我们的伦理与人道使用原则。通过这项工作,我们积累了宝贵的经验,这些经验在当前疫情结束之后仍将具有重要意义和适用性。我们本着透明的精神分享这些经验,与大家共同探索这一未知领域,同时我们深知自己仍有许多需要学习之处。
经验一:借鉴过去的经验,避免重复造轮子
面对危机时,人们往往倾向于立即采取行动。然而,在开发现代解决方案时,我们必须花时间吸取过去的经验,这一点至关重要。2020年,我们再次提醒自己要退后一步,认识到许多问题并不新鲜。尽管新冠病毒本身是新的,但我们知道,这并不是我们第一次面对全球性卫生危机。我们社区中的健康不平等问题也并非首次显现,只是疫情使这种差距进一步扩大。世界此前已经经历过多次大流行,并且有许多历史悠久、备受信赖的组织每天都在应对卫生危机。
什么是全球科技治理峰会?
在开发我们的疫情应对产品时,Work.com(这是一个以数据为驱动的平台,旨在帮助企业安全复工并保护员工)。Salesforce与隐私和医疗专家展开合作,确保我们遵循最佳实践,在这项工作中将隐私和人权置于首要位置。在制定数据保留和删除准则时,我们还参考了联合国和国际红十字委员会等组织的做法。
在时间紧迫、生命攸关之际,利用现有工具、流程和技术,或支持那些已经在开展相关工作的其他机构,往往更为高效和负责。我们重申了我们的承诺,即信任专家,并听取公共卫生指导意见。以这些指导为指引,我们随后着手改进而非重新发明轮子。
经验二:明确自身价值观,以原则为导向采取行动
在Salesforce,我们的核心价值观影响着我们所做的一切。在设立伦理与人道使用办公室时,我们首先确定了一套五项指导原则——人权、隐私、安全、诚实和包容——以指导我们在负责任技术方面的工作。这些原则基于国际人权公约,并吸纳了员工的反馈意见,每天指导我们设计、开发和交付产品。
疫情暴发,世界陷入不确定与恐惧之中,我们以指导原则为工作提供方向。我们与隐私团队合作,专门制定了一套原则,用以指导我们的新冠疫情技术应对工作:1)保护人权与平等;2)秉持透明;3)尽量减少数据收集;4)采取长期视角;5)确保个人数据安全。在开发Work.com的过程中,我们一次又一次地回到这些考量,以指导团队工作。
例如,基于这些原则,我们有意决定不提供自动化接触者追踪功能,以保护隐私并维持用户的信任。相反,我们帮助客户从模拟方式(即纸笔记录)转向数字系统进行接触者追踪,从而提高接触者追踪的准确性和效率,并使人工接触者追踪人员的工作更加高效。
世界经济论坛在第四次工业革命方面开展了哪些工作?
前沿技术与创新中心汇集科学家、政策制定者和企业领袖,共同厘清新兴技术及其在现实世界中的影响。
通过促进合作与实验,该中心帮助合作伙伴将研究成果转化为实际应用,以应对全球共同面临的挑战。
经验三:前期投入,建立可扩展、可重复的流程
在危机中,局势不断变化。随着新信息的出现和挑战的日益增多,建立可扩展、可重复的问题应对流程至关重要。
我们看到,各国政府的疫情应对举措已从以检测和接触者追踪为主,逐步转向全球疫苗接种推广。对我们而言,这意味着为开发新冠疫苗管理技术的团队提供伦理指导和咨询。鉴于此类工具(如预约排期技术和数字健康凭证)的广泛需求和紧迫性,我们通过与系统集成商密切合作,并提供实用指导,使团队的工作得以扩展,并就如何始终将隐私、公平和伦理使用置于核心提供了指导。
我们扩展工作的另一种方式是利用技术。除了公共卫生危机之外,我们还重新认识到美国乃至全球范围内存在的种族不公危机。为减轻产品中的种族偏见和伤害,我们正在采取的一项行动是处理非包容性语言,这涉及我们的技术内容和代码。包容是一项持续的实践,我们致力于不断审查技术语言,并借助Acrolinx等可扩展工具以及其他Acrolinx和其他插件,自动完成语言替换,推动技术语言的包容性。
经验四:多方利益相关者协作至关重要
在这个危机之年,我们认识到,倾听他人意见、跨越差异进行沟通以及协同合作,是应对危机的关键。
在疫苗管理和数字健康凭证方面,我们致力于与其他行业团体合作,共同制定可互操作的标准和建议的最佳实践。借助技术帮助我们走出危机,需要治理、政策和标准的支撑。我们希望成为值得信赖的数字合作伙伴,而实现这一目标的唯一途径,就是与致力于相同目标的其他团体开展合作。这意味着在诸如疫苗接种凭证倡议和良好健康通行证合作组织等合作项目中承担领导角色。这两个跨部门工作组的职责是在疫苗接种和数字健康通行证系统的开发中恢复信心、促进公平与合作。
我们还借助伦理使用咨询委员会(由外部专家以及Salesforce一线员工和高管组成的多元化团体),就伦理使用问题展开深入讨论并获取指导。我们认识到,要携手前行,就必须学会如何进行艰难的对话,并跨越差异进行沟通。我们的经验表明,积极倾听、提供多种安全的反馈渠道,以及公开我们将如何接受问责,是在艰难时期建立信任并推动有意义变革的关键。
“要让技术真正有效,就必须负责任地加以构建。”
Paula Goldman Salesforce首席伦理与人道使用官
这些经验在危机之外同样适用。正如加州大学旧金山分校流行病学与生物统计学系教授兼系主任Kirsten Bibbins-Domingo博士所说表示:“危机是创新的熔炉。”
持续学习与迭代是企业在危机前、危机中和危机后取得成功的关键。通过投入时间反思既往工作,并将持续的学习成果制度化,我们将更有能力应对未来的挑战。
