科技赢得我们信任的6种方式

Virtuous cycles ... to succeed, the Fourth Industrial Revolution needs us to believe in it.
本内容由人工智能自动翻译。

“略带哀怨的问题‘我们如何重建信任?’如今人人都在谈论。答案其实很明显。第一:做一个值得信任的人。第二:向他人提供充分证据,证明你值得信任。”

道德哲学家奥诺拉·奥尼尔女爵士(Onora O’Neill)提出了这条简单的建议。她是2017年100万美元伯格鲁恩奖得主。这番话直指信任的核心——重要的是你做了什么,而不只是你说了什么。

信任问题是第四次工业革命取得成功的关键,但建立信任的解决方案往往着眼于更好地传达益处,或改善教育,让无知的大众恍然大悟,明白他们的担忧毫无根据。如今,我们早就该讨论支撑第四次工业革命的技术是否值得信任。

那么,值得信任究竟是什么样子?开发支撑第四次工业革命的技术时,应考虑以下六个关键要素。

更广泛的影响至关重要

除了好莱坞电影和国家国防部门的情形,人们很少一开始就打算发明一种故意伤害人类或环境的技术。许多人眼中的“负责任的创新”(一项非正式调查提到滴滴涕、氯氟烃、石棉、次级抵押贷款、阿片类药物和棕榈油等),起初都是某人提出的好主意,旨在解决问题并赚些钱。直到负面影响或不负责任的商业做法曝光后,这些创新才被视为不负责任。

Image: 安塔拉图片社/路透社

有些危害只有在技术投入使用后才会显现;另一些则能提前预见,却因一个群体的利益凌驾于其他群体所受的伤害之上而遭到忽视。有些危害原本可以在设计阶段加以避免,只要当时认真考虑过;另一些则源于不平等和系统性问题,需要各方协调努力才能克服。

引领可信技术开发的人,会尽可能提前深入考虑这些问题。在可能的情况下,他们会减轻负面影响;如果无法做到,则会采取措施补偿受损方,或召集值得信赖的群体共同探讨解决方案。

以目标和惠益为引领

人们对技术及其应用的许多担忧,往往源于对何为惠益、以及惠益是否值得潜在或实际风险与伤害缺乏共识。这也是反对植物基因改造的根本原因之一。许多颠覆性创新都有赢家和输家,输家大声抗议并非不合理。有时,惠益和风险分配不均;有时,社会实际上并未从中受益,股东收获回报,其他利益相关方却承担风险。

值得信任的企业将社会目标置于首位,并在创新愿景和风险管理中,审慎权衡对所有利益相关方(包括地球)的影响、伤害与风险。这似乎正在取得成效。联合利华等组织通过其“可持续生活计划”,得以就新技术的应用开展建设性对话;而信任度较低的企业则会遭到敌视。

保持开放——展示推理过程

如果你有孩子在学校学数学,你大概和孩子谈过展示解题过程的重要性。你会说:“光得出答案还不够,你还得说明自己是如何得出结论的。”

建立可信度也是如此。如今,光说“我们的产品很棒,也很安全,相信我们”已经不够。商业、政策和科学领域的信任不断流失,因此我们更需要通过提高流程透明度、提供证据来证明产品或技术会如你所说发挥作用、确有益处,而且你已充分考虑相关风险,从而展现可信度。

如何有效做到这一点并不容易,而且往往不仅是企业的工作,政策制定和学术科学领域也需要参与。不过,一些机构正在采取创新做法,例如更公开地说明技术开发方法,如巴斯夫纳米对话论坛;以及参与多方利益相关者共同制定标准和法规,如IEEE人工智能与自主系统伦理考量全球倡议。还有一些机构通过深入开展社会责任报告、与值得信赖的中介机构建立平等伙伴关系,以及更公开地说明产品安全与测试情况来展现可信度,例如葛兰素史克(GSK)的临床研究登记库,它披露所有研究的正面和负面发现,并鼓励与学术界和竞争对手共享数据。

让公众参与

创新靠孤独天才的模式已被证伪;人们日益认识到,围绕明确目标共同开发,才能让创新发挥最佳效果。与志同道合的学者或患者团体合作是一回事,但让非政府组织和公众参与,往往被视为迈得太远。亨利·福特那句据称说过的话——“如果我问人们想要什么,他们会说要更快的马”——以及史蒂夫·乔布斯行事隐秘却成功的做法,常被用来嘲笑这种建议。

但今时已不同往日。有些创新发展得如此迅速,只有真正倾听他人更广泛观点,机构才能提前减轻负面影响,并为技术将如何被接受做好准备。

诺贝尔奖得主、经济学家丹尼尔·卡尼曼建议我们在回应批评时,“不要试图说服对方,而要评估阻力的来源并加以应对”。如果不走出去询问,你怎么知道潜在的阻力来自哪里,更不用说如何应对了?

欢迎警示

“我们不知道人们会用我们的技术做这种事”是社交媒体公司面对自身责任不断变化时常用的辩解。创新史表明,确实很难预测一项技术会将我们引向何处,以及它的使用会催生哪些应用。不过,负面影响出现时,要发现早期警示似乎并不太难;更大的挑战在于及时作出回应。

欧洲环境署的《早期警示带来的迟来教训》报告有力地提醒我们,如果灾难的早期警示与人们的世界观或经济利益相冲突,人类往往会强烈倾向于忽视这些警示。

值得信任的企业深知这一点,也欢迎早期警示。它们主动寻找警示,认真倾听不同意见,奖励那些提醒它们问题的人,并建立流程以预见问题;一旦出现差错,就迅速、负责任地解决,从中吸取教训,并据此完善流程。

不知道创新会把你带向何处并非不合理;但当人们怀疑存在危害时,或在许多情况下危害已广为人知时,未能迅速果断地回应就不合理了。

勇于承担责任

受人信赖且值得信任的企业会主动承担责任。它们将这种坦诚公开的做法视为实力和声誉资本的来源。它们不会含糊其辞,不会通过法律手段或公关手段推卸责任,也不会破坏自身流程来逃避责任。我们一再看到,损害公司或个人声誉的往往不是某个具体问题,而是出事后的应对方式。不负责任的行为者会拖延搪塞、逃避责任,试图粉饰、忽视或否认问题;有时还会破坏公正和道义,企图逃避责任。值得信任的企业会采取措施,了解自身不断变化的责任;一旦出现问题,就以真诚沟通和适当解决方案坦诚、公开地处理。

正如奥尼尔女爵士所说,可信度建立在证明你值得信任的证据之上。我们比以往任何时候都更需要塑造世界的技术和企业证明自己值得我们信任。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。