在人工智能中建立信任，尤其是在医疗等高风险场景中，意味着要理解算法如何以及为何做出特定决策。
但在现代人工智能时代，这些算法往往是黑箱——就连其创造者也未必完全理解它们为何会产生某些结果。
要将人工智能引入医疗等高风险场景，我们必须使用可解释且不存在偏见的算法。
算法无处不在。从塑造社交媒体信息流到影响贷款审批，算法早已是我们生活中不可或缺的组成部分，而且由来已久。它们的普遍存在并非近期才出现的现象；作为一套指令，算法实际上在数百年间一直在决定结果方面发挥着关键作用。
在当今时代，这一点尤为明显，人工智能（AI）等技术正将算法编织进我们日常生活的方方面面。
既然算法塑造着我们的生存方式，就必须努力建立对它们的信任。例如，人工智能系统过去曾是相对简单的算法。这些相当初级的软件程序能够依据所输入的数据进行学习，主要用于识别模式，从而做出一些近似估计。这些更先进的人工智能的前身，如今仍常用于销售预测或风险评分等较不先进的应用场景。
然而，在过去十年间，我们见证了人工智能的进步，其水平是我们此前只能梦想的。
黑箱算法
最先进的人工智能（例如OpenAI的ChatGPT背后所采用的技术）已变得极为强大，能够生成文本、图像，如今还能生成视频，其成果往往可与专业作家、设计师和视频制作人的作品相媲美。不过，这也是有代价的。较早的模型虽然准确性较低，但其可解释性要强得多，因此也更值得信赖，部分原因在于其结构相对简单。相比之下，当前大多数人工智能所依赖的所谓“黑箱”模型则更为复杂。
现代人工智能的复杂性使其在低风险场景中极为有效，但在医疗、刑事司法、金融等高风险场景中却几乎无法令人信任。正如OpenAI创始人萨姆·奥尔特曼在今年的世界经济论坛年会，“OpenAI这类人工智能在某些方面表现出色，但在生死攸关的情境中表现并不尽如人意”。
因此，在我们能够完全信任这些模型之前，便无法信任它们为关键和敏感领域提供洞见。我们不仅需要在彼此之间重建信任，也需要在机器面前重建信任。这并非易事，但只要通力合作，便可实现。
可解释性：超越黑箱算法
首要步骤之一是开发并倡导“可解释”的人工智能系统。以ChatGPT等大语言模型所采用的现有架构而言，我们无法窥探这些算法的内部运作。我们无法理解促使人工智能得出特定答案或建议的决策过程。这在高风险场景中造成了重大问题。在医疗领域，我们需要理解模型为何会将某位患者诊断为患有某种特定疾病。我们需要理解此类诊断背后的考量因素。审阅算法输出结果的医生必须能够核实，该模型得出的结论是否符合医生的诊断思路。总体而言，我们需要能够询问人工智能“为何”得出此类结论，并理解其所经历的逻辑过程，尤其是在敏感应用中。通过审视这一过程，我们或许能够发现思维过程中的缺陷，这些缺陷通常被称为“幻觉”。
消除偏见：在算法决策中建立公平
模型可解释性只是实现值得信赖的人工智能这一追求中的一部分。由于人工智能系统的优劣取决于其所使用的数据，因此确保用于训练此类模型的数据具有最高质量至关重要。这意味着要使用能够提供准确、真实信息的高质量数据来源。然而，在现实场景中，获取此类信息未必总是容易。
我们和算法以数字形式所处理的大多数数据和信息都受到各种局限性的制约。因此，人工智能系统表现出偏见，往往并非源于其固有的恶意行为，而是因为它们是基于历史上存在偏见的信息进行训练的。这在高风险场景中可能造成危害。例如，一个假设的人工智能系统在预测某人再犯可能性时，可能会基于种族、性别或其他受保护属性而产生歧视。有若干技术可用于减轻乃至理想地消除偏见。作为用户，我们需要认识到这种可能性，并向算法制造者提出深入的质询，以确保他们已设置防护措施，避免歧视。
政策框架：人工智能的统一方法
最后，我们需要建立一个共同框架，为人工智能的发展提供共享指导。由于人工智能尚处于初期阶段，我们仍缺乏一个统一框架来规定人工智能系统的最佳实践和要求。这造成了碎片化。私营和公共参与者只能自行选择指导方针，或者干脆没有指导方针，从而可能导致具有潜在危害的系统被更广泛的人群使用。
正如耶鲁大学数字伦理中心主任Luciano Floridi教授在近期一次采访中所说：“我们应当设计一个双赢的社会，让技术运营者能够对市场、社会和环境产生积极影响。”为此，我们需要确保一致性和共享指导，由各国政府和国际组织介入，制定可普遍适用于各国和各行业的框架，在确保监管的同时不扼杀创新。
作为此类算法的使用者，我们有责任倡导公平且负责任、值得信赖的人工智能。作为参与此类系统开发与监管的组织，我们需要促进公私合作，汇聚不同利益相关方的力量，以充分利用广泛的专业知识。
只有让专家、政策制定者和用户齐聚一堂，我们才能真正确保成功重建对人工智能系统的信任，这些系统即使在高风险场景中也发挥着关键作用，同时促进人类与机器之间的合作，共同迈向更美好的社会。
