医疗AI风险或致50亿人被排除在外

本内容由人工智能自动翻译。

人工智能（AI）正在迅速改变医疗行业。从早期癌症检测到个性化治疗建议，AI系统致力于使医学更快速、更精准、更可负担。

在高收入国家，这些工具已在医院、研究中心和诊所中接受测试，结果令人瞩目。然而，对于全球大多数人口而言，几乎50亿人生活在中低收入国家，医疗AI的益处仍然遥不可及。

当前的AI发展方式非但未能缩小健康不平等，反而有可能加剧这一问题。大多数AI医疗系统基于来源狭窄的人群数据构建，这意味着主要来自全球南方的数十亿人在诊断模型、风险评估和治疗算法中仍基本处于被忽视的状态。

若不采取纠正措施，AI可能在无意中强化全球健康领域现有的结构性不公，而非助力克服这些不公。

医疗AI的核心数据问题

众所周知，数据是AI发展的核心。在医疗领域，这通常指从数百万患者处收集的电子健康记录、影像扫描、基因组信息或生物识别信号。

据德国之声（Deutsche Welle）的一份报告，超过80%的遗传学研究仅纳入欧洲血统人群，而这一群体仅占全球人口的不到20%，许多专家认为这一情况极不成比例。

围绕医疗AI构建本地创新生态系统，可确保解决方案不仅依赖外部引入，也在服务社区之内并为其所用而诞生。

同样地，用于训练AI模型的大多数健康数据来自美国、欧洲部分地区和中国的患者。然而，只有依靠全面且多元的数据集，AI医疗系统才能学会识别各类人群中的规律并做出准确预测。

基于有偏差数据训练的AI系统，在应用于遗传背景、疾病流行率或环境暴露不同的人群时，往往表现不佳。例如：

这造成了一种令人担忧的局面：最能从可扩展、低成本诊断工具中获益的人群，在所建系统中的代表性却最低。

存在偏差的AI医疗系统所带来的排斥风险不仅仅是技术问题，它们会产生切实的现实后果。一个无法识别深色皮肤上肿瘤的癌症检测算法，不仅仅是技术失误，更是关乎生死的问题。若在未解决这些问题的情况下部署医疗AI系统，可能导致以下后果：

AI有潜力变革整个经济体。但尤其在医疗领域，只有建立在体现全球多样性的基础之上，其力量才能得到公平的发挥。

构建包容性AI医疗系统绝非易事。它需要政府、国际组织、私营部门创新者和当地社区协调行动。为此，应重点考虑以下几项优先事项：

具有代表性的数据是包容性AI的核心。为确保AI系统能够服务非洲、亚洲和拉丁美洲的人口，我们必须投资于创建和整理能够涵盖多元人口特征的数据集。这可能包括支持当地医院和诊所实现病历数字化。卢旺达数字健康倡议是朝这一方向迈出的典范之举。

此外，鼓励开展跨境合作，使数据集在尊重数据主权的同时实现互操作，至关重要。国际倡议如全球基因组与健康联盟已证明跨境数据共享合作是可行的。

需要建立类似的框架，确保更广泛的健康数据能够为AI模型提供支持，并反映全球实际情况。

医生们正在利用5700万份匿名患者记录训练人工智能。

02:31

即便存在包容性数据集，只有当地医疗系统能够有效部署并调整AI工具，这些数据集才有实际价值。全球南方的许多医疗机构缺乏支持先进AI所需的数字基础设施，从可靠的互联网连接到安全的数据存储均有不足。

同样重要的是人力能力建设。临床医生、数据科学家和政策制定者需要获得培训和资源，以评估AI工具、使其适应本地情境，并确保其与临床工作流程相契合。

围绕医疗AI构建本地创新生态系统，可确保解决方案不仅依赖外部引入，也在服务社区之内并为其所用而诞生。

在投资数字基础设施和本地能力的同时，必须建立治理体系和监管框架，以确保这些系统在设计、工程、部署和使用各环节中的公平性。

印度国家卫生蓝图是旨在应对这些差距的另一项战略举措。

使50亿人被排除在AI赋能的医疗未来之外的风险是真实存在的，但并非不可避免。当今政策制定者、创新者和医疗领导者所作出的选择，将决定AI是加深现有鸿沟，还是助力弥合鸿沟。

世界卫生组织等国际组织在其《全球数字健康战略》中，强调了数字健康公平的重要性。科技公司和研究机构也日益认识到多元数据的必要性。然而，进展仍不均衡，挑战之大要求加强全球合作。

AI在医疗领域蕴含着非凡的前景。它能够帮助临床医生更早地发现疾病、指导治疗决策，并将优质医疗服务延伸至远离医疗中心的社区。然而，要使这些益处惠及全球，我们必须正视当前AI医疗系统发展过程中所存在的结构性不公问题。

授权与转载

世界经济论坛发布的文章，可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。本文所表达的观点仅代表作者个人立场，并不代表世界经济论坛的观点。