生成式人工智能（AI）有望在医疗消费者的整个健康旅程中提供重要帮助，从提供可靠的健康信息、确保适当的护理级别，到设计患者治疗干预措施。
在医疗领域采用生成式人工智能的最大障碍是医生和公众之间的不信任、基线数据的缺口，以及在资源匮乏环境中的可扩展性问题。
要推动生成式人工智能在医疗领域的应用，关键在于让模型借助正确的知识、人文关怀和数据保持相关性，并在解决成本障碍的同时监测偏见。
至少从20世纪70年代起，人工智能（AI）就被誉为解决医疗领域一些最棘手问题的方案。然而迄今为止，现实仍未达到炒作所描绘的程度。
生成式人工智能，特别是ChatGPT等大型语言模型所依托的技术，为改善全球健康和医疗服务提供了一种强大的新方式。世界经济论坛与ZS公司采访了来自医疗、科技、学术界等领域的领导者，以评估生成式人工智能在医疗领域的变革潜力、最主要的应用障碍，以及利益相关方为克服这些障碍必须采取的行动。
这些发现是论坛与ZS公司联合白皮书《以患者为先的生成式人工智能健康服务：重塑护理体验》（2024年1月）的主题，该白皮书阐明了生成式人工智能解决方案的相关推出时机、其潜力，以及要使生成式人工智能在医疗领域成功部署需要做些什么。
生成式人工智能用于患者护理——为何是现在
尽管生成式人工智能已被用于发现新的候选药物、革新临床试验等领域，但其在近期最大的机遇或许在于帮助重新构想患者体验。
新冠肺炎疫情加剧了医疗领域的现有弊病，包括医生职业倦怠急剧上升，以及全球卫生系统的财务压力日益加大。医疗工作者严重短缺——世界卫生组织估计目前短缺人数为1500万，其中约95%位于低收入和中等收入国家——这对全球健康构成最大风险，因为治疗资源分配不均会扩大健康差距，并加重治疗慢性病患者所带来的护理负担。
与此同时，随着患者日益希望在健康管理中发挥更积极的作用，健康消费化持续推动医疗转型。但这一现象也带来风险：健康素养较低的患者可能误信网上不准确或具有误导性的健康信息；此外，越来越多的数字健康工具被用于追踪和管理健康，使医生难以利用新的数据流。
生成式人工智能能够模仿人类语音、处理非结构化数据（占所有医疗信息的80%），并以极少的训练解决各种各样的问题。凭借这些能力，它可以直接与医疗消费者沟通，从而应对上述挑战，并弥补令人担忧的医疗工作者缺口。
生成式人工智能将如何变革患者护理
健康教育辅助
在ChatGPT广泛普及之前进行的一项调查中，94%的美国医疗消费者表示他们会上网查找健康信息。但多项研究一致发现，很少有健康网站达到既定质量标准，而且大多数美国医疗消费者的健康素养技能有限。基于各种语言高质量健康数据训练的大型语言模型，能够提供准确且易于获取的健康信息，因而具有可操作性，无论用户身处何地、教育程度如何或文化背景怎样。
患者分诊辅助系统
鉴于医疗工作者短缺，卫生系统需要帮助，将资源从非紧急患者转向需要及时、高强度关怀护理的患者。早期的“虚拟护理助手”之所以未能规模化，原因在于缺乏覆盖全球7000多种语言的开源模型，而且预测性人工智能对跨文化背景和卫生系统类型的细微差别理解有限。通过针对性且具有文化多样性的训练，大型语言模型可以帮助医疗服务提供者安全地对进入医疗系统的患者进行分层，并据此合理安排其护理。
疾病管理
在治疗的第一年，多达60%的慢性病患者会漏服剂量、服用错误剂量或完全放弃治疗，这使卫生系统每年付出数千亿美元的成本。传统算法可以预测患者何时可能中断治疗，但它们难以提出（更遑论执行）有效的干预措施，以帮助患者坚持治疗。将传统人工智能与生成式人工智能相结合，可以形成一种强大的工具，通过帮助患者坚持治疗来管理慢性病。
与忽视这一技术及其对患者产生影响的无限潜力相比，负责任地使用生成式人工智能所带来的医疗或伦理失当风险微不足道。
Pratap Khedkar，ZS公司首席执行官 | Shyam Bishan，世界经济论坛健康与医疗中心负责人、执行委员会成员
加强多边合作的必要性
与传统人工智能一样，不信任是在医疗领域采用生成式人工智能最主要的障碍。由于原因往往不明，大型语言模型偶尔会生成不正确或具有误导性的答案。与此同时，训练数据不足或存在偏见，可能产生危险的偏颇输出，而且将私人健康数据输入人工智能模型本身就存在风险。
与此同时，大型语言模型目前的训练、微调和运行成本都非常高，可能使许多中低收入国家的卫生系统无法负担。如果我们不加谨慎，生成式人工智能可能会扩大现有的健康差距，因为高收入国家将率先获益。
这些障碍并非不可逾越。利益相关方可以采取四个步骤，确保每个人都能从生成式人工智能的进步中受益。
通过同理心和领域专业知识建立信任。我们必须优先针对医疗专用数据对模型进行微调，并让医生测试和评估回答，以改进输出结果，并赋予模型同理心。
减轻偏见。完全纠正模型训练数据中固有的偏见是不可能的，因此减轻输出偏见需要连接数据生态系统，并持续衡量回答中的偏见——尤其是在服务不足人群中使用时。
保持人类参与。我们必须首先教育患者和医疗服务提供者了解生成式人工智能的局限性，尤其是其产生幻觉的可能性（即大型语言模型感知到并不存在的事物）。此外，医疗服务提供者必须实施能够维持人工监督的临床流程，尤其是在高风险讨论中以及针对重症患者时。
规划跨情境规模化应用。鉴于资源限制，开发更具成本效益的大型语言模型运行方式将至关重要。利益相关方还必须努力打造灵活的部署模式，以适应不同地区、文化和情境的多样化需求。
人的健康本身就极为宝贵。任何开发、部署或为某项工具作担保的利益相关方，只要该工具可能使哪怕一名患者的健康面临风险，都应保持谨慎。然而，与忽视这一技术及其对患者产生影响的无限潜力相比，负责任地使用生成式人工智能所带来的医疗或伦理失当风险微不足道。
生成式人工智能可能是我们这一生中最深远的技术突破。然而，社会必须共同努力，建立适当的保护措施，以确保其安全、负责任地使用。我们拥有实现这一目标的工具，但现在我们需要凝聚集体意志。
