研究人员利用人工智能检测乳腺癌，其表现优于人类专家。
人工智能系统在研究环境中往往表现良好，但在真实环境中遇到困难并不罕见。
机器学习和深度学习正日益成为医疗卫生系统的重要组成部分，这表明人们需要信任科学，并有证据证明这些技术有效。
约翰·夸肯布什对谷歌感到沮丧。那是2020年1月，由谷歌健康研究人员领衔的团队刚刚在《自然》上发表了一项研究，介绍他们开发的一种人工智能（AI）系统，该系统可分析乳房X光影像，寻找乳腺癌迹象。研究称，这套系统不只是有效，而且效果出色。团队向系统输入两组大型影像进行分析，一组来自英国，另一组来自美国。与医疗专业人员最初作出的判断相比，系统将假阳性率分别降低了1.2%和5.7%，将假阴性率分别降低了2.7%和9.4%。在另一项测试中，研究人员让该人工智能系统与六名经认证的放射科医师对近500张乳房X光影像进行分析，结果算法的表现胜过每一位专家。作者总结称，该系统“能够在乳腺癌预测方面超越人类专家”，并已准备好进入临床试验。
随后，铺天盖地的醒目标题接踵而至。CNN的一篇报道宣称：“谷歌人工智能系统检测乳腺癌胜过医生。”《纽约时报》指出：“人工智能正在学习读取乳房X光影像。”尽管这些发现确实令人印象深刻，但并未令夸肯布什感到意外。他是亨利·皮克林·沃尔科特计算生物学与生物信息学教授，也是生物统计学系主任。他并不怀疑机器学习和深度学习的变革潜力——它们是人工智能的子领域，侧重于模式识别和预测——尤其是在分析医学影像、发现异常方面。他说：“识别肿瘤不是统计学问题，而是机器学习问题。”
但令夸肯布什不安的是，尽管论文发表后的几周内无人独立验证研究结果，研究团队却声称该系统已准备好进入临床试验。这部分是因为独立验证极其困难。《自然》上的文章没有提供算法代码的细节，而夸肯布什等人认为这些细节对于复现和测试系统至关重要。此外，研究中使用的部分数据是从美国一家医院系统获得许可的，无法分享给外部人员。
人工智能系统在研究环境中表现良好，到了真实环境中却表现不佳，这种情况并不罕见。
在整个职业生涯中，夸肯布什一直积极倡导透明度和数据共享。他的努力旨在确保全球研究人员都能获取海量基因组数据，因此巴拉克·奥巴马总统于2013年授予他白宫“开放科学变革先锋”称号。夸肯布什说，可重复性是科学方法的核心；当新技术被提出用于人体临床试验时，这一点至关重要。作为警示案例，他提到了杜克大学前教授阿尼尔·波蒂。2000年代初，波蒂声称发现了遗传特征，可以判断某些癌症患者对化疗的反应。尽管其他研究人员表示无法复现波蒂的发现，这项技术还是迅速进入了人体临床试验。后来事实证明，波蒂伪造了数据和研究结果，整个生物医学领域就此轰然崩塌。患者受到伤害，有人提起诉讼，研究被撤回，夸肯布什也受邀加入美国国家科学院、国家工程院和国家医学院的一个小组，调查问题出在哪里。夸肯布什指出，该小组得出结论：如果其他研究人员能够获取波蒂的数据、软件和方法细节，这一切本可以避免。
需要说明的是，夸肯布什并不怀疑谷歌健康的研究存在欺骗或其他不当行为。不过，关于算法胜过医疗专业人员的耸动标题让他感到不悦；在研究结果得到复现之前，他尤其担心这套系统就被用于治疗可能患有癌症的人。毕竟，人工智能系统在研究环境中表现良好，到了真实环境中却表现不佳，这种情况并不罕见。
为引起人们对这一问题的关注，夸肯布什与来自多家学术机构的二十多位同事于去年10月在《自然》上发表文章，表达了他们对谷歌健康研究的担忧，并呼吁从事人工智能与癌症护理交叉领域研究的科学家提高透明度。他们无意谴责研究人员，而是希望揭示人工智能与医疗卫生领域正在显现的重大挑战。随着研究人员继续探索这项快速发展的技术，这些挑战的范围和规模只会不断扩大。
值得肯定的是，谷歌健康团队也在《自然》上回复了夸肯布什及其同事，说明他们随后为原始研究添加了附录，补充了算法构建方法的细节。但他们也强调了使用经许可的健康数据和专有技术所面临的现实挑战，以及人工智能相关监管环境的模糊不清。
从许多方面看，夸肯布什与谷歌之间的担忧和交流，折射出人工智能与医疗卫生这一炙手可热的领域：市值高企、工程师才华出众且拥有前所未有计算能力的年轻科技公司，正与生命科学公司、医院系统和学术机构等传统参与者并肩进入这一领域。其潜力非凡，炒作也同样甚嚣尘上，研究领域还遍布潜在陷阱。人工智能有望加快药物研发、简化临床实践，并改善全球各个社会经济阶层数百万人的诊断和医疗服务。另一方面，劣质数据和带有偏见的算法也可能伤害患者；如果人们过度期待人工智能能包治百病，长远来看，这可能会削弱对科学的信任，并使该领域的投资枯竭。
夸肯布什说：“这些新技术正在迅速涌现，也提出了一些非常严肃的问题，我们现在就需要回答。从长远来看，研究人员之间的透明合作将加快人工智能的应用，并有助于确保我们为患者提供优质、无偏见的医疗服务。”
名称背后的含义
人工智能：一个总称，指展现出智能特征的计算机系统。
机器学习：人工智能的一个子领域，主要致力于开发运用统计技术从数据集中学习、识别模式并作出预测的算法。
深度学习：机器学习的一个子领域，其“人工神经网络”旨在模仿人脑，使系统能够自主学习并逐步提升预测能力。
自然语言处理：一个结合人工智能与语言学的领域，旨在创建能够理解口语和书面人类语言的计算机程序。
热潮与隐忧
人工智能及其各个子领域在公共卫生中的应用方式既多样又令人着迷。研究人员开发了基于人工智能的方法，用于预测食源性疾病的来源、快速检索数百万条推文以找出表达流感症状的人，以及分析医院记录以识别药物过敏反应。在哈佛陈曾熙公共卫生学院，S.V. 苏布拉马尼安这位人口健康与地理学教授近期与微软和印度政府的研究人员合作，预测并绘制印度农村近60万个村庄的儿童营养不良负担。与此同时，生物统计学、人口学与数据科学克拉伦斯·詹姆斯·甘布尔教授弗朗西斯卡·多米尼奇及其同事正利用人工智能识别环境风险与健康不良结果之间的因果关系，例如空气污染与健康不良结果之间的关系。
医疗卫生并非早期人工智能研究的重点。能够像人类一样思考、推理和学习的机器这一概念，几代人以来一直令世人着迷。直到1950年，这仍主要是科幻题材；那一年，英国数学家、二战密码破译员艾伦·图灵发表了开创性论文《计算机器与智能》。此后，各领域研究人员都热情投入人工智能研究。1956年，兰德公司的一支团队推出“逻辑理论家”，它被广泛认为是第一个人工智能程序，能够模仿人类的问题解决能力来证明数学定理。1964年，麻省理工学院的一支团队发布了ELIZA程序，它模拟人类对话，与如今常见的客服聊天机器人类似。
随着更多概念验证项目取得成果，人们的雄心迅速膨胀，一些研究人员大胆宣称人工智能很快就会超越人类智能。20世纪60年代末至70年代初，美国深陷冷战，迫切希望在计算领域取得竞争优势，成为推动快速创新的主要力量，尤其是在自然语言处理方面。研究人员希望这一人工智能子领域能够让军用飞机接受语音指令，并将俄语文本和语音翻译成英语。但许多研究人员夸大了这项技术的潜力，进展也陷入停滞。接连发生巨额投入却以失败告终的项目后，美国国防部和其他主要资助方退出这一领域，研究群体随之瓦解。
“这就是人们所说的‘人工智能寒冬’，”JP 翁内拉副教授（生物统计学）解释道。“我们至少经历过两次人工智能寒冬，第二次发生在20世纪80年代末至90年代初。这些寒冬基本上都是这样的时期：人们对人工智能能力的预期定得很高，预期未能实现后，这一领域便失去热度，资金也遭到削减。”
快进到今天，人工智能再次蓬勃发展。研究机构RELX近期对各行业1,000名高管开展调查，发现93%的人认为人工智能——包括机器学习和深度学习——正帮助其公司提升竞争力；超过半数受访者表示，公司新增了专注于人工智能及其他新兴技术的职位。
人工智能有望加快药物研发、简化临床实践，并改善全球各个社会经济阶层数百万人的诊断和医疗服务。
另一方面，劣质数据和带有偏见的算法可能伤害患者；如果人们过度期待人工智能能包治百病，长远来看，这可能会削弱对科学的信任，并使该领域的投资枯竭。
从控制自动驾驶汽车、执行高速股票交易，到优化职业足球队的表现，似乎世界各个角落都受到算法的影响。
不过，与以往人工智能热潮时期不同，这一次研究人员对医疗卫生格外关注。原因之一是，人们可以从电子病历、数字影像、生物样本库、手机和可穿戴设备中提取海量健康数据。然而，对翁内拉而言，人们对大数据和人工智能的兴趣与热议，也令人担忧这一领域的未来。
他说：“我认为，人工智能整体上存在很多炒作；当人工智能与医疗卫生结合时，炒作尤其多，这让我担忧。但与此同时，我们也看到了令人印象深刻的进展，尤其是在深度学习方面。取得这些进展的原因之一，是有大量数据可用于训练这些复杂模型。这是否意味着我们在教机器推理方面取得了进展？没有。但我们确实在教这些系统更擅长识别数据中的模式，而这本身就是一个亟待解决的重大问题。”
翁内拉虽然满怀热情，但他的乐观态度也有一个重要前提：他说，数据量大不代表数据质量好。用劣质数据训练算法，可能造成极其糟糕的后果。
算法偏见
2019年，加州大学伯克利分校的齐亚德·奥伯迈耶和芝加哥大学的森迪尔·穆莱纳坦在《科学》上发表了一项研究，敲响了警钟。他们报告称，一种广泛使用的算法旨在帮助医院系统识别有复杂医疗需求、可能受益于后续护理的患者，却表现出严重的种族偏见。该算法以医疗费用作为健康需求的替代指标——换言之，它假定医疗费用较高的患者健康状况更差、需要更多护理。问题在于，美国黑人群体面临的医疗障碍显著更多，黑人患者获得的医疗支出也少于白人患者。作者解释说，因此算法经常错误地判定黑人患者比病情同样严重的白人患者更健康。换言之，由于计算机代码中写入了有缺陷的推理，大量黑人患者很可能被排除在全面、甚至可能挽救生命的护理之外。事实上，研究人员修正问题并重新分析数据后，符合额外护理条件的黑人患者比例从17.7%升至46.5%。
这类问题被称为算法偏见，而且并非医疗卫生领域独有，生物统计学讲师兼健康数据科学硕士项目联合主任希瑟·马蒂说。马蒂提到一个案例：ProPublica的记者调查了佛罗里达州用于评估被监禁者未来是否可能犯罪的一种算法。他们发现，该算法经常把黑人被告预测为再犯风险高于其实际风险，却经常把白人被告预测为风险低于其实际风险。
另一个案例中，麻省理工学院的加纳裔美国研究人员、算法正义联盟创始人乔伊·布奥拉姆维尼报告称，面部识别软件难以识别肤色较深者的面孔。她在自己身上测试这项技术时发现，戴上白色面罩后，软件识别得比使用她的真实面孔时更准确。
任何情况下，这种偏见都具有破坏性。对于那些帮助整个医院系统指导医疗决策的算法，其影响甚至可能致命。马蒂说：“算法偏见存在许多盲点。没有用真正能代表患者群体的数据训练这些机器学习模型，是一个大问题，也是偏见的主要成因之一。另一个成因是，实际开发这些系统和算法的团队缺乏多样性。”
好消息是，许多算法偏见都可以纠正和预防。健康政策与管理讲师、百思买健康公司总裁黛博拉·迪桑佐说，引入偏见主要有两种途径：“数据中存在偏见，算法中也存在偏见。”在数据方面，她乐观地认为，电子健康记录的普及很快就能让人们生成并使用包容性更强、更具代表性的数据集来训练人工智能系统。她指出，2009年《经济与临床健康健康信息技术法案》的通过，是推动数据数字化和共享的重要催化剂。不过她也指出，电子健康数据往往“非常杂乱”，准确性并不总有保障，很多时候并不完整，偶尔还会重复。
至于将偏见写入算法，这主要源于设计不佳的问题和逻辑疏漏，原因可能是缺乏领域专业知识，也可能是编写代码的团队缺乏多样性。迪桑佐在医疗卫生领域资历深厚，曾在惠普、飞利浦医疗和IBM担任领导职务，并曾任IBM沃森健康总经理。她说，整个行业越来越意识到算法偏见以及优质数据和多元化团队的重要性。不过，这个问题不可能一夜之间解决；她表示，开发者必须带头消除偏见。“最终，我们会制定互操作性标准。最终，我们会建立真正完善的健康信息交换系统。最终，我们会拥有涵盖不同种族、性别和社会经济背景的多元化数据，用来构建和训练算法，”她说。“但目前，构建算法的公司有责任识别数据中的偏见，理解算法中的偏见，并将其纳入考量。”
政策推进阻力重重
人工智能与医疗卫生的交汇处还有另一道障碍，这与计算能力或有偏见的数据集无关，而是与负责监管技术的庞大官僚机构有关。全球健康系统教授里法特·阿图恩说：“如果各国政府认真对待创新和改善医疗卫生，就不能只关注科学创新或技术创新，还需要推动政策创新，营造有利于人工智能和机器学习发展的生态系统。如果想知道是什么阻碍人工智能在医疗卫生领域的应用，答案就是政策层面的创新不足。”
从监管角度看，这些技术处处带来挑战。阿图恩说，许多现行医疗卫生政策，例如《健康保险流通与责任法案》，制定时远早于这些算法的出现；随着机器学习不断普及，这些政策需要更新。当然，说起来容易做起来难。制定国家或国际政策可能需要数年时间。阿图恩说，有时技术发展过于迅速，等到监管框架完成起草、讨论、批准并实施时，技术已经过时。
目前，构建算法的公司有责任识别数据中的偏见，理解算法中的偏见，并将其纳入考量。
总体而言，阿图恩非常看好人工智能在医疗卫生领域的前景。他说，我们正处于一场技术复兴之中，它正以空前规模推动生物医学创新；他也相信，算法偏见和计算能力获取等问题都能够得到解决。在他看来，人工智能在医疗卫生领域最大的优势之一，是能够惠及资源匮乏的国家；这些地方长期缺乏人力和财力，限制了医疗服务的质量和数量。例如，卢旺达人口约1,300万，2015年只有11名执业放射科医师。如果有一种算法能快速扫描数百张影像，并优先标出需要跟进的影像，就能显著改善工作流程。
在医院可能无法稳定供电、更不用说具备充足IT基础设施的资源匮乏地区应用人工智能和机器学习，乍看之下似乎有些本末倒置。对此，阿图恩以电话为例：“很长一段时间里，许多低收入国家没有电话网络。他们没有资金或资源投资建设遍布全国、由电缆和电线杆组成的有线网络，也无力支付固定电话费用。如今我们看到，他们不必走这条路。许多国家直接跨越这一阶段，转向基于卫星的通信网络和移动电话，如今这项技术已遍及发展中世界。”
阿图恩说，人工智能也可能沿着类似的路径发展，但富国和穷国的政策制定者、智库和政府都需要尽一份力。他希望各方努力找出哪些公共卫生干预措施能够以最高成本效益改变风险、疾病进程和健康结果；他也希望调整政策和实践，以适应大批量诊断。
他说：“人工智能有潜力改造卫生系统。但要实现这一点，卫生系统及其指导政策也需要改造。把新兴技术强行塞进几十年前设计的卫生系统，并无济于事。”
在哈佛陈曾熙公共卫生学院探索人工智能
以下介绍各院系研究人员如何推动人工智能领域发展，以更深入地了解人类健康。
由约纳坦·格拉德领导的研究人员来自免疫学与传染病系，他们分析了运用机器学习预测某些细菌是否会对特定抗生素产生耐药性的潜力。格拉德及其同事表示，这类工具有望挽救生命并减少不当治疗，但他们也提醒，要确保这些模型持续纳入相关数据并及时更新，仍面临重大挑战。
电子健康记录（EHR）的普及，带来了前所未有的大量生物医学数据。蔡天熙来自生物统计学系以及同事们正在开发机器学习和自然语言处理技术，以分析电子健康记录（EHR）数据、预测健康风险并改进诊断。
要了解空气污染和其他环境威胁如何影响人群，就需要分析来自众多来源的大量细粒度数据。弗朗西斯卡·多米尼奇她任职于生物统计学系，并与同事们开发新的人工智能工具，从数据中学习并识别接触环境因素与健康结果之间的因果联系。
郑智允她任职于分子代谢系，是一个团队的成员。该团队正利用先进的成像技术，拍摄细节极其丰富的单细胞图像，并开发机器学习方法来分析这些图像、自动识别细胞器。
为了确定印度哪些地区的儿童营养不良风险最高，S.V. 苏布拉马尼亚他任职于社会与行为科学系，并与同事们创建了一个机器学习预测模型，用于估算印度597,121个村庄中营养不良关键指标的发生率，包括发育迟缓、体重不足和消瘦。
安德鲁·比姆他是流行病学助理教授，运用机器学习开发决策工具，帮助医生更好地了解和照护患者。他的实验室尤其关注新生儿重症监护病房。比姆表示，早产儿患者在临床照护过程中产生的海量数据尚未得到充分利用。
人情关怀
阿顿的评论凸显了人工智能融入医疗保健领域时固有的张力。正是这种张力，让夸肯布什对谷歌健康研究挑起了眉毛。在过去20年里，科技行业一直致力于“颠覆”社会和商业的各个方面。这个行业鼓励软件工程师“快速行动，打破常规”，正如 Facebook 首席执行官马克·扎克伯格曾经所说。与此同时，在过去约2,000年里，最优秀的医疗从业者始终审慎行事，并以希波克拉底“首先不伤害”的理想为指引。
在人工智能的讨论中，人们常常忽略健康具有多么强烈的个人属性。翁内拉说：“如果想想一个人最终如何被诊断出患有抑郁症或脑癌，往往是因为家人、朋友或同事指出，你最近有些不像自己，或者看起来疲惫不堪。”他自己的数字表型研究专注于建立分析个人数字设备数据的方法——步数、睡眠周期、短信数量——以监测情绪障碍患者的症状；他也在对肌萎缩侧索硬化症和脑肿瘤患者开展类似研究。早期结果表明，他采用的统计学习方法善于从数据中检测行为模式，这些模式可能是患者开始出现问题的早期迹象，无论问题是心理健康发作，还是运动功能退化。把这类研究推向极端，可以说它是利用智能手机捕捉个人的生活经历，并以算法的统计能力取代伴侣或朋友充满同理心的目光。
“人工智能有潜力变革卫生系统。但要实现这一点，卫生系统及其指导政策也需要变革。把一种新兴技术推入数十年前设计的卫生系统，并不会带来帮助。”——里法特·阿顿，全球卫生系统教授
如今的计算机科学家和数学家能否跟上当前围绕人工智能的热潮，尚不清楚。然而，有一点极为明确：机器学习和深度学习将长期融入我们的卫生系统。人工智能将会持续存在。但未来的发展道路需要人们对科学抱有充分信任，也需要令人信服的证据证明这项技术确实有效。
翁内拉说：“机器学习的发展史表明，对人来说轻而易举的事情，对机器可能非常困难，反之亦然。我认为，未来最大的挑战是弄清楚如何训练机器，让它们能够识别那些我们凭直觉就能察觉的事物。”
