人工智能监管正落后于其使用的指数级增长。
为“高风险聊天机器人”制定内部治理框架，将使企业耗费大量时间和资源。
如今已存在一个实用的聊天机器人使用框架，使中小企业有机会在负责任地使用人工智能方面展现领导力。
人工智能（AI）正以惊人的速度扩展到我们日常使用的产品和服务中。其使用也存在众所周知的伦理问题。不过，关于其使用，讨论最为广泛的或许是公共场所的人脸识别及其对隐私的影响。
诸多人工智能应用引发了有关伦理的担忧，例如偏见、透明度和可解释性。尽管如此，人工智能的使用监管仍严重不足。监管背后渐进而审慎的流程，正落后于人工智能使用的指数级增长。
欧盟委员会迎接了这一挑战，其发布于今年4月提出的可信人工智能新行动和新规则。这可以说是首次全面审视确保人工智能值得信赖所需新规范的文件。
聊天机器人将如何“聊”得更加热烈
对话式人工智能是这类技术最受欢迎的应用之一。它已进入亚马逊和谷歌的智能音箱，所有智能手机都配备了Siri、Alexa或谷歌语音助手。据估计，2021年美国智能音箱用户人数将达到近9400万。
对话式人工智能也内置于聊天机器人中，这些机器人也已广泛部署在网站、社交媒体平台和智能手机应用程序上。新冠疫情加速了聊天机器人在医疗保健领域的应用。
欧盟提案采用基于风险的方法，将人工智能应用分为四类：不可接受风险、高风险、有限风险和极低风险。例如，远程生物特征识别（如人脸识别）被归类为高风险。这是合理的，因为人脸识别存在若干可能迅速升级为大规模人口危机的隐患。
若要充分应对相关担忧，医疗保健领域使用的聊天机器人必须被归类为高风险。
Venkataraman Sundareswaran
然而，该提案将聊天机器人列为有限风险人工智能系统，并告诫称，“用户应当知晓其正在与机器交互，以便能够做出知情决定，选择继续使用或退出。”
这种二元决策（使用或不使用）虽然易于提出，但并非总是最佳的监管方式，因为聊天机器人在医疗保健等对社会至关重要的领域的应用带来了诸多益处。这些益处包括使用便捷、全天候可用（24/7）、成本低、可重复使用、一致性高以及易于部署。
综上所述，聊天机器人在医疗保健领域的应用加速很可能在疫情过后继续，为广大人群提供实用的医疗服务可及性及相关服务。例如，英国国家医疗服务体系的客户可以使用聊天机器人进行分诊，处理“紧急但非危及生命的病症”。
卢旺达等国正大力投资这一技术，以向偏远地区人口扩大医疗服务可及性。这种广泛的可用性和易用性只会促进该技术的普及，而不是迫使人们在欧盟提案中所建议的那种二元选择之间做出抉择。
聊天也可能出错
尽管在医疗保健领域使用聊天机器人有诸多益处，但也存在一些风险。例如，当聊天机器人用于患者分诊时，必须格外谨慎，确保支撑分诊决策的人工智能所使用的训练数据能够准确代表使用该聊天机器人的人群。
这并非易事，因为由于多种原因，从目标人群中获取历史数据往往并不可能。这些原因包括当地医疗数据使用法律、过往数据收集的严谨程度以及数据转换成本。
其他担忧包括聊天机器人在目标医疗应用中的有效性、人类缺乏介入或推翻聊天机器人建议的空间、聊天机器人作出决策的透明度不足，以及聊天机器人所收集数据的安全性如何等问题。关于此问题的更详细讨论，请参阅本报告。
诚然，欧盟提案并未深入探讨我们在此所呈现的此类细节，并为将应用重新归类至更高风险类别（“重新分类”）留有足够余地。根据欧盟提案，聊天机器人可以若以“基本的私营和公共服务”为目标，被归类为“高风险”，这想必包括医疗保健。但在医疗保健领域使用的聊天机器人必须在其使用所涉担忧（如上文所述）得到充分应对的前提下，被归类为高风险。
如何顺利起步
在我们提议将医疗保健领域的聊天机器人使用归类为高风险的同时，我们也认识到，在该领域进行创新的大多数企业是中小企业，它们可能没有足够的精力或资源来建立所需的内部治理机制。
即使是参与该技术应用的大型企业，如医院、保险公司和政府监管机构，往往也缺乏对该技术及其影响的必要理解，难以迅速制定所需的治理措施。事实上，建立内部治理框架需要耗费大量时间和资源。
为应对这一挑战，我们召集了生态系统各方的利益相关方（包括聊天机器人开发者、平台提供商、医疗专业人员、学术界、民间社会和各国政府），共同制定了一个治理框架，任何人都可以下载和使用。
该框架包含10项原则（见下方图2），由多方利益相关方参与者精心筛选而成。更为重要的是，作者针对这10项原则中的每一项，都提供了一套可用于“落地实施”这些原则的行动方案。
通过将这些行动纳入其聊天机器人的开发或部署计划，生态系统中的各参与方（开发者、提供商和监管机构）可以迅速踏上合规之路，以符合即将出台的法规，例如欧盟的相关法规。
最后，使用该框架不仅能为中小企业提供顺利起步的助力，还能让它们在医疗保健领域负责任地使用人工智能（聊天机器人）方面展现领导力。
