人道领域正日益尝试预判需求，包括利用人工智能。
但大多数人工智能工具是由大型组织构建并为其服务的，而非当地行动者。
人道主义人工智能应与受危机影响的社区共同设计。
在应对危机时，时机至关重要。通过预测、预警系统，或及时、准确地获取危机影响信息，提前应对灾害，可能为数百人的生命带来根本性的改变。这正是人道领域日益推动预见性行动作为减少人道需求的关键途径。这一转变的核心新兴工具之一是人工智能（AI）。
2021年，世界银行关于灾害风险管理中人工智能创新的一项分析指出，人工智能正被用于广泛的任务，包括脆弱性测绘、人口流动建模、风险预测和损害评估支持。这些工具具有前所未有的潜力，能够为应对人员和受危机影响的社区提供他们做出更明智决策所需的及时且相关的信息。
但部署人道主义人工智能面临若干挑战。其中一些挑战，例如数据偏差风险、隐私威胁以及模型可解释性差，是从医疗到社会服务等所有高风险领域的共同问题。另一些挑战，例如问责机制缺失，以及国际与当地行动者之间旧有权力格局被强化的风险，则构成独特威胁。
人工智能所带来的风险与《核心人道主义标准》直接相悖。该标准是援助行业致力于遵循的准则，同时，这些风险也削弱了行业关于赋予当地组织更多自主权的承诺。一项关于人道领域预测分析的研究表明，这些工具主要由大型国际机构或行业使用。我们自己对人道行动中现有人工智能工具的研究发现，即使人工智能模型是利用本地生成的数据或洞察进行训练，其中仍有不到三分之一是为当地组织或受危机影响人群使用而构建的。
不出所料，人工智能工具很少在受其影响的当地居民的参与下进行设计或开发。这使社区面临风险：人工智能模型向新情境迁移的能力素以不佳著称。如果这些模型由远在数千英里之外的团队构建，且缺乏有意义的本地输入，就很可能遗漏关于应解决哪些问题、哪些数据可能有用，以及这些技术应如何使用等方面的相关洞察。
人道主义人工智能：一种新方法
应对这一挑战的解决方案在于，利用参与式人工智能方法，构建由当地开发、由当地拥有的人道主义人工智能。应开发能够汇聚受危机影响社区集体智慧的工具，供通常是任何危机中第一响应者的当地组织和社区使用。
在英国人道创新中心的一笔资助下，Nesta集体智慧设计中心与国际红十字与红新月会联合会近期测试了这一新方法，在尼泊尔和喀麦隆开发了两款新工具，以改善一线危机应对。该项目包括与社区合作，构建新的、更加多元的数据集用于训练人工智能模型，以帮助降低数据偏差风险。该项目还涉及与社区和一线响应人员协商确定工具的评估方式，以确保人工智能模型针对对他们而言重要的结果进行优化。此外，社区在开发阶段参与了人工智能模型的完善。在尼泊尔的社区研讨会促成了一项结果：民族因素被从模型输入中移除；而在喀麦隆，红十字会志愿者发现了模型运行方式中的一处盲点。
尽管充满挑战，但此类项目证明，利用本地数据、本地基础设施和本地人才构建本地人工智能是可行的，构建回应本地优先事项和价值观的人工智能也是可行的。简而言之，采取以本地情境和受影响社区为核心的参与式人工智能方法，有助于打造更稳健且更易为社会接受的人工智能工具。
要使包容性人工智能从实验性的一次性项目转变为主流实践，需要资助方、机构和技术创新者在整个行业层面做出转变。在当地层面投资于合适的技术技能，自然是显而易见的起点。此外，我们需要各地的技术专家开发能够在资源受限、数据匮乏环境中运行的人工智能模型（这正是大多数面临人道危机国家的现实），而非构建庞大、依赖监督且极度依赖数据的模型。
我们需要人道主义资助方投资于协调一致的方式来填补数据空白，并构建对当地人道响应者和社区的运作至关重要的开放数据集，而不仅仅服务于大型机构。我们确实需要看到更多努力，让受危机影响的社区参与人工智能工具的设计并对其实施监督。为此，关键在于提升社区参与团队的技能，使其成为参与式人工智能从业者，并发展能够在技术专家与当地社区之间架起桥梁的技能与工具。
改变人道技术开发的主流逻辑并非易事，但如果每个机构或资助方都开始提出这样一个问题：受影响社区将如何参与这项技术的设计与监督？这无疑是打造真正具有智能的人道主义人工智能的第一步。
