政府中的人工智能（AI）必须以赋能民众为设计目标，而不仅仅是优化流程。
真正的数字主权意味着拥有技术过硬的团队、有韧性的基础设施、可问责的治理机制，以及安全的数据存储。
年轻人带来紧迫感、创造力和公民想象力，能够使公共服务中的人工智能更加负责任，并推动其变革。
技术正在重塑公民与政府之间的关系，为将公共服务转变为主动、灵敏且以人为中心的体系创造了机遇。
人工智能（AI）和数据可以帮助政府超越被动式服务提供，转向预测式模式。然而，今年夏天与日内瓦全球开拓者社群（Global Shapers Community）枢纽负责人举办的一场研讨会所获得的见解表明，从青年的视角看，这一转型必须将责任和本地价值创造置于核心位置。
否则，人工智能可能会因偏重准确性和绩效等错位指标，而非人类影响和社会价值，从而强化低效或限制创新。这种情况恰恰出现在人类未能置于设计和决策核心的时候。
长期依赖人工智能的关键公共系统存在风险。
全球趋势表明，各国政府已在着手发布其人工智能战略——《2024年人工智能指数报告》发现，在2016年至2023年间，128个国家中包含“人工智能”一词的立法中，有32个国家至少颁布了一项与人工智能相关的法案。
然而，许多国家缺乏监测成效或评估风险的框架。
经合组织（OECD）警告称，数字政府的采用进展参差不齐。许多国家仍在为互操作性与治理能力而苦恼，即其系统往往缺乏有效共享数据的结构，限制了协调、效率以及提供无缝公共服务的能力。
从青年的角度看，紧迫性不仅源于采用规模，还源于重新构想治理本身的机遇。七月的研讨会还发现，人工智能正进入公共系统之际，恰逢新一代人要求透明度、包容性以及可衡量的积极影响。
平衡收益与挑战
技术在政府中的潜在收益众多：减少官僚主义、更快地获得医疗和社会服务，提高回应能力，以更好地回应公民关切，甚至借助人工智能制定、评估和实施更有效的政策。
数据驱动的系统可以保存机构记忆、为决策提供依据，并使服务绩效透明化。然而，要释放这些收益，政府需要以公民为先，而非以系统为先。
以德国为例，该国推行了数字医疗项目，例如引入电子健康档案，让患者直接访问其个人健康数据，从而使其能够做出知情选择并更好地掌控自身医疗。然而，实施工作受到治理碎片化的制约，使其电子病历（elektronische Patientenakte，ePA）系统复杂且利用率偏低。
即便是对统一健康档案的基本访问——即个人的所有健康数据都存放于同一处——仍然困难重重。这一挑战并非欧洲独有。在菲律宾，数据库孤立和开放数据门户分散，使各机构难以有效互操作。
与此同时，在拉丁美洲，智利等国缺乏追踪数字政府投资的统一框架，监督职能分散于各机构之间，且缺乏综合监测系统。因此，除基础设施之外，治理、设计和问责机制将有助于使系统真正服务于其用户。
创新风险
在缺乏充分创新战略的情况下过度依赖技术，会带来哪些风险？
长期依赖人工智能的关键公共系统存在风险，因为这可能使公民面临服务中断、隐私泄露和权力失衡等问题，因此亟需围绕人类监督、问责和韧性来设计公共服务中的人工智能。
数字主权通常以数据存储地点为核心来界定，但主权同样意味着具备相应能力，包括技术过硬的团队、有韧性的基础设施，以及能够使各国为公共利益运用数据的治理框架。
青年网络已经在充当创新的活实验室。
例如，若公民缺乏使用开放数据的工具或素养，仅仅公布开放数据是不够的。在数据可供获取的情况下，开放数据可以赋能社区监督政府行为、促进问责并建立信任。然而，若缺乏解读和应用信息的能力，这些益处便无从实现。
欧盟在《数据治理法》框架下的做法表明，建立数据共享的法律框架，必须与投资本地人才、可靠的技术基础设施以及充足的运营资金相辅相成，以确保数据能够真正跨境和跨部门使用。
否则，主权将沦为形式，政府将依赖外部供应商，或使控制权集中于少数权力中心。
信任与治理
安全与韧性同样至关重要。公共基础设施必须能够抵御网络攻击、保护公民数据，并持续衡量绩效，因为若缺乏这些保障，公民便无法信任人工智能赋能的公共服务，也无法从中受益。
总部位于美国的政务科技（GovTech）倡议Propel开发了用于评估公共救助项目中人工智能模型的工具，展示了持续衡量框架如何通过监测绩效、发现偏见，并确保人工智能驱动的决策公平、透明地服务于公民，从而增强问责性。
然而，要显著改变公民与政府服务的互动方式，我们必须通过清晰解释人工智能决策、审计算法公平性并实现有效监督，使复杂系统变得透明。
一个相关的例子是墨西哥推出生物识别版CURP（Clave Única de Registro de Población，人口登记唯一代码）的举措，该举措将把指纹和虹膜数据纳入统一数字身份系统。这引起了数字权利团体的严重担忧，他们警告该系统可能导致大规模监控以及潜在的人权侵犯。
缺乏明确的数据保护措施以及敏感生物识别信息的集中存储，凸显了在缺乏全面保障的情况下部署人工智能系统所带来的风险。这一例子突显了在公共部门人工智能技术的设计和部署中，透明度、问责和公民参与的迫切需要。
要兼顾稳健的安全与问责，需要建立治理框架，使人工智能系统对公民而言易于理解且值得信赖。透明的设计、清晰的监督机制以及包容性参与，能够确保复杂的公共技术不会集中权力或加剧不平等。
以公民为先的系统
在这些基础到位之后，政府便可超越风险缓解，积极尝试敏捷方法、试点项目和迭代改革。这为青年和公民社会提供了空间，使其能够为既负责任又回应公共需求的解决方案作出贡献。一些政府已在尝试更为敏捷的模式。
在西班牙，Correos Lab利用试点融资和奖励机制加速政务科技解决方案的落地，并在数月内对其进行规模化测试。为此，我们需要相应的支撑条件：标准化的互操作性规则、便于中小企业参与的采购机制，以及能够为系统性改革提供依据的迭代测试路径。
青年网络已经在充当创新的活实验室，通过将年轻人定位为跨职能团队、研究方法、加速器和孵化器中的共同设计者，带来紧迫感、创造力以及对负责任技术的承诺。
通过与大学、创新中心和初创企业生态系统合作，政府可以汲取年轻人的视角，将其作为可持续的公民想象力来源。
人工智能将重塑公共服务的提供方式。然而，只有当公民始终处于设计的核心、试点项目具备可信的规模化路径，且数字主权不仅涵盖基础设施的所有权，还包括治理这些基础设施的既有能力时，这一转型才会是积极的。
