随着社交媒体和人工智能的影响日益引发担忧，只有政府才能挺身而出，提供所需的监管力度。
核武器等以往的技术飞跃表明，若负责任的治理来得太晚，将带来危险。
公共监管常被与过度干预联系在一起，但在明确规则的引导下，创新同样可以蓬勃发展。
澳大利亚的决定是否禁止社交媒体对16岁以下人群使用社交媒体的禁令，是政府过度干预的例子，还是数字时代负责任领导力可能要求的早期信号？自澳大利亚采取行动以来，其他政府已开始讨论类似的限制措施，引发了激烈的公共讨论。这些动向共同反映出人们日益担忧：以市场驱动为主的数字平台正在如何塑造年轻人的生活。
这种担忧不仅存在于政策制定者之中，也蔓延至家庭和社区。在美国马萨诸塞州布鲁克林，家长们成立了Brookline Kids Unplugged，以鼓励儿童远离屏幕，这反映出人们对数字平台正在如何重塑童年的日益不安。
许多直接风险现已有充分记录。联合国儿童基金会（UNICEF）报告称，在许多地区，儿童接触有害网络内容的频率达到前所未有的水平，非洲和东南亚每五名儿童中就有一人遭受某种形式的网络性侵害。对女童和女性而言，情况更加令人担忧。对大规模深度伪造数据集的分析发现，几乎所有露骨的深度伪造视频都是未经同意制作的，且约99%的受害者为女性。目前可用的深度伪造工具中，有三分之一允许用户制作露骨的性内容。这些结果并非偶然；它们反映出以增长、新奇和规模优先、而非以安全为先的设计选择。
政府作为守护者
这一现实提出了一个核心问题：如何在公共利益层面治理数字创新。答案已然清晰。保护人的尊严与安全的责任不能仅交由产业界承担。政府始终肩负维护法治、保护公民免受伤害的职责。这一责任不能外包给那些激励机制受增长与利润驱动、核心目标并非保护弱势群体的私营主体。
人工智能产业仍处于萌芽阶段，这为政府提供了一个狭窄但重要的窗口，以塑造其发展轨迹。历史表明，社会往往直到损害已然发生，才对强大技术作出回应。尼克·博斯特罗姆在《脆弱世界假说》中阐述了这一危险，他认为，某些技术可能强大到一次误用就可能造成不可逆转的伤害。核武器是最明显的例子。在第二次世界大战末期广岛和长崎遭到轰炸之后，针对核武器的严肃国际治理努力才得以展开。在最糟糕的情况已经发生之后才作出反应，这一模式是我们在人工智能领域不能再重蹈覆辙的。有些风险大到不能坐等属于它们自己的广岛事件。
负责任的领导力是什么样子，已经出现了一些早期迹象。在国际层面，欧盟已开始就人工智能系统的开发与部署中的透明度、问责制和风险管理设定更清晰的预期。在美国，人工智能治理正通过拼凑式的方式逐步成型，即由州法律、联邦机构指导意见和自愿性标准共同构成。多个州已出台法律，应对深度伪造、人工智能透明度和算法歧视等问题。加利福尼亚州例如，已通过相关措施，要求在内容由人工智能生成时进行披露，并对自动化决策系统在就业等领域的歧视性使用加以限制。其他州则通过了针对欺骗性人工智能生成媒体的法律，包括用于选举或骚扰的深度伪造内容。
马萨诸塞州正通过“Project Lead”项目投资于面向教师的人工智能素养培训项目，帮助学校应对随着这些工具进入课堂，既带来机遇也带来风险。在社区层面，当地组织正借助黑客马拉松探索人工智能的积极应用，同时鼓励负责任的开发。在研究与政策界，有关偏见缓解和安全标准的早期努力正开始汇聚，形成可供其他地区借鉴的范本。要将这一共同承诺转化为具体标准，就需要在危害发生之处实施具体且可执行的干预措施。
其中一项此类干预是，要求数字平台对水印添加到人工智能生成内容上添加水印，使其在其系统上创建的合成媒体可被识别和追溯。此类系统应清晰标示内容何时由人工智能生成或经过实质性修改，并保留其来源信息。企业常辩称，用户总能找到去除水印的办法。这一风险不应削弱上述主张，反而应促使人们加大力度，研发更稳健、更持久、且难以在不明显扭曲原始内容的情况下去除的技术标记。在内容创建和传播环节落实责任，就能在危害发生之处加以应对。
过度干预，还是注意义务？
对加强国家介入的批评者提出了若干重要异议。一些人认为，政府干预存在过度干预的风险，并侵犯个人自由与自主权。另一些人则主张，技术解决方案优于法律手段，或认为危害证据尚无定论，且相关性并不意味着因果关系。还有一些实际担忧认为，基于年龄的限制措施效果不佳或易被规避，监管将扼杀创新，而儿童的数字生活应由家长而非国家来决定。
这些关切值得认真对待。然而，它们都不足以成为不作为的理由。缺乏完美证据并不能否定可信且日益增长的风险的存在，尤其是在危害对儿童和女性的影响尤为严重的情况下。当设计这些系统的企业同时也自行设定其问责的边界时，技术保障措施是必要的，但并不充分。家长责任十分重要，但当平台被设计为大规模最大化用户粘性时，它无法替代公共标准。创新繁荣的环境不在于监管真空，而在于明确的规则能够保护信任、安全与公共合法性。在高风险领域，若在行动前一味等待确凿证据或完美合规，历来都意味着行动得太迟。
人工智能时代最深刻的挑战或许并非技术性的，而是伦理性的。在哈佛大学近期的一场活动中，一位演讲者指出，人工智能时代真正的突破，将是人类保护尊严与能动性的能力。在考虑儿童问题时，这一洞见尤为迫切。对于一个最亲密的伙伴是机器人的孩子而言，这意味着什么？当算法成为安慰或认可的来源时，情感发展将如何改变？当真实体验与合成体验的界限模糊时，身份认同会发生什么？
这些问题远远超出了任何一家科技公司的范畴。它们关乎公共政策、教育、心理学以及人类的长期发展。归根结底，它们是国家责任的问题。
世界经济论坛如何帮助领导者理解人工智能并协力推动负责任的创新
人工智能卓越中心汇聚各行业领导者，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险和权衡取舍展开知情对话。
该中心通过值得信赖的交流平台和合作倡议，帮助合作伙伴建立共识，并携手推进人工智能创新与应用的负责任路径。
创新并不需要更少的治理，而需要与技术变革的规模和速度相匹配的治理。人工智能产业仍处于萌芽阶段，此刻为以不同方式行事提供了难得的机会。问题已不再是政府能否采取行动，而是政府是否会采取行动。
