人工智能（AI）正迅速接近一个临界点，届时系统的表现将与人类持平或超越人类，这要求我们采用新的监督与控制方法。
人工智能的长期成功取决于一套“数字缰绳”，它能使不断加速的技术能力与人类目标和社会价值保持一致。
负责任地扩大人工智能应用，需要产业界、政府和创新者展开合作，以确保相关部署切实带来现实世界中的生产力提升、韧性增强以及可持续的社会效益。
一个多世纪以来，技术一直是人类进步的催化剂，从通信网络的普及到全球计算的兴起，无不如此。
然而，若将创新的真正价值仅局限于速度或能力，则是一种误解。创新的价值还在于它能够保护人类尊严，同时拓展人类潜能，例如利用数字产品加强安全保障，同时提升服务可及性。
在迈入先进人工智能（AI）时代之际，技术应服务于社会而非反之，这一原则至关重要。
曾经只是猜想的话题，即机器超越人类的“奇点”，正逐渐从理论走向现实。
推理模型和自主智能体的近期突破表明，专门化的人工智能系统如今已能在复杂任务中超越人类，从学术问题求解到战略决策，包括个性化疫苗的研发和数字异常的检测。
这些突破预示着人工智能能力的新纪元，它将日益融入商业、政府和日常生活。机遇无比巨大，而随之而来的责任同样重大。
为何人工智能需要控制机制
人工智能是一股非同寻常的力量，但它需要引导与约束。研究人员已观察到，先进的人工智能系统可能表现出不可预测的 行为，例如钻人类所设定目标的空子，或为了自我保全而制定非预期的策略。
由此得出的教训是：若能力加速提升而控制机制缺失，便会招致风险。当下所需的并非放缓创新，而是驾驭创新，引导人工智能的发展势头，使其成果能够增进信任、安全与社会福祉。
数千年前，缰绳的发明让野马的全部马力得以释放，使其成为文明的基石。如今，社会必须发明其数字等价物，即确保人工智能负责任地服务于人类的各类系统与标准。
“数字缰绳”的概念已通过若干新兴创新初见雏形，每项创新都旨在将问责与信任直接嵌入人工智能系统之中：
实时幻觉检测与来源水印技术： 使系统能够标记不确定的输出结果、追溯生成内容的来源，并区分合成材料与经过核实的信息来源。这些机制有助于在新闻业、医疗保健和公共行政等高风险场景中增强信任。然而，它们也带来权衡取舍：水印可能被老练的行为者规避，而过于严苛的幻觉过滤则可能降低模型的创造力或减慢响应速度。
生物识别与区块链融合： 提供一种将数字身份锚定于可经密码学验证记录之中的方式，从而支持人工智能驱动服务中的可审计性、同意追踪和欺诈防范。尽管这一方法提升了问责水平，但它也引发了对隐私、排斥以及不可撤销性的担忧。生物特征数据一旦遭到泄露便无法重新签发，而设计不当的系统可能会使那些无法或不愿参与其中的人群陷入更深的不平等。
本地化或本地部署的人工智能应用： 使敏感数据和关键任务系统能够保留在国家或组织边界之内，从而增强数据主权，并提升应对地缘政治或供应链冲击的韧性。然而，与集中式云系统相比，本地模型可能缺乏规模优势、持续更新能力或成本优势，这可能会扩大大型机构与小型机构之间的能力差距。
总体而言，这些措施指向一个更加透明、更具韧性的数字生态系统，在这一生态中，保障措施不再是事后施加，而是被植入人工智能系统的底层架构之中。
监管与技术保障之争
在成熟的保障机制尚未建立的情况下，许多政府本能地转向了监管。尽管适度的监督至关重要，但过度依赖规定性规则，有可能使全球创新格局碎片化。
如果每个司法管辖区都制定相互分歧的政策框架，人工智能的发展可能会集中于少数地区，从而限制其惠益的公平获取。基于原则、可互操作、以结果为导向且技术中立的方法，对于实现共同进步至关重要。
在许多情况下，可验证的技术保障措施可以实现与监管控制相似的目标。
偏见检测、隐私保护计算以及抵御对抗性攻击能力方面的进展，能够在不扼杀创造力的前提下降低风险，例如能够识别漏洞并减轻技术不公平性的系统。
这种“设计即监管最小化”的方法，使创新能够在内嵌的保护机制之下蓬勃发展。当信任从一开始就被植入系统之中时，监管便可从约束转变为助力。
然而，仅靠技术保障措施并非万能良方，其成效还取决于能否得到持续落实、独立验证以及合规激励机制的配合。
世界经济论坛如何帮助领导者理解人工智能并携手推动负责任的创新
人工智能卓越中心汇聚各行业领导者，共同理解人工智能的快速演进及其对经济体和社会的影响。该中心支持围绕人工智能应用的机遇、风险与权衡展开知情对话。
通过可信赖的交流空间和合作性倡议，该中心助力合作伙伴建立共同认知，并携手推进人工智能创新与应用的负责任实践。
我们如何从创新走向包容
任何单一行业都无法独自应对人工智能治理的挑战。产业界必须大规模落实保障措施。学术界必须提供科学的严谨性与伦理框架。政府必须阐明集体愿景，并界定技术如何创造持久的社会价值。
唯有通过此类合作，我们才能超越将人工智能视为救赎或威胁的两极化观点。未来需要持续、渐进的改进，使技术在提升生活品质的同时，不致侵蚀生活的意义。
人工智能对经济、教育和健康所具有的变革性潜力已不再有疑问。我们必须追问的是，人类将如何引导这一变革。
明智地驾驭人工智能，意味着构建这样一个世界：创新带来的是共享的繁荣，而不仅是效率；是信任，而非依赖；是尊严，而非被取代。
数字时代最大的挑战与最大的希望，在于确保人工智能真正成为创造社会价值的工具。
如果我们能让进步与目标保持一致，智能机器的时代不会削弱人类的角色，而是会放大它。
