2023年3月，超过33,000名人工智能行业人士签署了未来生命研究所（Future of Life Institute）的公开信，要求“所有人工智能实验室立即暂停训练功能比GPT-4更强大的人工智能系统至少6个月。”
此举旨在将人们对生成式人工智能的巨大担忧引入主流视野，并且已经取得成功。
目前正在采取措施，确保人工智能仅被用于造福人类，但人们担心由此产生的人工智能监管是否足够有效。
2023年3月，超过33,000名参与人工智能设计、开发和使用的人士签署了未来生命研究所公开信，要求“所有人工智能实验室立即暂停训练功能比GPT-4更强大的人工智能系统至少6个月。”这一要求原本并不被认为会实现，但此举旨在将人们对生成式人工智能的巨大担忧引入主流视野。2023年7月，白宫发布了一个框架，内容为人工智能监管的自愿性承诺。显然，美国决策者正在予以关注。这些保障措施的核心原则是促进“安全、保障与信任”。七家知名人工智能公司已表示同意，包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI。
它们已同意：在公开发布前对人工智能系统进行内部和外部独立安全测试；分享最佳实践；投资网络安全；为生成式人工智能内容添加水印；公开共享系统能力与局限性；并投资于减轻偏见和虚假信息等社会风险。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心汇聚各行业领导者，帮助他们理解人工智能的快速发展及其对经济和社会的影响。该中心支持围绕人工智能应用所带来的机遇、风险和权衡取舍开展知情对话。
该中心通过可信赖的交流空间和合作倡议，帮助合作伙伴建立共识，并携手推进负责任的人工智能创新与应用。
积极的启示
此次公告向市场发出了强有力的信号：人工智能的发展不应损害社会结构。它回应了民间社会团体、领先人工智能专家以及部分人工智能公司对监管需求的强调。公告还透露，即将出台关于人工智能监管的行政令和立法。最后，公告强调了国际层面正在进行的磋商，既包括与多个国家的双边磋商，也包括在联合国、七国集团以及由印度主导的全球人工智能伙伴关系框架下的磋商。这为近期及即将召开的国际峰会取得实质性成果奠定了基础，其中包括本周在印度举行的二十国集团峰会以及英国举办的人工智能安全峰会，将于11月举行。
然而，我们能否掉以轻心？白宫的公告要求坚定不移地贯彻落实。它不应只是一纸慷慨的理想宣言，却未能推动现状发生任何实质性改变。
各方担忧
这些是自愿性保障措施。它们无法对企业实现全面问责，仅仅是提出行动要求。如果企业不执行或仅勉强执行这些保障措施，目前几乎无法采取任何应对行动。此外，公告中列出的许多保障措施，都可以在这些企业发布的文件中找到。例如，安全测试，即所谓的“红队测试”，OpenAI在向公众发布模型之前即会开展此项工作，然而问题依然大量显现。
这七家企业并不能涵盖整个行业格局，例如苹果和IBM均未在列。为确保形成集体且有效的应对方式，相关机制应让每一个行为主体承担责任，尤其是那些可能存在恶意的行为主体，并激励更广泛的行业合规。
遵守自愿性保障措施，并不能全面应对人工智能模型带来的各种挑战。例如，白宫公布的一项自愿性保障措施是白宫所公布的“投资于网络安全及内部威胁防护措施，以保护专有且未发布的模型权重。”模型权重是决定功能的核心组成部分。获取模型权重，被视为在具备一定算力和数据条件下重建模型的能力指标。然而，这只是脆弱性的一个来源。例如，基于有偏见或不准确数据训练的模型，在向公众发布后，仍可能导致系统漏洞和运行故障。因此，需要设计并实施额外的保障措施，以有效应对这些复杂问题。
要求企业投资于信任与安全，这一表述含糊不清。企业内部的人工智能安全研究远远落后于开发研究。例如，在截至2023年5月发表的全部人工智能相关文章中，仅有2%聚焦于人工智能安全。在这一有限的人工智能安全研究范围内，只有11%来自私营企业。在此背景下，很难预期仅凭自愿性指导原则就能改变这一格局。
最后，人工智能模型正在全球范围内迅速开发和部署。在外国，未受监管的人工智能模型所造成的虚假信息、错误信息和欺诈等危害，产生了深远影响，甚至波及美国境内。仅仅在美国设立一个“避风港”，可能不足以抵御来自其他国家未受监管的人工智能模型所造成的危害。
因此，美国境内及与全球合作伙伴协作，需要采取更加全面和实质性的措施，以应对各类风险。首先，若能就在全球任何地方部署人工智能模型之前测试其安全性的标准达成一致，将是一个良好的开端。二十国集团峰会和英国人工智能安全峰会，是这方面的关键论坛。
其次，我们需要各国根据自身认为适当的方式，通过国家立法或行政行动，确保任何既定标准具有可执行性。欧洲《人工智能法案》可以成为这一努力的良好范例。
第三，要使这些模型安全，我们需要的不仅是原则和伦理层面的倡导，更需要工程层面的保障措施。为生成式人工智能内容添加水印以确保信息完整性，就是这一迫切需求的一个良好例子。在社交媒体平台和人工智能服务中实施身份验证机制，有助于识别和处理人工智能机器人的存在，从而增强用户信任与安全，这也可能是另一项重要举措。
最后，各国政府必须制定战略，为公共和私营部门的人工智能安全研究提供资金支持，并予以激励和鼓励。
白宫的举措标志着一项重要的初步行动。只要此次公告能够成为推动更具实质性监管措施的跳板，它就可以成为美国乃至更广范围内负责任地开发和部署人工智能的催化剂。正如公告所强调的，实施经过精心设计的“具有约束力的义务”，对于确保建立安全、可靠且值得信赖的人工智能制度至关重要。“具有约束力的义务”。
