生成式人工智能（GenAI）有潜力提升各行业和领域的生产力与创造力。
行业领袖、政府和学界必须权衡这项技术带来的机遇与新挑战，以制定构建安全、可靠、值得信赖的GenAI应用的最佳实践。
跨领域协作与沟通是实现负责任规模化发展的关键。
推动行业最佳实践的一致性，对于构建具有社会效益、避免不公平偏见、经过安全和隐私测试并对人负责的先进人工智能（AI）应用至关重要。生成式AI（GenAI）的兴起为以原则性做法引导这项前所未有的技术发展提供了机遇，并可借助共同的透明度方法来实现。
这一共同方法甚至可以包括最基本的共享GenAI定义，以促进深思熟虑且切实可行的经验分享。例如，世界经济论坛的人工智能治理联盟负责任应用与转型工作组，与论坛其他社区成员共同协助界定了负责任GenAI开发的共同术语。
世界经济论坛如何为人工智能建立防护机制？
人工智能卓越中心汇聚各行业领袖，帮助人们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险和权衡取舍开展知情对话。
通过可信赖的交流空间和协作性倡议，该中心使合作伙伴能够建立共同理解，并携手推进人工智能创新与应用的负责任方法。
正如新近发布的报告中所述，释放生成式AI的价值：负责任转型指南，我们共同界定了以下概念：
负责任的转型：指组织为利用GenAI的机遇和益处，同时降低对个人、组织和社会的风险而付出的努力与取向。这是一项贯穿组织治理、运营、人才和沟通四大支柱的战略性工作。
负责任的采用：指在组织内部采用个别用例和机会。它更具战术性，需要经过全面评估，以确保价值能够得以实现。
问责与人工智能治理
为对分享经验教训负责，自2019年起，谷歌每年发布一份年度报告，介绍我们如何将人工智能原则付诸实践。人工智能原则是我们的伦理准则，用于构建安全、可靠、值得信赖的人工智能应用。GenAI也不例外。这些原则帮助我们在产品研发的全过程中指导业务和技术决策。今年的报告提供了《人工智能治理联盟》论文中所界定的负责任转型和负责任采用的具体示例。
例如，我们正日益将人工智能原则融入整体企业风险管理框架，以确保我们产品的质量。这一演进有助于我们扩大工作规模，并将其融入现有治理体系及全公司范围的基础设施和问责流程。
谷歌的企业风险框架、工具和记录系统为人工智能相关问题的一线审查提供了基础，并有助于应对不断演变的法律、监管和标准基准的合规要求，例如美国白宫的《人工智能行政令》、七国集团关于开发先进人工智能系统组织的《国际指导原则》，以及欧盟的《人工智能法案》。人工智能行政令、七国集团关于开发先进人工智能系统组织的国际指导原则以及人工智能法案（欧盟）。
人工智能治理以及信任与安全团队与机器学习研究、产品政策、用户体验研究与设计、公共政策、法律、人权和社会科学等众多学科的团队及主题专家密切合作。
人工智能发布前评估是更大范围、端到端发布前流程的一部分，该流程包括技术安全测试以及标准的隐私和安全审查。
常见的GenAI风险与应对措施
基于2023年数百次GenAI产品发布所积累的洞察，我们提炼出了用于降低这些风险的新兴最佳实践，并在下文与大家分享。这些实践涵盖技术工具（例如SynthID或关于此图片），可在恶意行为者使用GenAI工具时帮助识别错误信息和虚假信息；也涵盖可解释性技术，例如在整个人工智能产品中持续提供解释性信息，而不仅限于决策时刻。
此外，还包括对抗性测试以及红队测试（即“道德黑客”），用于系统性地评估GenAI模型，了解其在接收到恶意或无意造成伤害的输入时的表现。
投资于GenAI风险研究
GenAI是一项快速演进的技术，其风险也在快速演变。开展基础性研究以深入了解这些风险十分重要。例如，我们近期与盖洛普公司合作，就技术相关的认知和态度展开调查，以了解拟人化如何影响人们对GenAI聊天机器人及其他技术的使用。
这些洞察帮助我们理解技术拟人化的潜在益处与危害，并推动开发新的干预措施、缓解措施和防护机制，以帮助人们恰当地使用人工智能。
我们的研究人员从以人为本的视角探索GenAI。一项由五位设计师参与的探索性研究考察了没有机器学习编程经验或培训的人员如何利用提示词编程快速制作功能性用户界面原型。我们先在内部使用了这一技术，随后将其对外推出，命名为Google AI Studio，供全球179个国家和地区的GenAI开发者使用。
跨学科的人工智能研究有助于应对社会层面的共同挑战，从预测饥饿、预测疾病到提高生产力，皆在其列。我们近期与波士顿咨询公司开展的研究合作还发现，到2030年，人工智能有潜力减少全球温室气体排放的5%至10%。
为促进以社会为中心的人工智能研究中的多元视角，我们宣布有70位教授入选2023年包容性研究资助计划，该计划支持满足全球历来被边缘化群体需求的学术研究。
协作式透明度至关重要
负责任地构建人工智能必须是集体努力。有必要主动让学术界和研究实验室，以及社会科学家、行业专家、政策制定者、内容创作者、出版商和日常生活中使用人工智能的人群参与其中。
越来越多专注于特定领域的协作论坛为人工智能治理联盟提供了信息并予以补充，例如MLCommons推动的标准人工智能安全基准的多方利益相关者开发工作。白宫赞助了在DEF CON举办的红队测试活动，超过2000人参与测试了谷歌、英伟达、Anthropic、Hugging Face等公司的行业领先大语言模型。
人工智能合作伙伴关系（Partnership on AI）推动了以下方面的协作工作：合成媒体框架、数据丰富与采集指南以及安全模型部署指南。展望未来，我们与行业合作伙伴共同成立了前沿模型论坛，旨在为前沿模型中新出现的安全和安保问题制定标准与基准。
要长期安全地维持和扩大这一协作方式，需要采取多方利益相关者参与的治理方式。跨越各行业和各国，我们可以借鉴互联网数十年发展的经验，制定共同标准、分享最佳实践，并实施与风险相适应的监管。这一努力不仅需要伙伴关系，还需要透明度。
作为一项具体行动号召，有必要制定并就行业范围的透明度文件标准达成一致，例如技术报告、模型或数据卡，以基于内部安全文档及其他模型评估细节，恰当地公开基本信息。
这些透明度工具不仅是沟通渠道，它们还能为人工智能研究人员、部署者和下游开发者提供共同指导，助力人们共同推进负责任的GenAI应用与转型。
