生成式人工智能的应用正在迅速增长，但其全部潜力尚未得到充分发挥。
由加州大学伯克利分校牵头的研究团队探讨组织内部负责任地开发和使用生成式人工智能的实践。
加州大学伯克利分校的负责任地使用生成式人工智能行动指南阐述了如何在日常工作和新产品中负责任地使用生成式人工智能。
生成式人工智能（GenAI）在全球企业中的应用持续快速增长。事实上，研究显示，超过三分之一（39.4%）的美国成年人（18至64岁）表示，他们去年使用过生成式人工智能；在各类职业和任务中，24%的劳动者每周至少使用一次，11%每天使用。
应用普及速度不断加快。一项麦肯锡2024年研究发现，前一年生成式人工智能在各地区的使用量几乎翻了一番；截至2024年8月，ChatGPT拥有2亿周活跃用户，是2023年用户数的两倍。
生成式人工智能的普及速度快于个人电脑和互联网的普及速度。热潮不但没有消退，反而愈演愈烈。创新者、企业和投资者，以及渴望在这项技术领域领先并从中获益的国家和政府，都在推动这一趋势。
事实上，汤森路透近期对全球专业人士开展的一项调查显示，95%的受访者认为，未来五年内人工智能将成为所在组织工作流程的核心。
亟需负责任地开发和使用生成式人工智能
为释放这项技术的全部潜力，越来越多的组织认识到，主动设计以原则为指导、能够创造效益的生成式人工智能应用至关重要；同时还应应对潜在风险，并透明地分享经验教训，帮助确立生成式人工智能负责任构建、测试和使用的良好实践。
研究显示，生成式人工智能领域表现突出的组织在创造最大价值的同时，也更加关注已知风险并着手应对，还努力识别和防范新的风险。
在这一早期阶段，明确新型生成式人工智能产品和服务应如何负责任地开发和使用，尤其是在产品管理层面，可能颇具挑战。
倾听负责商业和技术决策的人员对于生成式人工智能产品如何推向市场及投入使用的需求，有助于组织更好地了解可能限制或支持负责任开发和使用的因素。
认识到这一差距与机遇后，由加州大学伯克利分校（伯克利人工智能研究实验室与哈斯商学院）牵头的研究团队与来自斯坦福大学和牛津互联网研究院的研究人员一道，在谷歌的支持下，探索生成式人工智能应如何得到负责任的开发和使用。
该团队采访了25名美国的产品经理，并对来自各类公司的300多名全球产品经理开展调查。这些公司既提供生成式人工智能产品，也在内部使用这类产品。研究旨在更好地了解他们在产品开发和使用过程中落实负责任人工智能实践所面临的当前挑战。
从不确定走向行动：负责任地使用生成式人工智能
总体而言，我们的研究发现，产品经理——这一关键决策把关者——普遍需要行业通用的标准术语和实用指南，以帮助企业制定方法，将先进生成式人工智能模型和产品的负责任开发与部署落到实处。
这项研究《产品经理如何负责任地使用生成式人工智能：重新结合伦理原则与实践》显示，产品经理普遍感到不确定。这种不确定性源于生成式人工智能仍是一项新兴技术，却已迅速从实验室进入产品。它在各行业的应用仍处于早期阶段。
这种不确定性与人工智能生态系统中术语和概念缺乏标准定义有关，也反映出组织明确需要实用的负责任使用指导。尤其迫切需要制定关于模型透明度的具体标准，例如可解释性、说明模型如何构建以及如何进行安全测试、知识产权保护、模型安全等。
透明度（或缺乏透明度）是一个关键议题。这项研究指出， 人们认为缺乏透明度不仅加剧了不确定性，也阻碍产品经理采用和信任生成式人工智能模型。其他研究也展示了透明度与采用之间的联系。例如，在对机器学习平台 Hugging Face 上模型使用情况的分析中，研究人员发现，带有透明度相关材料的模型下载量显著高于没有此类材料的模型。
最后，激励机制也很重要。我们的调查受访者中，只有19%表示所在组织设有鼓励负责任使用生成式人工智能的激励措施；这些激励往往与按传统方式发布产品、加快进度挂钩。
积极的一面是， 在制定了人工智能原则并获得领导层支持的组织中，产品经理与负责任人工智能团队或信任与安全团队合作的可能性接近其他组织的3倍，落实保障措施和标准（例如偏见评估）的可能性则为2.4倍。
此外，即使身处充满不确定性的环境，产品经理也表示会采取 细微的负责任行动，例如个人或团队审查、落实客户数据保护标准，并设法使行动与公司价值观保持一致。
鉴于需要实用指南来指导生成式人工智能的负责任开发和使用，并支持整个领域的发展，我们的研究团队以研究成果为基础编制了一份行动指南。该指南已由谷歌的产品经理和行业内的产品经理参与测试。
负责任地使用生成式人工智能的关键方法
负责任地使用生成式人工智能行动指南 列出了10项行动——面向企业领导者的五项和面向产品经理的五项——展示如何在日常工作和新产品中负责任地使用生成式人工智能，并提供配套资源和工具。
面向企业领导者的五项行动：
确保领导层认识到负责任使用生成式人工智能的价值，制定负责任的人工智能原则，并向所有员工传达组织对责任的承诺。
实施相关政策和配套标准，确保负责任地使用生成式人工智能。
建立全面的负责任人工智能治理框架，明确关键角色、设立组织架构，并营造共同承担责任的文化。
调整激励机制，使绩效、产品开发和衡量指标与责任要求保持一致。
实施有针对性的培训，弥补能力差距并支持负责任地使用生成式人工智能。
面向产品经理的五项行动：
开展“直觉检查”，评估工作使用场景和产品开发中的责任风险。
根据需求和潜在风险，为生成式人工智能产品选择模型。通过记录模型和微调数据，并突出关键考量，确保透明度。
对生成式人工智能产品开展风险评估和审计，纳入跨职能团队、专家监督以及符合组织原则和核心风险的工具。
开展红队测试和对抗性测试以发现漏洞，同时持续收集并回应用户反馈。
跟踪你的细微负责任行动——这些简单而有影响力的行动体现了负责任的决策——并在绩效评估中展示这些行动。
行动指南助力生成式人工智能时代的转型
负责任地使用生成式人工智能 人工智能行动指南为世界经济论坛第四次工业革命中心在人工智能治理联盟框架下开展的跨行业倡议及其持续工作提供了实用补充，具体包括近期推出的《智能时代的行业》白皮书系列。
世界经济论坛如何为人工智能构建护栏？
人工智能卓越中心连接各行业领导者，帮助他们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关机遇、风险和权衡开展知情对话。
通过可信赖的交流空间和协作倡议，该中心帮助合作伙伴增进共同理解，并携手探索人工智能创新与应用的负责任方式。
这项倡议提出的问题是：在人工智能和生成式人工智能时代，行业领导者如何以负责任的方式推动增长与转型，让企业和社会都从中受益？
这份行动指南提供了结构化指导，说明企业领导者和产品经理如何通过与战略重点相契合、可付诸行动的步骤，将新兴的负责任生成式人工智能实践系统地融入日常工作流程和产品开发。
这篇深度分析强调，组织需要借助生成式人工智能，从零散的人工智能使用场景转向富有愿景且切实可行的全企业转型。
