生成式人工智能对创意产业的影响,以及我们必须建立的伦理与治理机制

undefined
本内容由人工智能自动翻译。
  • 生成式人工智能(GenAI)正在变革媒体、娱乐和体育产业。

  • 人工智能的蓬勃发展为创意产业带来机遇,同时也带来若干必须应对的挑战。这些挑战需要以人为本、整体性的方法加以应对。

  • 《智能时代的产业:媒体、娱乐与体育》报告旨在为商业领袖及其他利益相关方提供指导,助力其在推动创新的同时,构建健全的治理体系并深化多方协作。

互联网的出现使我们与内容的互动走向数字化;15年前,用户生成内容平台兴起,开启了新纪元。这一新范式与大众媒体模式并行出现。

这场变革如今正迈入下一阶段,生成式人工智能(GenAI)的出现可能会从根本上改变我们创作内容和与内容互动的方式。

当前正在发生的变化之深刻,可与印刷术的出现相提并论——当时,书面材料得以大规模传播。

当时的这场变革曾引发社会激烈讨论:新世界需要怎样的制度与框架。人们探讨了如何奖励创造力,由此催生了知识产权框架与版权制度;也探讨了如何确保信息对读者而言是可信和透明的。这促成了作者身份制度与出版商等机构的出现,以及其他相关机构。

我们今天面临的问题,其重要性与之相当。

生成式人工智能触及深刻的人类创作过程的核心,影响着所有消费者和创作者的生活,无论他们是业余爱好者还是专业人士。这关系到我们如何表达自我、获取信息、学习,以及如何借助娱乐内容享受闲暇时光。

虽然生成式人工智能无疑将拓展可能性的空间,使更多人(包括缺乏深厚技术或艺术技能的人)能够加入创作者的行列,但确保这项技术的发展惠及人类至关重要。

在这一新时代,人类创造力的价值应当得到保护,因为个人故事、情感共鸣和文化细微差别等独特的人类要素将依然存在。

我们尚处于起步阶段,个人和企业仍在试验这项技术,应用尚处于早期阶段。

创新与责任

生成式人工智能最具前景的应用之一,是利用对话式界面生成新内容,或对现有内容进行翻译或转换。例如,根据文章和博客帖子生成视频或播客,或通过生成剧本或分镜头脚本的多个版本辅助构思,使创作者能够更快地探索各种选择。

企业可以利用生成式人工智能,根据用户输入和数据(在用户知情同意的前提下)动态定制内容,并在创作过程的每个阶段借助所获取的洞见持续优化和提升内容。基于人工智能的搜索体验的出现,可能会改变人们获取信息的方式,其影响类似于搜索引擎和社交媒体出现时的情形。

然而,这些进步背后也存在重大挑战,可能对社会产生负面影响,并阻碍其广泛应用。人们担忧数据隐私、知识产权侵权、伦理问题、对信息生态系统的负面影响、偏见与不准确风险,以及潜在的就业岗位流失。

早期采用者总结的职场人工智能五大经验教训
早期采用者总结的职场人工智能五大经验教训
02:35

近来深度伪造技术的扩散,加剧了人们对其被不当用于制造虚假信息或其他有害内容的担忧。尤其值得关注的是,未经同意的成人图像或深度伪造内容的数量正在增加。

此外,好莱坞的罢工活动使创意从业者对人工智能可能贬低其贡献或在未经适当同意的情况下使用其肖像的担忧受到关注。人们担心生成式人工智能的出现可能对人类艺术家产生负面影响或削弱其角色,这已引发了社会层面和整个行业范围的广泛讨论。

推动创新对释放生成式人工智能的全部潜力至关重要,同时也需要健全的治理机制来应对新出现的挑战。

欧盟《人工智能法案》和美国《深度伪造问责法案》等法规正在出台,但各地区的推进速度和监管路径存在差异。与问责框架相关的一些宏观问题仍未得到解答。

随着人工智能的复杂程度不断提升、监管环境持续演变,自我治理可用于增强灵活性、降低风险,并对监管工作形成有益补充。

在此背景下,业界有机会携手合作,共同制定通用原则和框架,分享最佳实践与经验教训,促进跨行业合作,并为未来的监管工作提供参考。

可扩展的生成式人工智能解决方案

近期的发展展现了媒体机构的不同应对路径。一些机构通过商业诉讼,以获取因使用内容训练人工智能算法及知识产权侵权而应得的合理报酬。

近期案例包括《纽约时报》起诉OpenAI,以及《华尔街日报》起诉Perplexity AI。其他机构则通过定制协议开展合作,相关范例包括Axel Springer SE和NewsCorp,两家公司均与OpenAI签署了协议。

制定训练数据的通用授权框架及类似的共享机制,将有助于形成可扩展的解决方案,包括惠及当地新闻机构等规模较小的参与者。

北欧国家可为此提供参考范例:大型媒体机构与规模较小的机构展开合作,在技术、产品管理和授权等多个合作层面建立了共享框架。

例如,2020年,Schibsted与挪威媒体集团Polaris Media展开合作。后者旗下拥有42家媒体机构,Schibsted向其提供了专有技术平台,该平台支持从内容制作到在线及移动端出版的整个编辑工作流程。

世界经济论坛如何为人工智能构建防护框架?

人工智能卓越中心该中心汇聚各领域的领导者,共同理解人工智能的快速演进及其对经济体和社会的影响。它支持就人工智能应用所涉及的机遇、风险和权衡取舍开展知情对话。

通过可信赖的交流平台和协作倡议,该中心助力合作伙伴建立共同认知,并携手推进人工智能创新与应用的负责任方法。

了解该中心的工作

去年,Schibsted与挪威人工智能创新研究中心(NorwAI)联手,邀请挪威所有媒体公司参与合作。作为该倡议的一部分,他们提供了数千篇文章,用于训练挪威首个生成式语言模型,旨在打造一款本土化的ChatGPT替代方案。

在这一复杂的环境中,《智能时代的产业:媒体、娱乐与体育》报告旨在为商业领袖及其他利益相关方提供指导,助力其在推动创新的同时,构建健全的治理体系并深化多方协作。

这项新兴技术的潜在影响,需要广泛吸纳产业界、政府、民间社会、劳工以及理解人类心智与社会的科学和人文学科专家(如心理学、社会学、人类学等)的参与。

唯有采取整体性、以人为本的方法,我们才能负责任地驾驭生成式人工智能的力量,为产业和社会构建可持续、负责任的未来。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。