本期为我们人工智能播客系列的最后一集，重点回顾了世界经济论坛“夏季达沃斯”——新领军者年会（AMNC）在中国天津举行的情况。
人工智能专家在世界经济论坛于中国天津举办的新领军者年会上呼吁设立防护措施，并推动负责任的设计与部署。
专家们表示，关键领域的最终决策必须由人来做出。
消除偏见并确保透明度的措施同样至关重要。
收听最新一期节目。
政府、科技行业和学术界的领导者已认识到生成式人工智能的巨大潜力，但同时呼吁设立一系列保护性防护措施，以确保智能技术得以安全部署，并造福所有人。
这些专家在世界经济论坛的两场会议上发言，会议地点为新领军者年会（中国天津）。
论坛人工智能、数据与元宇宙负责人兼执行委员会成员Cathy Li在近期一期《达沃斯电台》节目中为讨论定下基调：“每个人都必须理解，我们在这项新技术中看到的巨大潜力，以及随之而来的挑战和责任。”
以下是这两场关于人工智能未来会议的要点。
注：本文基于自动生成的文字记录撰写，部分引语经过删减和语法润色。
世界经济论坛如何确保人工智能的伦理发展？
如何监管一项可能改变人类文明的技术
在“生成式人工智能：朋友还是敌人？”会议上发言的香港科技大学电子及计算机工程学系讲座教授Pascale Fung表示，世界正面临强大且富有创造力的模型，这标志着“人类文明的一次量子跃迁”。
Fung接着说道：“我们必须建立一个负责任的生成式人工智能模型开发框架，不仅要让人类参与其中，更要从根本上理解这些模型，并使其与人类的期望保持一致。”
与会小组成员一致认为，防护措施对于安全部署人工智能至关重要，但同时也认识到，对人工智能潜在负面后果的担忧不应拖慢发展步伐。
斯洛文尼亚数字化转型部部长Emilija Stojmenova Duh表示：“人工智能确实可以推动创新”，并补充说，恐惧不应阻碍这种创新。“当然存在恐惧，但我相信，如果我们一直谈论这些恐惧，就可能会失去这一潜力。”Stojmenova Duh随后谈到了她对人工智能最大的担忧，包括人工智能在教育中的作用，以及人工智能系统中固有的偏见。
“我看到了巨大的潜力，我的担忧是，我不太确定教师是否知道如何使用人工智能，是否理解生成式人工智能的含义以及他们该如何使用它。而我最大的担忧是人工智能中的偏见。世界上已经存在刻板印象和偏见。我们需要找到方法，消除人工智能中的刻板印象和偏见，并确保它们不会在我们的社区中造成额外的分裂。”
CausaLens首席执行官Darko Matovski认为，人工智能驱动的创新所带来的益处必须以透明度作为支撑。他向小组表示，要建立信任，人类必须能够理解人工智能系统的运行方式及其做出的决策。“约85%的人工智能项目从未走出实验室，其根本原因在于……人们实际上并不信任算法。生成式人工智能有很多用途，但在涉及决策时，人们确实需要理解算法在做什么。人工智能必须解释它为何做出某项决定。如果它遇到过去从未见过的数据点，它必须能够解释将会怎样做。”
谁来制定人工智能的监管规则？
在第二场会议“与时俱进：人工智能革命中的人工智能准备度”上，与会小组成员讨论了谁应当承担人工智能监管的责任。这一责任应由政府承担，还是应交由科技行业自我监管？
“作为政府，我们无法监管我们所不了解的事物，”卢旺达信息通信技术与创新部部长Paula Ingabire说道。Ingabire接着阐述了公私合作的监管方式如何能够带来最佳成效，她向小组表示：“每个人自然都会认为政府应当发挥主导作用，对此我表示赞同。这里非常重要的一点是，仅靠政府自身无法完成这一任务。你们需要一种伙伴关系和协作，并厘清谁应发挥更重要的作用。”
Emilija Stojmenova Duh指出，政府在未充分了解人工智能的风险与潜力之前便匆忙进行监管存在隐患，她向小组表示：“如果我们想要监管某项事物，最好先花些时间，看清我们究竟想要监管什么。”这位部长警告称，人工智能的发展速度可能会让立法者措手不及，导致监管要么不足以控制风险，要么扼杀积极的创新。
赫蒂商学院伦理与技术教授Joanna Bryson向小组表示，人工智能开发者和监管者能否就人工智能可能产生的影响提出正确的问题，至关重要。她建议，应更加注重确保人们在人工智能时代感到安全，而不是试图说服他们信任人工智能。
“我们非常需要考虑那些因人工智能而失业的人。当人们遭遇意外的生活变故时，他们是否有可能继续支付房租或房贷？政府在帮助我们所有人应对变化方面发挥着重要作用。我们目前面临信任挑战，部分原因在于我们知道自己没有获得应有的信息，而且透明度也不够。我认为，重要的是我们要认识到，我们身处信息时代，我们必须做有利于民众的事情。”
世界经济论坛已推出人工智能治理联盟，这是一项专注于负责任的生成式人工智能的专项倡议。该倡议在现有框架的基础上进一步拓展，并以建议为基础，这些建议来自“负责任的人工智能领导力：生成式人工智能全球峰会”。
