一份重要的新报告解读人工智能的风险与机遇

undefined
本内容由人工智能自动翻译。
  • 一份新报告刚刚发布,重点梳理了过去5年人工智能的变化,并预测了未来趋势。

  • 该报告由来自世界各地的人士共同撰写,作者背景涵盖计算机科学、工程学、法学、政治学、政策研究、社会学和经济学。

  • 过去5年间,人工智能日益融入我们的生活,变革了多个行业,但仍非毫无风险。

一份关于人工智能(AI)发展状况的重要新报告刚刚发布。可以将其视为人工智能领域的政府间气候变化专门委员会报告,它指出了人工智能目前所处的阶段,以及眼前的前景与隐患。

从语言生成、分子医学到虚假信息和算法偏见,人工智能已开始渗透到我们生活的方方面面。

报告认为,我们正处于一个转折点,研究人员和各国政府必须审慎思考并采取行动,以遏制人工智能带来的风险,并充分发挥其益处。

一项长达百年的人工智能研究

该报告源自AI100项目,该项目旨在研究和预测未来100年间,人工智能对我们生活产生的连锁影响。

AI100每五年发布一份新报告:第一份于2016年发布,本份为第二份。正如两点确定一条直线,这份第二期报告让我们得以看清人工智能正将我们引向何方。

我们中的一位(Liz Sonenberg)是监督AI100项目的常设委员会成员,另一位(Toby Walsh)则参与了撰写本报告的研究小组。小组成员来自世界各地,背景涵盖计算机科学、工程学、法学、政治学、政策研究、社会学和经济学。

AI100常设委员会主席Peter Stone在2019年悉尼RoboCup赛事中,向机器人守门员射门。Image: RoboCup / YouTube

人工智能的前景与隐患正逐渐成为现实

报告重点梳理了过去五年人工智能取得的显著进展。人工智能正走出实验室,融入我们的生活,并对“人、机构和文化产生了真实的影响”。任何一天翻开新闻,你都很可能看到关于人工智能新进展或新应用的多篇报道。

例如,在自然语言处理(NLP)领域,计算机如今已能够分析甚至生成逼真的人类语言。为作示范,我们请Open AI的GPT-3系统(迄今构建的最大型神经网络之一)为您总结AI100报告。它的表现相当出色,尽管这份以第一人称写成的摘要颠覆了我们对自我的认知:

在未来十年,我预计人工智能将在世界各地人们的生活中扮演日益重要的角色。融入人工智能的服务将更加普遍,人工智能也将日益嵌入全球人们的日常生活。

我相信,这将带来巨大的经济和社会效益,但也需要我们应对诸多挑战,以确保效益得到广泛共享,并确保人们不会被这些新技术边缘化。

人工智能研究的一个关键洞见在于:构建事物比理解其运作原理更容易。然而,要界定人工智能应用的成功标准,并非易事。

例如,医疗保健领域用于分析症状、推荐诊断或选择治疗方案的人工智能系统,往往远胜于人类所能构建的任何系统,但其成功程度难以量化。

作为人工智能近期取得显著进展的第二个例子,不妨看看谷歌DeepMind的最新突破。AlphaFold是一款人工智能程序,在预测蛋白质折叠方式的能力上实现了巨大飞跃。

这很可能推动生命科学和医学领域的重大进展,加速人们对生命构成要素的探索,并使药物研发更快捷、更精密。全球大多数人都已付出惨痛代价,深知SARS-CoV-2病毒刺突蛋白的独特形态是其侵入我们细胞的关键,也深知针对其致命蔓延而研发的疫苗正是基于此。

AI100报告认为,对超级智能机器以及自动化导致大规模失业的担忧仍为时过早,因为那需要远比当今更强大的人工智能。报告所提出的主要担忧并非智能远超人类的恶意机器,而是智能低于人类、能力不足的机器。

再次强调,新闻中不难找到由人工智能驱动的工具对民主讨论和心理健康构成风险与威胁的真实案例。例如,Facebook利用机器学习对其新闻推送进行排序,为其20亿用户中的每一位提供独特却往往煽动性极强的世界观。

算法偏见实例:“去像素化”软件使美国前总统巴拉克·奥巴马的照片看起来像白人。Image: Twitter / Chicken3gg

论坛如何帮助领导者将前沿技术与现实挑战相联结

前沿技术与创新中心汇聚科学家、政策制定者和商界领袖,共同理解新兴技术及其现实影响。

该中心通过促进合作与实验,帮助合作伙伴将研究中的创新转化为实际应用,以应对全球共同面临的挑战。

了解该中心的工作

行动的时机已经到来

显而易见,我们正处于一个转折点:对于人工智能日益广泛的应用所暴露出的弊端与风险,我们需要认真且紧迫地加以思考。人工智能能力不断提升,犹如一把双刃剑。危害可能是有意为之,例如深度伪造视频;也可能是无意造成的,例如强化种族及其他偏见的算法。

人工智能研究传统上由计算机科学家和认知科学家主导。但如今人工智能所引发的挑战不仅限于技术层面。人类知识的各个领域,尤其是社会科学,都需要纳入关于该领域未来的广泛讨论。要减少对社会的负面影响并放大积极作用,需要学界各方面的考量以及社会各界的意见。

政府在塑造人工智能的发展与应用方面也肩负着关键作用。事实上,世界各国政府已开始思考并应对人工智能带来的机遇与挑战,但它们仍然落后于形势发展。

要应对人工智能及相关领域快速演进的技术所带来的挑战,需要投入更多的时间和资源。除监管之外,政府还需要开展教育。在人工智能赋能的世界里,我们的公民,从最年轻到最年长者,都需要具备运用这些新数字技术的素养。

归根结底,人工智能研究的成功将以其如何赋能所有人来衡量,即是否有助于应对全球面临的诸多棘手问题,从气候紧急状况到各国内部及国家之间日益加剧的不平等。

如果人工智能伤害或贬损了我们本想帮助的人,那它就是失败的。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。