围绕人工智能(AI)发展的激烈争论,常常受到伦理担忧的影响,而这些担忧可能引发人们对这类技术的恐惧。
关于人工智能技术的发展、复杂性和风险性的错误信息,正在阻碍对这一问题的恰当辩论。
然而,这项技术能够而且应当处于我们的掌控之下,认识到这一点将有助于凸显人工智能持续发展的益处。
当前围绕人工智能、伦理以及其对全球社会益处的讨论十分激烈。高风险与一项复杂且被迅速采用的技术相结合,使这一讨论围绕着一种切实存在的紧迫感和强烈态势。
技术的推崇者喜欢将人工智能定位为一种令人欢迎的颠覆者,认为它可能带来全球性的变革。与此同时,反对者则倾向于强调可能的灾难:人工智能可能发展成超级智能,棘手的伦理问题如经典的电车难题,以及切实存在的后果(由算法偏见所致)。
人们很容易陷入炒作之中,从而导致世界无法充分受益于人工智能技术的发展。相反,我们应当花一些时间,对人工智能伦理领域中争相吸引我们注意力的众多声音形成批判性的看法。
我们应当花一些时间,对人工智能伦理领域中争相吸引我们注意力的众多声音形成批判性的看法。
Ted Kwartler 与 Sarah Khatry,DataRobot;Kay Firth-Butterfield,世界经济论坛
其中一些声音来自那些意识到自身在采用人工智能技术方面进展过于缓慢的企业。另一些则来自那些较早大力投入人工智能、并借助行业混乱和监管缺位而从事不良做法的企业。最后,在这个网红影响力盛行的时代,还有一些人借探讨人工智能伦理来打造个人品牌,有时却并不具备所需的专业知识。
确立事实
显然,这一领域布满陷阱,但我们必须勇敢面对。这一讨论至关重要,不容忽视。有鉴于此,以下是一些应当用于为本次辩论提供参考的关键事实:
1. 关于通用人工智能(AGI)即将到来的报道已经严重夸大。
通用人工智能指的是比标准人工智能更为广泛的机器智能形式。它涵盖具备一系列认知能力、并能够学习和规划未来的机器。它是科幻书籍和电影中技术的现实版本,在那些作品中,计算机在智能和推理方面可与人类匹敌。
然而,随着过去几十年我们对人工智能了解的增多,我们对通用人工智能到来时间的估计变得越来越不乐观。相反,当今世界中几乎所有的人工智能系统都属于一个称为机器学习(ML)的子类别,这类系统极其狭窄,且仅通过示例进行学习。这些机器并不会独立思考。
事实上,目前一些自我标榜为人工智能的工具,实际上远比机器学习更为古老。它们基于较为简单的统计、专家或基于逻辑的算法。然而,我们在文化上对智能的过度强调,助长了人工智能的拟人化,从而削弱了人类的问责意识。
2. “人工智能是黑箱”的观点是一种误解。
机器学习算法的复杂程度确实各不相同,其中一些比其他算法更易于被人类解释。话虽如此,人们已开发出多种工具和技术,用以探查即便是最不透明的算法,并量化它们对不同输入的响应方式。问题在于,对某些算法利益相关方而言,这些工具可能相当技术化。多种的工具和技术已被开发出来,用于探查即便是最不透明的算法,并量化它们对不同输入的响应方式。问题在于,对某些算法利益相关方而言,这些工具可能相当技术化。
当一个人工智能系统因理解不足而无法被可靠依赖时,它或许不应被部署于敏感场景。在此类情况下,应当进行进一步的审查,或实施行为护栏,以确保该系统能够以清晰且安全的方式部署,从而保障用户和其他利益相关方的安全。“人工智能是黑箱”绝不应被用作推卸人类决策者责任的借口。
3. 人工智能并非首个同时承诺巨大风险与巨大机遇的技术。
除了诸如电车难题之类备受争议的道德困境之外,人工智能如今还面临另一类伦理问题。这些问题或许较为低调,不那么引人注目,但它们最终将产生更广泛的人类影响。
要妥善应对这些问题,需要运用系统安全方法对人工智能进行清晰、冷静且全面的评估,该方法可识别与安全相关的风险,并通过设计或流程加以管理。核电、航空和生物医学等诸多行业之所以发展成为安全可靠的行业,很大程度上正是得益于对此类基于风险的系统安全框架的严格实施。
维持对人工智能发展的掌控
我们需要如实地审视并分析这项技术。简单的事实依然是:在当下及可预见的未来,所有人工智能都由基于机器学习的系统构成,也就是受代码和人员所管理的先进统计算法。这些系统能够而且应当处于我们的掌控之下。风险可以被列举、缓解和监控,从而将混乱带来的危机转变为服务于我们共同进步的成熟技术。
那些假称我们没有能力治理并负责任地部署[人工智能]的人,是在散布谎言。
Ted Kwartler 与 Sarah Khatry,DataRobot;Kay Firth-Butterfield,世界经济论坛
这一观点日益获得关注,并开始切实影响人工智能的发展。最新的拟议法规例如,欧盟通过界定高风险用例等方式,朝着正确方向迈出了重要一步。数据科学界希望构建符合社会价值观并能改善结果的模型。欧盟这一经过深思熟虑的提案,将通过统一从业者的预期,推动创新和产业增长。
那些假称我们没有能力治理并负责任地部署这项技术的人,是在散布谎言。人工智能行业在当下及未来拓展这项技术的边界方面,无疑面临重大挑战。通过合作、清晰的认知和务实的态度,我们可以做好准备,迎接这一挑战。


