本月，来自各议题领域的专家齐聚世界经济论坛全球未来理事会年会。
计算机科学家斯图尔特·罗素教授向与会者表示，世界需要超越人工智能的“万能论”。
罗素表示，人工智能面临的一些最大挑战需要通过新的合作形式，以及提出正确的问题来解决。
从模拟分子快一百万倍（相较十年前），到将人工智能（AI）应用于优质医疗服务，人工智能应用为推动商业发展、改善民生和应对全球挑战提供了诸多潜在机遇。
但人工智能并非万能的问题解决者，要超越“万能论”，关键在于更清楚地认识人工智能是什么、不是什么。加州大学伯克利分校计算机科学教授斯图尔特·罗素表示。
他在开幕全体会议上发言，该会议是世界经济论坛全球未来理事会年会。罗素解释说，“万能论”是一种认为只要有足够的数据，机器学习算法就能为我们所有问题提供解决方案的态度。他还谈到了如何消除人工智能中常见的误解，以及如何最好地推动这一研究领域的发展。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心将各行业领导者联系在一起，帮助他们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险和权衡进行知情对话。
通过值得信赖的交流空间和合作倡议，该中心使合作伙伴能够建立共同理解，并携手推进负责任的人工智能创新与应用。
什么是人工智能？
罗素首先指出，许多人每天都在报纸头版看到某个概念，却很难给它下定义，这一点可能令人意外。
一种常见误解是把人工智能视为一项技术。罗素解释说，“人工智能是一门研究领域，而非一项技术”，其定义取决于如何开发能够执行通常与智能生物相关任务的机器这一问题。
第二种误解是认为人工智能是新事物，而事实上，它已经发展了80年。不过，他补充说，如今进步的速度是新的。
进展似乎正朝着研究之初就提出的目标加速推进，即制造在各类可想象任务上达到或超越人类表现的机器。
“如果我们正在创造比我们自身更强大的系统，那么就有一个显而易见的问题：我们如何能永远保持对比我们自身更强大的实体的控制权？”他说。
“计算机科学的奠基人艾伦·图灵于1951年发表演讲，称‘一旦机器开始思考，它很快就会超越我们脆弱的能力。在某个时刻，我们将不得不预料机器会掌控局面。’因此，这就是他的答案：我们无法维持这种权力，”罗素说。“可以确定的是，在制造出比我们自身更强大的机器之前，我们最好先就这些问题给出答案。”
当被问及世界经济论坛人工智能未来全球未来理事会在这一问题上的进展时，罗素回应说：“对于这个问题，我们有一些部分答案，但这些部分答案尚未达到可投入市场的程度。
“它们不具备可扩展性，无法与企业正在推出的技术竞争，也无法与企业每月投入数百亿美元进行开发、扩大规模并使其变得更加强大的技术竞争。”
他补充说：“这些技术根本不可能是安全的。我们将无法控制它们，因为我们甚至不了解它们的运作方式。”
“因此，我们必须提出的问题是：政府应如何制定法规，以确保企业在设计上就构建安全的人工智能系统，而不是先构建人工智能系统，再试图使其变得安全，结果却失败。”
维持对人工智能的控制需要什么？
罗素表示，人工智能领域的一些最大挑战需要通过合作以及提出正确的问题来解决。
他补充说，与其他行业不同，数字行业没有相同的二级研究或影响报告来指导其发展。“我们编写了数百万行软件并将其投放到世界上，不管世界是否喜欢。”
这种做法没有考虑某类软件的情境，或者更确切地说，没有考虑其社会技术嵌入性。
“当你把一大块软件放到世界某个特定地方时会发生什么？比如说，你有一款为医院急诊病例进行分诊的软件，把它放进急诊室，会发生什么？”
“它是让事情变得更好还是更糟？在计算机科学中，我们不问这个问题。我们问的是，它擅长分诊吗？但这并不是正确的问题，”罗素强调。
“正确的问题是它让事情变得更好还是更糟，”他解释说，并指出在开发软件时，需要社会学家、经济学家、商业专家等人士的帮助，共同探讨应提出哪些正确的问题。
从长远来看，提出正确的问题至关重要。例如，当机器能够比我们更好地完成许多任务时，人类将扮演什么角色？如果我们拥有通用人工智能，人类能否与之共存？当机器在各方面都比我们做得更好时，人类将扮演什么角色？
最后，“在拥有这项技术的同时，我们希望拥有怎样的未来——一个充满活力、具有前瞻性、并且希望比现在好得多的文明？如果你无法设想这样的未来，无法描述它，那么你就必须思考：我们为什么还要走向那里？”
“这是关乎我们整个文明的问题，”他解释说。
社会信任人工智能吗？
了解各社会是否信任人工智能，对于理解这些观察结果至关重要。
可以确定的是，各国对人工智能的信任程度差异显著在一项全球调查中，印度有75%的受访者表示较为愿意信任人工智能，而爱沙尼亚、日本或芬兰则不足30%。
不同行业的接受度差异也很大，其中44%的人愿意信任人工智能在医疗保健领域用于诊断和治疗，另有31%的人态度矛盾。
人们更愿意信任医疗领域的人工智能，很可能是因为改进的医学诊断和治疗精准度能为患者带来显著的即时益处，同时许多国家的人们对医生也更加信任。
在信任程度各异的背景下，随着技术突破已在改变我们所处的各类系统，政府制定法规以确保人工智能系统的安全性，以及维持对人工智能的控制，这些问题可能比以往任何时候都更为重要。
有鉴于此，我们所有人都需要思考：在人工智能与充满活力、具有前瞻性的文明并存的未来，究竟是什么样子。
