我们是否应该担忧先进的人工智能?

我们是否应该担忧先进的人工智能?
本内容由人工智能自动翻译。

本文与 The Conversation合作发表。

更智能、更无处不在的人工智能(AI)发展即将随着 谷歌本周的宣布 而进入加速阶段:其第二代机器学习系统 TensorFlow将免费向所有想使用它的人开放。

机器学习模拟人脑认识世界的方式,识别模式与关系、理解语言并应对模糊性。

这一技术已为谷歌的图像与语音识别、外语翻译以及其他多种应用提供智能支持。

这是一项有价值的技术,现已开源:源代码可自由获取,可被修改、朝新方向开发并再分发,其开放方式与Linux操作系统相同。

谷歌将其人工智能开发软件 TensorFlow 免费提供。

151116-Google Tensorflow 人工智能技术 Tensorflow.org

来源:Tensor.org

这些算法中蕴藏着金矿。

对富有想象力的商业开发者和科学家而言,这里蕴藏着淘金般的机遇,可以以各种方式利用 TensorFlow 增强的能力。

例如,一款多语言虚拟助手(VA)可以借助其对您日常活动模式的了解,结合改进后的自然语音、图像与模式识别能力,预判您的需求,知晓您何时想要什么、以何种方式需要。它还可能运用增强现实技术,将声音、视频、图像或GPS信息叠加到现实环境之上。

除了作为直观的虚拟助手,TensorFlow 以及微软和IBM的同类系统还可以受命在海量数据集中搜索对您有价值的信息,无论是用于研究、商业智能、公共安全,还是其他任何产生数据的领域——而如今这几乎涵盖了一切。

通过将 TensorFlow 开源,谷歌正在下一盘长局。它正将自身定位于一个不断壮大的机器学习社区的核心,而非通过出售软件或将其据为己有来追求短期利润。假以时日,这样一个开放的社区必将涌现出无数意想不到的发展。

但谷歌还需努力说服生存风险怀疑者,表明其仍坚守“不作恶”的经营理念。

我们是否应该担忧先进的人工智能?

与您生活息息相关的直观应用将大量涌现,因为人们需要它们,而且大量研发投入正致力于让底层的感知与理解引擎正常运转。此外,既然 TensorFlow 已可免费获取,将有更多参与者加入这场竞争。

有些人会非常担忧,另一些人则会感到欣喜。

微软创始人 比尔·盖茨 和理论物理学家 斯蒂芬·霍金 对此持怀疑态度,而麻省理工学院的 罗德尼·布鲁克斯 等人则认为,极端的人工智能预测“好比看到更高效的内燃机[…]并由此得出结论:曲速引擎即将问世”。

回顾历史,便可发现末日预警不胜枚举。小行星、地震、海啸、飓风与气旋、瘟疫与疾病、干旱与暴雨,我们始终面临这些威胁。但我们依然在这里。

自20世纪40年代以来,我们一直面临核毁灭的威胁,而近来又面临灾难性气候变化的威胁。如今,还可以将邪恶(或不道德)的机器人加入这份清单。怀疑者称,不受约束的人工智能将变得极其聪明,以至于它可能判定人类是一种瘟疫物种,应当被灭绝。

拨开末日论的喧嚣,较为温和的人或许会认识到,有必要制定人工智能安全协议和风险管理策略,并将其推广给行业领袖与政策制定者,正如位于剑桥大学的 Centre for the Study of Existential Risk 所建议的那样。

人工智能的未来

创新史清楚地表明,新技术,尤其是颠覆性技术,会对公众舆论产生两极分化的影响。它会形成两大阵营:乐观派与悲观派、乌托邦主义者与反乌托邦主义者。随着相互冲突的叙事争夺主导地位,各方争论异常激烈。

假以时日,舆论的钟摆会来回摆动,争论的热度会逐渐消退,极端观点也会趋于温和。中间立场会逐渐被一种综合性观点占据,这是经过充分辩论、或多或少已达成共识的妥协。不过,这是一个缓慢的过程。

谷歌将 TensorFlow 开源发布,将对人工智能的未来产生何种影响,值得拭目以待。

我想冒险做一个预测:关于强人工智能的争论在数年之后将走向何方——它本身无所谓好坏,只是一种工具,可以以无数有益的方式加以应用,前提是它在开发时配有具有法律约束力的安全协议,以防止或限制其使用过程中可能造成的危害。

在日常生活中,我们如何安全地使用具有潜在危险的技术,已有大量先例,例如机动车。

我们不会某天早晨醒来,发现我们信赖的家用机器人正在割我们的喉咙;也不会有过于狂热的人工智能工厂控制器为了效率而决定消灭所有人类工人。

刊登本文并不意味着世界经济论坛认可其中观点。

如需及时了解 Agenda 动态,请 订阅我们的每周通讯。

作者:David Tuffley,格里菲斯大学应用伦理与社会技术研究讲师

图片:一台人形机器人在演示中奔跑。REUTERS/Francois Lenoir.

分享至:

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。