科学家开发出一种他们认为过于危险而不宜发布的人工智能

An artificial Intelligence project utilizing a humanoid robot from French company Aldebaran and reprogramed for their specific campus makes its debut as an assistant for students attending Palomar College in San Marcos, California, U.S. October 10, 2017. REUTERS/Mike Blake - RC16B2726D60
The algorithm, GPT-2, was trained on some 8 million web pages, according to the new research.Image: REUTERS/Mike Blake
本内容由人工智能自动翻译。

家庭作业助手

人工智能研究公司OpenAI由埃隆·马斯克和彼得·蒂尔等科技界重量级人物创立,该公司表示,它已开发出迄今为止最先进的语言处理算法。

样本输出表明,该人工智能系统是一次非凡的进步,其生成的文本内容丰富,富有语境和细微差别,甚至接近幽默。事实上,它的表现非常出色,以至于OpenAI表示,由于其研究人员担心该技术可能被滥用,因此不会向公众公开其代码,据一篇新博客文章称。

独角兽谷

该算法名为GPT-2,训练所用的网页数量约为800万个,根据新研究显示。给定一个提示,GPT-2的任务是根据这些词语在其所读网站上的使用方式预测下一个词。最终,该算法生成的文本段落连贯性远超以往的尝试,相较于过去的尝试,旨在构建具备语言语境知识的人工智能。

Image: Open AI

在博客中,OpenAI的研究人员承认,GPT-2仅约有一半的时间能正常工作。但团队在博客文章中展示的示例写得非常出色,以至于你很难判断它是否出自人类之手。

在一个示例中,研究人员用一篇虚构新闻文章的开头来提示其算法,该文章讲述的是科学家发现独角兽的故事。

“一项令人震惊的发现:科学家在安第斯山脉一处偏远、此前从未被探索过的山谷中,发现了一群独角兽。更令研究人员惊讶的是,这些独角兽竟能说一口流利的英语。”研究人员写道。

这篇由人工智能撰写的故事偶尔会出现漏洞和语句不连贯的情况,但总体而言,该算法的表现相当不错。

“科学家以其独特的角为这一种群命名为奥维德独角兽。这些四角、银白色的独角兽此前对科学界而言是未知的,”这篇由人工智能撰写的文章第一段(共九段)中写道,其中部分段落包含由虚构科学家提出的编造引语。

ClosedAI

但并非一切都是独角兽和发现。OpenAI选择将GPT-2留作内部使用,因为该算法很容易被用于生成误导性新闻文章、冒充他人或从事其他不正当活动。

Wired 测试了GPT-2,仅仅输入提示词“希拉里·克林顿和乔治·索罗斯”,OpenAI的算法便生成了一大堆政治阴谋论废话,这类内容经常出现在不可信的右翼网站上。

“心怀恶意的人可能借此生成高质量的假新闻,”OpenAI工程副总裁David Luan告诉Wired。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。