机器很快就能为你理解并概括文本

A 'Pepper' humanoid robot, manufactured by SoftBank Group Corp., stands at the Viva Technology conference in Paris, France, June 15, 2017. REUTERS/Benoit Tessier - RTS178N6
Researchers are making artificial intelligence algorithms digest massive texts and extract their meaning.Image: REUTERS/Benoit Tessier
本内容由人工智能自动翻译。

我们人类被文字信息淹没了。这不仅是新闻和其他时效性信息:普通人也被法律文件压得喘不过气。问题严重到我们大多选择视而不见。每当有人使用商店的忠诚奖励卡或连接在线服务时,其活动都受制于相当于数百页法律术语的法律文件。大多数人对此类海量文件不予理会,这些文件通常被称为“服务条款”“用户协议”或“隐私政策”。

这只是更广泛的社会信息过载问题的一部分。存储的数据实在太多——艾字节之多,存储量相当于人类有史以来说过的所有话语总量——以至于人类不可能读完并理解所有内容。我们往往会选择关注特定主题或问题,以缩小信息范围。但我们确实有必要了解那些规定我们的数据如何存储、谁可以查看数据的法律文件的含义和内容。

作为计算机科学研究人员,我们正在研究如何让人工智能算法消化这些海量文本、提取其含义,并以普通人能够理解的方式呈现出来。

计算机能理解文本吗?

计算机以0和1存储数据——这些数据无法被人类直接理解。计算机会将这些数据解读为指令,以显示对人类有意义的文本、声音、图像或视频。但计算机真的能理解语言吗?它们能否不仅呈现文字,也理解文字的含义?

一种探究方式是让计算机概括其所掌握的知识,以便人们理解并认为有用。最好是人工智能系统能足够快速地处理文本,在人们需要做决定时提供帮助——例如,注册新的在线服务时,网站要求你同意其隐私政策。

如果电脑助手能在几秒钟内消化所有那些法律术语并突出重点,会怎样?用户或许甚至可以让自动助手特别留意某些问题,例如电子邮件地址何时会被共享,或者搜索引擎是否可以为个人帖子编制索引。公司也可以利用这一能力分析合同或其他冗长文件。

要完成这类工作,我们需要结合多种人工智能技术,包括机器学习算法,这类算法可以摄取大量数据并自主识别其中的联系;知识表示技术,用于表达和解读有关现实世界的事实与规则;语音识别系统,用于将口语转换为文本;以及人类语言理解程序,用于处理文本及其上下文,判断用户在指示系统执行什么操作。

审视隐私政策

如今,要过上联网生活,或多或少必须信任营利性公司,将私人信息(如住址和电子邮件地址、信用卡号及银行账户详情)以及个人数据(照片和视频、电子邮件和位置信息)交给它们。

这些公司的云端系统通常会保存用户数据的多个副本,作为防止服务中断的备份计划的一部分。这意味着潜在攻击目标更多——每个数据中心都必须在实体和电子层面得到安全保护。当然,互联网公司了解客户的担忧,并聘用安全团队来保护用户数据。但它们承诺为此采取行动所承担的具体而详尽的法律义务,都写在令人望而生畏的隐私政策中。普通人——甚至可能连单个律师也无法真正理解这些政策。

在我们的研究中,我们让计算机概括普通用户点击在线服务的“接受”或“同意”按钮时表示同意的条款与条件。我们下载了多家互联网公司的公开隐私政策,包括Amazon AWS、Facebook、Google、HP、Oracle、PayPal、Salesforce、Snapchat、Twitter和WhatsApp。

概括含义

我们的软件会检查文本,并运用信息抽取技术识别文件中规定法律权利、义务和禁令的关键信息。它还会运用语言分析来判断每条规则适用于服务提供商、用户还是第三方实体,例如广告商和营销公司。随后,软件会以清晰、直接、便于人类阅读的陈述呈现这些信息。

例如,我们的系统将亚马逊隐私政策中的一项内容概括为告知用户:“您可以选择不提供某些信息,但这样一来,您可能无法使用我们的许多功能。”该政策的另一项内容则被概括为:“我们还可能收集技术信息,以帮助我们识别您的设备,用于防止欺诈和诊断问题。”

Image: The Conversation

我们还借助概括系统发现,隐私政策往往包含针对第三方的规则——这些公司既不是服务提供商,也不是用户——而人们可能甚至不知道它们参与了数据存储和检索。

隐私政策中数量最多的规则——43%——适用于提供服务的公司。略低于四分之一的规则——24%——规定了用户和客户的义务。其余规则规定第三方服务或企业合作伙伴的行为,或者无法由我们的系统分类。

下次点击“我同意”按钮时,请注意,你可能正在同意与其他未公开的公司共享数据,而这些公司将对数据进行分析。

我们正在继续提升能力,以简洁、准确地概括复杂的隐私政策文件,让人们能够理解,并据此评估使用某项服务所涉及的风险。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。