语音技术正变得越来越普及，被大型企业、初创公司、政府和公共部门机构整合到各类工具和服务之中。
但要让这些工具获得广泛的公众认可，这些主体需要证明其使用方式值得信赖，并尊重人权。
大型科技公司显然看到了其中的价值，并在收集语音数据用于广告和产品推荐方面不断开发新的能力。科技巨头的专利活动反映了这一点，包括亚马逊新提交的一批专利申请，描述了如何在各类不同设备上使用“语音嗅探算法”，在听到“love”、“bought”或“dislike”等词语时，近乎实时地分析音频。谷歌也提交了专利申请，描述了如何在智能家居场景中利用音频和视觉信号。这看似无害，甚至有助于简化日常任务，但它也对个人数据的获取和使用产生了严重影响。
根据2018年普华永道（PwC）的一份报告，在表示未来不打算通过语音购物的美国人中（占25%），超过90%的人表示缺乏信任是一个因素。这些统计数据得到了一些广受报道的事例的佐证和强化，这些事例显示该技术曾以违背个人预期的方式被使用。例如，一段夫妻之间私密对话的录音被发送给了丈夫的雇员，这一事件被全国性新闻媒体报道。虽然大多数专家预测虚拟助手将呈现积极的增长态势，但这一信任鸿沟很可能会阻碍其真正实现普遍采用。
三个基础性问题是语音技术可信度问题的核心，需要加以解决：数据保护与透明度、隐私以及欺诈。
数据保护与透明度
语音技术的开发和使用涉及大量数据。人对界面所说的话语可能是最明显被收集、分析并（可能）存储的信息类型，但还有其他若干类别也应予以考虑，包括采集到的背景噪音、元数据、生物特征数据和声纹、衍生数据（例如，可根据声音的语调和音高判断的情绪信息），更不用说为开发和训练语音算法而收集的数据集合。
数据保护的核心原则早已得到公认，并体现在《公平信息实践原则》之中。世界各地的法律框架，例如欧盟的《通用数据保护条例》（GDPR），已将这些原则编纂成法并加以扩展，违规行为往往会面临严厉处罚。一些司法管辖区，包括美国伊利诺伊州，甚至出台了专门涵盖声纹等生物特征信息的法律。这些框架为与语音驱动工具互动的人群提供了基本水平的保护，但往往仍不够充分。
为补充这些法律要求，隐私工程领域的专业人员一直在开发实用方法，将数据保护纳入工具和服务之中。此外，美国国家标准与技术研究院（NIST）目前正在制定一个隐私框架，该框架可能会超越法律合规的范畴，并提供一种通用语言，用于应对和缓解因信息（包括语音信息）收集增加而带来的潜在威胁。
通过以尊重“设计隐私”（privacy by design）理念的方式构建工具，实体能够确保从一开始就适当地考虑数据保护。一个例子是将区块链作为语音数据保护的潜在去中心化解决方案，法国初创公司Snips正在坚持这一去中心化理念，其软件设计为100%在设备端运行，完全独立于云端。与更为主流的集中式虚拟助手不同，Snips对其用户一无所知。
隐私与安全
通过语音技术收集的数据越多，信息被政府披露或被不法分子泄露的风险就越大——在语音数据相关的人权尚未界定的情况下，这一问题尤其令人担忧。
“只要平台存储生物特征数据，它们就容易受到政府的访问和披露要求的影响，”指出斯坦福大学互联网与社会中心隐私事务主任艾伯特·吉达里（Albert Gidari）。政府机构随后能够利用这些信息做的事情可能是无限的。一个例子是美国国家安全局（NSA），据最近披露，该机构拥有能够分析使每个人声音具有独特性的生理和行为特征（例如音高、口腔形状和喉部长度）的技术。一种算法会生成个人声音特征的动态计算机模型——即其声纹。
在全球范围内，政府层面也在进行类似讨论。英国税务机关（HMRC）作为其新语音识别政策的一部分，已收集了510万名纳税人的声纹。倡导团体报告称，HMRC的系统反复要求用户创建其“语音ID”，却未告知他们如何选择退出。在中国，政府一直将语音数据与其他生物特征数据及追踪技术结合使用，以锁定并监控少数民族群体。
这些数据的存在也为不法分子提供了新的攻击面。每周新闻中都有重大数据泄露事件，未经授权访问语音数据库的威胁可能造成难以估量的损害，尤其是随着企业越来越多地使用此类生物特征数据来验证用户对其个人账户的访问。
国际法律和政策正开始成形，为这些领域提供指导。《必要性与相称性原则》提供了一个以权利为基础的框架，用以限制政府对个人信息的访问，但目前采纳该原则的国家仍然很少。《数字日内瓦公约》目前仍是一项私营部门的草案倡议，而公共部门力量正敦促联合国人权事务委员会就《公民权利和政治权利国际公约》（ICCPR）第17条规定的隐私权发布新的一般性意见，同时《布达佩斯网络犯罪公约》也高度关注这一话题。
显然，需要制定更完善、更有效的国家监控和网络安全法律与政策，以帮助将对这些类别个人数据（包括生物特征信息）的保护编纂成法。
欺诈
深度伪造和欺诈在网络视频领域已是迅速激增的问题，美国立法者也已就音频领域的类似问题敲响警钟。
欺诈是语音技术中日益严重的问题，自2013年以来，多个行业的语音欺诈率增长了350%以上。如今，使视频能够在不被察觉的情况下被修改的同一深度学习技术，也可用于制作听起来像真人的音频片段。
全球众多大型科技公司正在开发能够克隆任何人声音的技术，例如中国公司百度开发的“Deep Voice”人工智能算法，仅需3.7秒即可克隆任何人的声音。在一年间，制作一段新的虚假视频所需的时间已从约30分钟缩短至如今的几秒钟。
与此同时，打击欺诈的需求正推动新的创新。例如，Pindrop公司是一家初创公司，近期融资9000万美元，用于将其语音欺诈防护技术推向物联网设备和欧洲大陆。该公司声称，其平台能够通过分析近1400项声学属性来识别即便是最复杂的伪造内容，从而有效验证合法的语音文件。
学术界也在积极助力预防欺诈。《麻省理工学院科技评论》报道称，伯克利研究人员能够“对一段波形添加一层噪声，每次都能骗过最先进的语音转文字人工智能DeepSpeech。该技术可使音乐在人工智能听来如同任意语音，或使声音变得无法被转录。”
可以采取一些措施，确保语音驱动平台的隐私，在后端提供数据安全保障，并应对欺诈风险。这意味着要增加信息获取渠道和教育，以帮助向公众普及知识，或许还包括在全球学校体系中增设新的课程内容。这也意味着需要制定切实有效的立法，并开展真正的公共部门与私营部门合作。
本文由全球未来消费理事会（Global Future Council on Consumption）代表撰写。
