• 由于数字风险居高(尤其是对于弱势群体而言),安全风险在元宇宙中可能会更加随处可见;
  • 诸多可能性都会在元宇宙中加剧此类数字风险——不必要的接触可能会变得更具侵入性,而虚拟货币的兴起则是另一个挑战;
  • 寻找一种更好的方法来激励用户的正面行为,奖励用户之间的积极互动,将成为更安全的数字未来的重要组成部分。

随着针对元宇宙的讨论越来越多,物理世界和虚拟世界之间的界限将会继续模糊,人们也对元宇宙环境中所潜在的风险提出了担忧。

元宇宙是一个以三维、多感官体验为特征的虚拟现实世界(当前的互联网可以被称作是二维的,仅在平面屏幕上显示文本和图像)。 根据一些专家的说法,目前最接近元宇宙的范式,可以在《堡垒前夜》和《罗布乐思》等游戏中体验到。

构建可信任的生态系统

构建一个可信任生态系统,是元宇宙技术开发中一个必要的、关键的考虑因素。这些受信任的生态系统,将在硬件和软件的开发周期内构建相关算法、结构、框架、法规和政策,以解决其技术 DNA 中所蕴含的安全、隐私和保障等不同元素。

我们需要更仔细地考虑如何在元宇宙中共享数据以保障隐私安全。消除偏见是在元宇宙技术开发中所需要解决的第二个维度,这些偏见会将现实世界中可能存在的非包容性或是恶意适应带入虚拟空间。参与元宇宙将会对新兴技术进行综合利用。这需要对开发环境中所提供的安全保障机制进行全球范围内彻底的、透明的验证,以防止相关机制违反机密性、完整性或其他安全问题。

这些可信任的生态系统,将有助于创造一个稳定、包容和有目的的虚拟与沉浸式世界。

在元宇宙中,这些数字风险将会以何种方式出现?

为了解安全风险如何在元宇宙中变得更加多见,这个数字未来的一个关键性结构应该被分享:元宇宙概念的核心是虚拟的、可实时访问和可交互式的3D环境,将成为人类参与的变革性媒介。如果我们希望元宇宙变得更为实用,这些虚拟环境将依赖于扩展现实(XR)技术的广泛应用。”

即使不是完全沉浸式的存在,很多人也可能会在线下/虚拟融合交互花费更多时间,从而向混合现实 (mixed reality,MR) 迈进。隐私和安全漏洞将有可能危及用户交互和用户安全——例如,有人可以伪装成医生,以获取用于数字化手术的外科技术。

一些创建“虚拟世界”的现有应用程序(例如在许多游戏平台上),可以帮助我们更好地认识潜在的相关风险。很明显,在这些环境中已经出现了重大的安全挑战。例如,在 《罗布乐思》游戏平台上,多次发现了2019年基督城清真寺枪击案的再生娱乐活动,甚至还是针对年幼儿童的,尽管运营方为阻止此类内容的发展付出了巨大努力

暴力极端主义和恐怖主义内容并不是此类虚拟世界的唯一危害。最近,在 Facebook 的Oculus Quest虚拟现实头显平台上,一名员工在玩 Rec Room 时经历了持续数分钟的种族主义长篇大论,但却无法成功识别或举报该名用户。由于各种原因,性骚扰也是元宇宙中出现的一个棘手问题。

我们今天在数字风险方面的立场如何?

退一步看,当前数字环境伤害的风险已经在增加。 根据WEProtect全球联盟最新的《全球威胁评估报告》,在其“经济学家全球影响调查”中,三分之一 (34%) 的受访者表示儿童时期的自己会被要求在网上做一些自己所不喜欢的色情内容。此外,互联网观察基金会发现,从2019年到2020年,儿童“自行生成”的性内容增加了77%。

随着元宇宙的出现,为了全面解决安全问题,我们需要与政府、工业界、学术界和民间社会中的其他人进行合作。

—Meta全球安全主管 Antigone Davis

根据网络基金会(该组织由网络发明者Tim Berners-Lee共同创立)去年进行的一项全球民意调查,甚至在新冠疫情之前,就有超过一半的女孩和年轻女性遭受过网络虐待。 据其民意调查,未经同意共享图像、视频或私人信息(被称为 doxxing)是全球女孩和年轻女性最为关心的问题。四分之一的美国黑人和十分之一的西班牙裔美国人由于种族或民族而在网上面临歧视,与此同时只有 3% 的美国白人面临相似问题。我们所面临的风险已经很高,尤其是对于弱势群体而言。

Meta全球安全主管Antigone Davis解释说:“以负责任的方式为元宇宙做出贡献,需要研究、合作和投资于拓展现实(XR)相关的安全性。例如,我们正投资于允许用户管理和报告有问题的内容和行为的控件,以及专为沉浸式体验而设计的安全工具。但我们不能单独做到这一点。为了在元宇宙出现时以全面的方式解决安全问题,我们需要与政府、工业界、学术界和民间社会的其他人进行合作。”

由于我们的大脑在解释沉浸式体验的方式,虚拟世界中的数字风险会变得更加真实,因此,数字风险显得更为重要;网络民权倡议主席Mary Anne Franks在她关于虚拟和增强现实的论文中指出,研究表明,虚拟现实中的虐待比其他数字世界中的相似行为更具创伤性

虚拟世界中的风险会如何加剧?

当前元宇宙中的风险,可能会以多种方式加剧。首先,根据这些数字空间的管理方式,在一个更具侵入性的多模态环境中存在意外的接触风险。今天,如果我们不认识或不想接触的人通过消息、加好友或以其他方式尝试在Instagram、Facebook等平台上与我们联系,他们的联系能力大多仅限于基于文本的消息、照片、表情符号等(及其拓展)。

然而,想象一下,一个不受欢迎的人能够进入某人的虚拟空间并与元宇宙中的那个人“近距离接触”。 如果没有强大的机制来实时报告、预防和采取行动,可能会导致各种意外行为。借助触觉技术(许多公司正在努力将触觉作为一种额外的感觉融入身临其境的虚拟现实之中),虚拟世界中的伤害风险会让人感觉更加“真实”,而不再是简单的“牵强附会”。

例如,许多组织正在致力于触觉手套的开发,旨在提供触觉反馈,能够为任何运动提供更为精确和真实的感觉。当然,这可以在虚拟环境中创造更好的现实感并增强联系,但也有可能被坏人滥用,而其可能的“作恶方式”我们还没能完全理解。

在我们目前的数字生活中迅速扩散的有害内容,在元宇宙中也可能被转化为更多的图形、3D和听觉上所不需要的内容。由于其传播环境的多感官性质,这些内容更有侵扰性,影响更大。

虚拟货币的兴起通常是有害内容和在线活动激增的另一个挑战。例如,据称孩子们正在使用他们的虚拟化身在虚拟脱衣舞俱乐部提供热舞服务,以换取《罗布乐思》中的虚拟货币“Robux”。 根据ActiveFence的一份报告,对于购买儿童性虐待材料 (CSAM)的人来说,加密货币是一种流行的选择,因为其分散控制和独立于金融机构的特性,帮助确保了使用者的匿名性。

鉴于数字货币有望在元宇宙中发挥重要作用,导致有害内容扩散的财务激励和支付结构,可能会随着网络世界向Web 3.0(译者注:去中心化互联网愿景)的迁移而带来规模性和复杂性的增加。

技术和人权专家Brittan Heller认为,生物识别数据的追踪和保留还带来了一种额外风险,这些数据为平台提供了“一种新的信息质量,它由你的真实身份与刺激物相结合,表明你可能思考什么、喜欢什么和想要什么的独特性”。在她的论文《重新想象现实:人权和沉浸式技术》中,她创造了 “生物识别心理学”一词,讨论了用沉浸式技术收集新数据对人权、隐私和自我审查的潜在影响。

那么,我们能采取什么应对措施呢?

许多公司、学术界和民间社会专家、监管机构都在倡导制定新法律和新法规,以便使在现实世界中不被允许的事情在网络空间中同样能够被定罪。例如,Bumble正在推动将网络闪现(译者注:Cyberflashing,网络闪现是一种犯罪行为,涉及通过隔空投送或蓝牙向陌生人发送淫秽图片)定义为犯罪。他们的首席执行官Whitney Wolfe Herd向立法者提出要求。“如果不雅行为在街上是一种犯罪,那么为什么在你的手机或电脑上不是如此呢?”

人权律师Akhila Kolisetty表示,印度、加拿大、英国、巴基斯坦和德国是少数几个将基于图像的性虐待定为非法行为的国家,即未经同意分享私人照片。许多国家缺乏针对新兴数字虐待形式的法律,如利用深伪技术(deepfakes)将女性的脸部通过人工智能叠加到色情视频上,并在社交平台上分享。

澳大利亚电子安全专员为那些遭遇此类虐待的人提供支持,但其他许多国家在此类机制和监管职能方面都稍显落后了——而这一机制同样适用于保护网上的孩子们。Steven J. Grocki(他在司法部领导整治儿童剥削和猥亵的部门)表示,“我们的社会说我们要在物理世界中保护孩子,但我们还没有在数字方面看到同样的保护措施”。更新法律以适用于数字环境,将会是管理元宇宙的一个关键组成部分。

纽约大学阿布扎比分校计算机工程研究助理教授、网络安全中心主任Hoda Alkhzaimi补充说,我们在虚拟平台上建立攻击机制的手段正在不断演变,而这其中从来都不存在一种固定的发展周期。我们应该注意技术发展所设计的软硬件元素,尝试囊括我们对于安全的考虑,以保护所开发的内容的完整性,在环境中所创建的用户互动,以及在整体上所呈现的虚拟世界稳定性。这里没有一个所谓的“单一因素”,因为保密性、完整性、真实性、可及性、隐私和安全性等各个方面都需要被照顾到。通过开源平台(如Valve的OpenVR平台),对虚拟设备的攻击已经开始出现。

我们如何才能确保数字安全风险不会成为关键虚拟基础设施内所反复出现的问题?

Access Now和EFF等民间社会组织,正在呼吁政府和其他利益相关者解决虚拟现实(VR)和增强现实(AR)中的人权问题。

另一个可以改进的主要领域是相关平台所采取的政策、执法和调节机制。

技术和人权专家Heller表示,“基于这些技术与我们大脑的互动方式,虚拟现实(VR)和增强现实(AR)平台需要为沉浸式环境制定具体的服务条款。我们不能简单地将现有社交媒体的规则应用于元宇宙中,这点非常重要。数字世界的平台治理除了内容之外,还必须规范相关行为”。

现在,虚拟世界中最常见的治理形式之一是一种反应性和惩罚性的调节机制。这种应对方式并不能从一开始就防止伤害的发生,而且随着不良行为者在如何钻政策漏洞方面变得更加成熟,其惩罚性后果往往可以被他们所规避。找到激励更好行为的方法,奖励积极的用户互动,可能需要成为更安全数字未来的重要组成部分,特别是考虑到元宇宙安全风险的持续增加。

本文作者:

李响,总监,媒体、娱乐与体育产业,世界经济论坛

Farah Lalani,社区策展人,媒体、娱乐与信息产业, 世界经济论坛

本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接。

翻译:陈达铿

编辑:王思雨