如何确保人类对可穿戴人工智能的控制权

undefined
本内容由人工智能自动翻译。
  • 可穿戴人工智能需要通过精心设计的选择加入控制和设备端隐私保护来获得产品级信任。

  • 可穿戴智能设备上的可见信号(例如指示灯)不足以保护旁观者免受持续感知的影响。

人工智能正通过各种设备走出屏幕,进入人体,为日常生活、工业工作和无障碍环境开辟新的可能性。

这种转变正值公众对人工智能的信任度仍处于波动之际,因此确保其正确性尤为重要。传统的基于屏幕的工具交互通常是有限的:打开应用程序,输入提示信息,授予权限,然后关闭。而穿戴式系统则不同。它们在共享的物理和社会环境中运行。它们还可能收集越来越私密的数据,影响用户的思维、感受和行为,并观察或分析不知情的旁观者。

因此,信任必须从一开始就融入到产品中。

新型人工智能交互的透明度

欧盟人工智能法案的 透明度义务于 2026 年 8 月生效,要求某些人工智能系统的提供商在人们直接与人工智能互动时告知他们,并对某些人工智能生成的内容设定披露要求。

Meta的Ray-Ban智能眼镜 面临诉讼 据报道,执法记录仪拍摄的视频被送往肯尼亚的承包商进行人工审核,引发了人们对该产品隐私优先定位的质疑。

此外,两名哈佛学生开发了一款名为 I-XRAY 的工具,展示了如何将智能眼镜与面部识别技术相结合,从而瞬间获取陌生人的姓名、地址和电话号码——这一案例现已被记录在案。 经合组织人工智能事件监测器。

这两个例子表明,信任问题不仅限于旁观者;人们可能会被他们从未选择参与的系统所捕获,即使是那些自愿使用设备的人,也可能对收集到的数据后来如何被处理、审查或共享几乎没有控制权。

可穿戴人工智能的三大原则

随着可穿戴人工智能朝着更加连续的感知方向发展,以下三个原则最为重要:

1. 设计人工智能时,应以辅助人类判断为目的,而不是取代人类判断。

可穿戴人工智能可以帮助人们做出更明智的决策,但它不应该代替人们做决定,尤其是在涉及健康、安全、工作或金钱等问题时。例如,如果可穿戴设备检测到心律不齐,它可能首先会提醒用户并建议就医,只有在用户启用该选项或系统检测到明显的紧急情况迹象(例如意识丧失或病情迅速恶化)时,才会采取进一步行动。

人们应该能够理解为什么会提出建议,质疑建议,拒绝建议,并随时关闭功能或取消特定操作。

2. 将隐私保护融入产品本身,而不仅仅是政策中。

可穿戴人工智能设备可以知道用户在看什么、身处何地、说着什么以及身体的反应。这使得用户同意至关重要,但仅仅获得同意是不够的。首要的设计问题应该更简单:产品真的需要这些数据吗?

对于可能整天都与某人形影不离的设备来说,隐私始​​于克制——仅在需要时收集敏感数据,尽可能在设备上处理数据,除非绝对必要,否则避免存储原始信息。

尽早解决隐私问题也具有实际意义。在隐私法律严格的国家,设备可能无法像在其他地方那样正常运行。如果公司等到产品发布后才去处理这些规定,最终可能不得不针对特定市场重新构建核心功能。从一开始就考虑到这些限制进行设计,有助于避免日后代价高昂的修改。

3. 让设备周围的人都能看到传感过程。

佩戴者可能同意了服务条款,但周围的人却未必同意。在公共空间,其他人可能会在未经同意的情况下被看到、录像、识别或分析。

可见信号固然重要,但它并非万能。指示灯可能会被忽略、错过或遮挡。功能越敏感——例如识别人脸、调出姓名或地址,或分析附近人员——系统在激活前就应该越谨慎。这些功能应该需要用户主动选择启用,而不是在后台静默运行。

I-XRAY实验表明,仅仅告知佩戴者是不够的。不应让附近不知情的人承担发现信号、理解其含义并及时做出反应的责任。旁观者保护必须融入系统的运行机制中。

日常使用需要更高的信任度。

可穿戴设备能够让健康监测更加持续,让辅助功能更加便捷,因为它们可以全天陪伴用户。随着它们开始与更敏感的生理信号乃至神经数据进行交互,人们需要对一些基本问题给出明确的答案:设备在做什么?它正在使用哪些数据?哪些功能可以关闭?如果设备出现故障会发生什么?

这些问题的答案必须来自产品本身——通过清晰的控制、透明的数据实践和可预测的系统行为。

政策制定者和全球机构已开始着手应对这些数据敏感性问题。联合国教科文组织 已采用 智利于2025年11月发布了关于神经技术伦理的建议。 介绍 宪法对大脑活动及其衍生信息的保护。

行业标准不能等到监管出台才行。

政策无法跟上每一种新型传感器、外形尺寸或数据类型的步伐。自愿性标准可以提供一个共同的参考点。

世界经济论坛的 全球未来神经技术委员会 已制定行业最佳实践承诺,以促进透明度,保护神经数据的负责任使用,并加强个人自主权和控制权。该论坛的 全球监管创新平台 它还在探索如何使监管与新兴技术保持同步。

这些原则应该在可穿戴人工智能产品设计初期就加以指导。那些在产品本身中体现信任感的公司,将最受人们青睐。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。