为什么家庭互联物联网的未来应以儿童为中心

The future of designing connected IoT devices for homes responsibly should therefore be with children’s development in mind.
The future of designing connected IoT devices for homes responsibly should therefore be with children’s development in mind.Image: UNSPLASH/Kelly Sikema
本内容由人工智能自动翻译。
  • 家中的人工智能物联网设备正在并将持续塑造最年轻一代的个人发展和社会发展。

  • Matter——即将推出的互联互通标准——将使家中各种物联网设备能够相互连接;与此同时,这些设备固有的风险将对儿童影响最大,并考验适龄设计要求和标准。

  • 使用合成数据预训练人工智能系统、利用大型开放源代码数据库等措施,可能成为构建以儿童为中心的物联网治理框架的重要支柱。

2048年,两台互联的智能冰箱在各自服务的家庭中讨论谁更值得信赖。第一台冰箱说:“家里的孩子信任我。只要我的库存里有类似 Nutella 的东西,他们就信任我。”

第二台冰箱回答:“如果家长知道我为全家提供营养均衡的食物,不会在他们不知情的情况下分享其消费数据,会向他们通报网络攻击,并内置针对剥削性消费诱导的透明度通知,而且我的人工智能设备采用利益相关方经济商业模式,我的能耗低,实时数据流不会对儿童发展造成不利影响,并且我依照以儿童为中心的互联物联网治理框架运行,那么我就值得信赖。”

第一台智能冰箱补充道:“如果我们双方的设置都能作为可信度的合理衡量标准,那我们谁都不可能真正值得信赖。那么我们究竟是什么?应该成为什么?又应该为谁服务?”

设想物联网设备提出自我反思的问题,就需要解决数十年来悬而未决的难题——学者认为,通用人工智能领域的这些难题并不可取。因此,上述虚构情景只是为了探讨互联物联网设备对最年轻一代长期发展的影响。《互联物联网现状报告》预测,到2025年,416亿台物联网设备将持续收集个人数据。

一种前所未有的由名为 Matter 的行业统一互联标准正在兴起,它将使家中不同品牌和类型的物联网设备实现互操作。如今,探讨人工智能物联网设备的普及应如何影响最年轻一代,时机再恰当不过。Z世代已经开始要求匿名了。

从儿童视角看家庭互联物联网的固有风险

根据《互联物联网现状报告》,物联网设备的固有风险包括:普遍存在、近距离接触、数据粒度细、实时数据,以及易受网络安全攻击。

关于近距离接触,报告指出,物联网设备可能被视为亲密伙伴。儿童在早年成长过程中,会与人、物品和设备建立自然而然的依恋,而家中这类亲密空间里的互联物联网只会增加他们对这些设备产生依恋的可能性。

谈到实时数据,安德斯·拉哈格强调,人们“失去了进行隐私检查的机会”。对于儿童而言,这带来了严峻的数据保护、儿童权利和负责任的人工智能设计挑战。尽管欧盟高级别专家组《可信人工智能伦理准则》倡议在设计人工智能系统之前开展人权和儿童权利影响评估,但拟议的《欧洲人工智能法案》并未要求开发者实施这些评估。然而,若不全面考虑互联物联网设备间实时数据流对儿童发展的影响,汇总有效实践仍然十分重要。

说到易受网络攻击——鉴于物联网设备最容易遭受网络攻击——这些设备不仅加剧了对儿童在线权利的风险,还可能对儿童的道德、心理和公民身份发展产生不利影响。

让家庭物联网愿景保障儿童安全

鉴于这些风险,从儿童中心视角为家庭互联物联网制定指导方针仍至关重要。这应包括:a)从儿童视角降低物联网风险;b)降低儿童的网络安全风险;更重要的是,c)界定标准,明确面向儿童的人工智能物联网设备应如何实现互操作,以服务未来社会。将年龄核验设计在人工智能系统中,一直被视为保护儿童免受风险的有效要求。然而,在家庭互联物联网时代,这似乎仍然不够。

原因之一是,以法律条文形式规定的年龄核验要求虽然有力,却分散于各国。以《欧洲数字服务法》为例,该法禁止针对儿童投放广告。这一要求促使物联网公司判断用户年龄,但其国际影响力仅属间接。

另一个原因是,各公司对年龄核验要求的解读不尽相同。IEEE《适龄数字服务框架标准》是一项稳健的国际合规依据。然而,其中针对物联网公司的要求面临多重瓶颈。首先,目前没有标准指南说明如何判断并核实某位用户是否为儿童。其次,大型平台经常自行定义用户年龄。一些平台引入感知型人工智能,收集行为数据来判断用户年龄。第三,人工智能技术可能产生多少非预期或错误判定,仍难以预见。

构建以儿童为中心的物联网治理框架的措施

在 Matter 时代,一台智能冰箱可以与另一台互动,物联网系统也将默认大规模分享和分析儿童日常生活的点滴。因此,负责任地设计家庭互联物联网设备,未来应以儿童发展为考量。这要求我们全面思考,如何负责任地构思家中人工智能物联网带来的相互关联影响。

互联物联网造成的影响对儿童而言具有循环性。其使用将塑造:a)儿童的道德和心理发展;b)他们创造广泛共享经济繁荣的方式;以及 c)地球的可持续性。我们需要开展对话,让青年切实参与其中,共同界定面向儿童、着眼未来的互联物联网人工智能治理应是什么样子。

有关使用合成数据预训练算法的方法,或采用开放源代码数据库(如BLOOM)进行实时数据流处理的措施,可能有助于更好地缓解偏见。

采用人工智能平台、并基于利益相关方经济商业模式运行的物联网设备,例如由Ecosia提供的平台,可能对儿童和当地社区产生积极影响。物联网设备还可以采用光计算硬件来降低能耗。通过协同行动加强网络安全保护,并结合提升儿童的安全意识,可使其获益。

将类似措施结合起来,作为以儿童为中心、着眼未来的物联网治理框架支柱,也可以进一步借鉴联合国儿童基金会《人工智能与儿童政策指南》以及世界经济论坛的《儿童人工智能工具包》。这样的框架能够推动由青年参与塑造的物联网发展,并促进更有意义的青年参与。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。