• 智能玩具市场正在迅速扩大,到2023年可能增长到180亿美元
  • 如果智能玩具不能保护儿童的数据和安全,那么它在帮助孩子学习的同时会带来风险。
  • 许多公司正在以道德和负责任的方式开发智能玩具,以人工智能驱动的智能玩具的制造商被鼓励申请“智能玩具奖”。

想象一下,今年出生的孩子在童年的每个阶段都会被科技产品所包围。苏菲三岁的时候,父母给她买了一个智能娃娃,这个娃娃使用面部识别和人工智能(AI)观看、聆听并向她学习。

像许多孩子一样,苏菲也会喜欢上这个玩具。就像前几代拥有喜欢的洋娃娃或泰迪熊的孩子一样,她会随身带着它,与它交谈并和它一起睡觉,这样的状态会持续很多年。

如果智能娃娃的设计方式是负责任的,那么这个玩具可能是她最好的朋友。如果不是,那么它将成为一个监视工具,记录着她的一举一动以及她的朋友甚至父母在它面前所说的每一句话。

智能玩具使用人工智能来了解儿童用户并为其提供个性化游戏或学习体验。它们可以学习孩子最喜欢的颜色、歌曲,并学会识别这个孩子的长相以及孩子生活中其他熟悉的人。尽管这听起来可能颇有幻想意味,但已经有许多智能玩具提供了这些功能。这些玩具的市场正在迅速扩大,到2023年将增长到180亿美元

为了解决对人工智能的紧急使用,世界经济论坛最近发起了“智能玩具奖”,以表彰以道德和负责任的方式设计的人工智能玩具,这些玩具为儿童创造了创新而健康的游戏体验。

智能玩具为儿童提供了广阔的前景。它们可以根据收集到的有关儿童的数据来定制学习模式;可以向儿童传授计算机编程技能;可以帮助残疾儿童发展认知、运动和社交技能。

但是,与此同时,如果智能玩具不能保护儿童的数据、安全和网络安全,那么它可能会带来巨大的潜在风险。

警示故事

苏菲的智能娃娃的例子并不牵强。2017年,使用面部和语音识别的早期智能玩具My Friend Cayla在许多国家被列为非法监视工具。

如果将Cayla玩偶连接到手机,则会将数据发送到制造商和第三方公司进行处理和存储。凡是距离玩具30英尺内、且手机上有My Friend Cayla 应用程序的人都可以连接到该玩具并听取儿童用户的声音

德国发布了该款玩偶的“停售令”,并要求父母“用锤子”将其销毁。如今,德国仅有的Cayla玩偶被放在柏林的间谍博物馆中。

智能玩具所带来的风险

苏菲18岁时申请大学。她的智能娃娃收集了她3-9岁的数据,制造玩具的公司可能比她的父母更了解她。如果没有足够的数据保护,该公司也可能将这些数据出售给她申请的大学或其他第三方组织。

大学毕业后,苏菲申请了一份工作。如果雇主购买了智能娃娃所收集的苏菲儿时的数据,那么他们就可以了解其长处和短处。如果苏菲小时候欺负妹妹,对父母大吼大叫或拒绝做家庭作业,会怎么样?公司可以知道所有这些家庭隐私行为,并将其出售给可以使用此信息歧视苏菲的第三方。而家庭生活则不再是私密的。

如今,数据如黄金,但收集有关儿童的数据本来就存在问题。当一家公司通过苏菲的洋娃娃收集有关儿童的数据时,他们有责任采取行动或进行干预。想象一下,如果苏菲跟洋娃娃说了自杀和自残的念头,那是否应该要求公司警告其父母并拨打911?

智能玩具收集的数据越多,智能玩具公司可能会面临的复杂情况就越多。每个具有收集类似信息能力的智能玩具的设计公司在开发玩具以保护儿童用户及其周围人的安全时,都必须考虑这些最坏的情况。

智能玩具市场正在迅速扩大,到2023年可能增长到180亿美元。
图片来源:Statista

以负责任和道德的方式开发智能玩具

尽管存在这些重大风险,但目前仍在以负责任和道德的方式开发智能玩具。“智能玩具奖”为开发人工智能玩具的公司制定了四个关键的治理标准:数据隐私和网络安全;可及性和透明度;年龄适合度;健康的游戏。

苏菲的智能娃娃说明了强大的数据隐私的重要性,并清楚地向购买玩具的成年人传达了智能娃娃的功能和操作方式。这些信息必须在服务条款中讲述清楚,让没有技术知识的受众也可以理解。至少,智能玩具应符合美国《儿童在线隐私保护法案》(COPPA)和欧盟《通用数据保护条例》(GDPR)的要求。

父母和监护人应了解孩子的数据由谁共享以及共享目的。公司应授权父母、监护人和孩子自行决定如何使用孩子的数据。公司也不应将儿童的数据出售给第三方。

数据隐私是道德和负责任的智能玩具的开发基础,但这些玩具也必须设计成可及的、透明的、适合儿童年龄特征的,并促进儿童健康游戏和儿童心理健康。

童年的未来

苏菲的洋娃娃并不一定会引起她和父母的担忧,如果数据得到严格的保护,收集到的有关她的数据也不会妨碍她的未来发展。在欧盟,GDPR提供了被遗忘的权利,一项类似的政策可能允许像苏菲这样的儿童在18岁时提出要求,删除由其智能玩具收集的所有数据,让他们在成年后拥有新的开始。

苏菲和所有孩子在童年、教育、职业和生活上都应该拥有公平的机会。他们儿时被收集到的数据不应在未来用作歧视他们的武器。

苏菲的洋娃娃等智能玩具可以在儿童时期发挥关键作用,激发儿童创造力和批判性思维能力。许多公司在开发智能玩具时都认真考虑了道德和责任因素。我们敦促各公司在设计和开发智能玩具时采用我们的治理标准

童年是一段神圣而关键的时期,父母将竭尽所能保护孩子的各项经历。要实现这一点,就需要利益相关者在公私部门和非营利部门共同努力,开发出符合道德规范、负责任和创新的智能玩具,以保护并培养儿童的本质品格。

本文作者:

Seth Bergeson,项目研究员,第四次工业革命中心,世界经济论坛

Kay Firth-Butterfield,人工智能和机器学习负责人;世界经济论坛执行委员会委员

本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接。

翻译:张丽莉

编辑:王思雨