“我的朋友凯拉”是一款联网玩偶，它利用语音识别技术与儿童实时聊天和互动。凯拉的对话会被录制，并在线传输给一家语音分析公司。
这引发了人们的担忧：黑客可能会在孩子玩耍时窃听，甚至直接与孩子通信。人们还担心儿童的语音数据将如何被使用。2017年，德国监管机构敦促家长销毁该玩偶，并将其定性为“非法间谍设备”。
凯拉只是新一波人工智能（AI）玩具的一个例子，这些玩具会与儿童“交朋友”。制造商常常声称它们具有教育意义，能够促进游戏并帮助儿童发展社交技能。但消费者团体警告称，智能玩具与我们接入互联网的其他“物品”一样，可能会危及安全和隐私。
在以下问答中，Kay Firth-Butterfield，世界经济论坛人工智能与机器学习负责人，解释了如何应对AI玩具日益流行的世界。
AI玩具产生的数据会被如何处理？
这些玩具连接互联网（通过无线网络或蓝牙连接到手机或其他具备上网功能的设备），并将数据发送给供应商。这使得公司的AI能够为公司自身学习，并更好地与儿童对话。
公司会记录并收集儿童与玩具之间的全部对话，也可能包括其他与之互动的儿童和成年人的对话。
公司很可能在存储这些数据，并且肯定会利用这些数据来打造更好的产品。
玩具所在地会影响数据的存储方式。例如，在美国，开发教育类玩具的公司可以比其他公司更长时间地存储数据。因此，当制造商将其玩具描述为教育类产品时，这便赋予了其更长时间保留数据的权利。
随着越来越多的设备（其中许多以教育玩具的名义推销）进入市场，它们在隐私、偏见、监控、操纵、民主、透明度和问责制等方面敲响了警钟。
我们最应当关注哪些问题？
德国禁止了凯拉及类似玩具，原因是人们担心它们可能被用来窃听儿童，并且有人可能会入侵设备，直接与孩子通信。
但我们还在谈论企业将数据变现的问题。AI玩具产生的数据包含儿童对设备说的每一句话，包括他们最珍贵的秘密。
如果这些数据被收集，孩子是否有权取回？如果这些数据从幼儿时期就开始被收集，且并不属于孩子本人，那么它是否会让孩子更加脆弱，因为他或她的选择和行为模式可能会被任何购买这些数据的人所知晓，例如公司或政治竞选团队。
根据玩具使用地所在国家的隐私法律，如果数据被收集并保存，则违反了《儿童权利公约》第16条——即隐私权。（当然，可以说家长通过在Facebook上发布孩子的照片，也在经常性地做这类事情。）
AI玩具有哪些好处？
大多数经济学家认为，改善并扩大教育机会，是缩小发展中国家与发达国家差距的最佳途径之一。
以AI为支撑的教育玩具和“老师”可能会在发展中国家带来巨大的积极变化。
但是，如果风险投资家、前谷歌中国首席执行官李开复的判断正确，那么从这些设备收集的数据将只会被西方和中国的大型AI公司利用，而无法惠及儿童、他们的父母或他们所生活的国家。
AI玩具可能会对孩子产生哪些影响？
除了黑客入侵的风险，我们还需要思考这些玩具正在对我们的孩子说些什么。谁来裁定这些对话的内容？谁编写了算法（其无意的偏见可能会悄然渗入）？孩子所接触的价值观是否与父母的价值观一致？家长能否选择玩具所编入的价值观？
如果玩具具有教育功能，其算法是否由至少具备教学资格的人员进行审核？
这些玩具将具有很大的影响力，因为孩子会一直与它们交谈。例如，如果玩偶说它觉得冷，孩子便要求父母给它买一件外套，这算不算广告？
如果孩子拥有一个能够“回嘴”的玩具，而不是一个隐形的朋友，这对创造性游戏究竟是利是弊？孩子将不再需要为隐形朋友编造故事。这种创造性游戏方式的巨大改变，是否会改变我们作为人类的本质？
即使数据并未被存储，只要有数据被收集，公司是否有责任对分享自杀念头或其他自残行为的儿童发出“红色警示”？如果孩子向玩具倾诉自己遭受虐待，公司是否会向相关当局报告？那么，公司又会如何处理这些信息？
那么，我们可以做些什么来保护儿童？
家长在购买这些设备之前，需要先弄清楚这些问题。至少，他们应当确认孩子从AI玩具中学到的价值观与自己的价值观相符。
目前，消费者有责任了解其数据的使用情况，但有人提议，应让企业承担责任，确保消费者理解其数据是如何被使用的。
世界经济论坛将开展一个项目，重新构想监管机构的角色，使其能够对算法是否适用于其预定用途进行认证，而非像当前这样，在问题发生后才处以罚款。
这可能是适用于此类情况的正确监管模式，因为它现在就有必要，并且是敏捷治理机制的一部分。然而，智能玩具治理的难点在于，AI会随着每一次与儿童的互动而不断学习和变化。
这并不意味着我们认为以AI为支撑的玩具是有害的。它们有朝一日可能会帮助我们实现精准学习（利用AI根据每个孩子的需求量身定制教育内容）。此外，AI玩具还可以很好地帮助儿童为与自主机器人协作做好准备。
我们想说的是，儿童是脆弱的，因此我们现在就应当考虑AI在儿童周围是如何被使用的，而不应将其作为测试对象。
报道人：Rosamond Hutt
