智能玩具正在全球迅速普及，为最年轻一代带来了新的风险与机遇。
多项新兴法规对智能玩具制造商提出最低要求，涵盖网络安全和在线安全等领域。
在法规可能存在局限的情况下，“智能玩具奖”等举措积极激励智能玩具开发者将儿童福祉和发展需求作为互动设计的首要考量。
人工智能赋能的智能玩具种类呈指数级增长，并融入儿童最熟悉的社交环境。市场研究未来集团预测，此类玩具的全球市场份额将增长26%，到2030年达到1070.2亿美元。随着它们与儿童的互动日益增多，在不同情境间的可迁移性、与其他人工智能设备的连接，以及儿童在无意识中与它们产生的紧密联系，人工智能赋能的玩具会经常影响最年轻一代的成长。
智能玩具带来的在线安全风险
正如“新一代人工智能倡议”（由世界经济论坛发起）所指出的，只要设计得当，智能玩具就能对儿童发展产生极为积极的影响。然而，美国联邦贸易委员会（FTC）收到的投诉，以及挪威消费者组织的调查和大量学术 研究也表明，智能玩具可能对儿童发展造成严重影响。
一些智能玩具以不透明的方式与其他人工智能设备交换数据以进行算法分析，例如通过蓝牙连接。这表明，薄弱的网络安全功能可能侵犯儿童隐私并危及其安全。智能玩具还可能加剧儿童面临的在线安全风险，例如“‘内容’风险（如接触有害或不适合其年龄的材料）；‘接触’风险（如接触主动联系儿童的成年人）；‘行为’风险（如网络欺凌）；以及‘契约’风险（如数据收集、商业压力和诱导赌博）”，这些风险由5Rights基金会作出界定。
国际法律机制对人工智能玩具的普及及相关风险的缓解进行规范。欧盟《网络安全法》对智能玩具开发者提出最低要求：产品在欧盟市场销售时，玩具必须具备强有力的网络安全功能。《欧洲人工智能法案》预计将于2024年生效，该法案引入了一个四级风险框架，用于评估人工智能技术；同时要求智能玩具创新者评估其人工智能系统遭到“可合理预见的误用”时所产生的影响。该法规明确禁止利用儿童的人工智能智能玩具。欧盟的《数字服务法》也通过禁止依据儿童画像投放人工智能定向广告来保护青少年。美国联邦法律《儿童在线隐私保护法》（COPPA）要求网站制定符合年龄的访问标准和内容交换规则。美国联邦贸易委员会近期还推出了网络安全标签计划，以保护消费者免受人工智能系统遭入侵的影响。
保护儿童和青少年的利益
除法律之外，标准和政策框架也能有效地对智能玩具开发者产生积极影响。IEEE《适龄数字服务框架标准》为智能玩具公司提供了切实可行的国际合规途径。联合国儿童基金会《儿童人工智能政策指南》为制定维护儿童权利的人工智能政策和系统提供建议。世界经济论坛的《儿童人工智能工具包》也是鼓励企业创新负责任的人工智能玩具的途径，能够更好地保护儿童和青少年的利益。尽管已有法律和措施规范智能玩具的普及，但这些措施可能不足以激励面向儿童发展的产品创新。
联合国儿童基金会提供了若干智能玩具案例研究，展示了当前的最佳实践。例如，美泰公司与ToyTalk合作发布了指导方针，以回应家长对隐私的担忧。家长可以访问ToyTalk云账户中记录的任何数据，也可以删除任何信息。ToyTalk还参与了美国联邦贸易委员会的KidSafe认证计划，这是一个针对面向儿童的在线服务的合规计划。
如今，多种人工智能玩具创新也已证明，人工智能系统能够对儿童发展产生积极影响。NAO是一款教育机器人，也是智能玩具的一个例子。它通过互动和学习过程帮助儿童发现并纠正错误，从而进行教学。PlayShifu是一家印度初创公司，自2016年成立以来，已发展成为一家全球性企业，提供种类多样、互动性强的智能玩具，这些玩具符合教育研究、儿童发展和家长需求。ROYBI机器人是一款智能伙伴，帮助孩子接触技术、数学、科学以及英语、普通话和西班牙语等语言。
智能玩具奖
智能玩具奖由世界经济论坛与迪拜未来基金会于2022年共同主办，是一种积极激励智能玩具开发者在全球设计人工智能玩具时优先考虑儿童发展需求的方式。智能玩具奖为获奖者带来独特的竞争优势，展示智能玩具制造商如何超越法律合规要求，为儿童和家长提供安全、有益且充满乐趣的体验。
除相关法规外，智能玩具奖的评审标准也依据《儿童人工智能工具包》中的FIRST原则。该工具包鼓励企业展示其玩具如何体现公平、包容、负责任、安全和透明的特征，并为企业、家长和领导者提供可行的指导，帮助他们更好地理解人工智能玩具的益处与风险。
除了儿童权利影响评估之外，智能玩具奖还将FIRST原则作为企业参赛的要求，展现了竞赛如何推动多样化的适童智能玩具创新。获奖者会获得一枚荣誉徽章，可用于其产品，帮助家长更好地了解玩具在与儿童互动时应如何体现负责任的人工智能行为。
创新必须回应发展需求并保障儿童福祉
随着人工智能智能玩具对最年轻一代的影响不断扩大，智能玩具创新必须由儿童的发展需求驱动。自愿承诺采用以儿童为中心的治理模式的企业，不仅将在人工智能创新者中脱颖而出，更将赢得最年轻一代及其家长的认可。
