年轻一代在与人工智能（AI）算法互动中成长，但人们很少关注人工智能及相关技术对儿童的影响。
人工智能在儿童教育和健康方面潜力巨大，但也会给他们的隐私和安全带来风险。
决策者和技术创新者在设计和开发人工智能系统时，必须优先考虑儿童的权利与福祉。应着手制定人工智能课程，提升未来几代人的人工智能素养和技能。
DataChildFutures于2019年开展的一项研究发现，参与调查的意大利家庭中，46%拥有人工智能音箱，40%的玩具则连接了互联网。更多近期研究显示，到2023年，全球家庭将安装超过2.75亿台智能语音助手，例如Amazon Echo或Google Home。
随着年轻一代在与人工智能设备互动中成长，人们应更多地考量这项技术对儿童、他们的权利与福祉所产生的影响。
释放人工智能的潜力
人工智能驱动的学习工具和方法通常被视为教育领域创新的重要推动力。人工智能常因能够提升教与学的质量而受到认可，目前正用于监测学生的知识水平和学习习惯，例如重读内容和安排任务优先级，并最终提供个性化学习方式。
Knewton是人工智能学习软件的一个例子，它能发现知识盲点，并根据用户需求筛选和编排教育内容。算法也为Microsoft演示文稿翻译工具提供支持，该工具可在演示进行时提供60种不同语言的实时翻译。这款软件有助于提升学习机会的可及性，尤其是对听力障碍学生而言。人工智能虽然并非总能成功，也越来越多地用于自动评分和反馈。
Global Market Insights的预测显示，人工智能在教育领域的应用潜力广泛，其市场价值将于2027年达到200亿美元。
除教育外，人工智能也在推动儿童健康领域的发展。近年来，人工智能在自闭症早期检测、通过儿童语音识别抑郁迹象以及罕见遗传疾病诊断中所发挥作用的相关研究取得进展，成为新闻焦点。人工智能应用于保障儿童安全的案例也日益增多，例如识别网络掠夺者以及诱骗、剥削儿童等行为。
儿童福祉面临的挑战
尽管人工智能有诸多积极应用，但在某些地区，人们对这项技术仍有许多疑虑。一项IEEE于2019年开展的调查显示，美国和英国的千禧一代父母中，分别有43%和33%愿意在住院期间让人工智能护士照看自己的孩子。相比之下，中国、印度和巴西的千禧一代父母对人工智能的接受度更高，分别有88%、83%和63%愿意让虚拟护士在医院照看孩子。关于在儿科手术中使用人工智能机器人，也得出了类似结果。
在讨论人工智能的广泛应用时，人们也对儿童的隐私和安全表示担忧。包括敏感信息和生物识别数据在内的儿童信息，会被虚拟助手、智能玩具等智能设备收集和处理。如果这些数据落入不法之徒手中，可能危及儿童安全。
例如，出于对安全问题的担忧，2017年CloudPets泰迪熊在发生数据泄露后被撤下货架。此次泄露暴露了私人信息，包括超过200万条儿童语音留言的照片和录音。
人们还对在人工智能系统中使用儿童数据（例如未成年人记录）来预测未来犯罪行为和再犯风险表示严重担忧。民间社会代表和活动人士警告称，除隐私受到威胁外，这种做法还可能导致歧视、偏见和不公平待遇。
迈向以儿童为中心的人工智能
为确保人工智能以儿童为中心，决策者和技术创新者在设计和开发人工智能系统时，必须优先考虑儿童的权利与福祉。联合国儿童基金会和联合国人权事务高级专员办事处（OHCHR）在这一问题上尤为积极发声。作为“儿童与人工智能”项目的一部分，联合国儿童基金会与世界经济论坛密切合作，制定了关于儿童人工智能的政策指南，其中包括一套用于制定人工智能政策和系统的建议，旨在维护儿童的隐私权和数据保护权等权利。
作为“人工智能世代”倡议以及关于儿童与人工智能全球标准的讨论的一部分，世界经济论坛还牵头举办“智能玩具奖”，以最大限度地发挥智能玩具的学习机会，同时尽量降低其对安全和儿童造成的风险。
据估计，到2065年，目前正在上小学的儿童中，65%将从事尚未出现的工作。从实际角度看，应将人工智能纳入学校课程，使未来几代人掌握编程技能，并接受充分的人工智能培训。同时，还应教导儿童批判性地思考这项技术，并据此判断相关威胁与机遇。这些努力应惠及所有儿童，因此应致力于缩小全球北方与全球南方之间的数字素养差距。
要确保儿童的最大利益体现在国家和国际层面的政策以及人工智能技术的设计与开发中，并切实落实，还需要采取更多全球行动。毫无疑问，人工智能将改变儿童与周围环境互动的方式，包括他们的学习、游戏和成长环境。然而，我们有责任确保这一变化成为推动向善的力量。
