如何通过安全、负责任的创新让儿童的最大利益成为核心

• 新兴技术中的设计选择正以当前激励机制和法规未能解决的方式塑造童年。

• 保护儿童的发展并非创新的障碍，而是实现可持续社会和经济进步的前提。

• 在瑞士达沃斯举行的2026年世界经济论坛年会将包括多场聚焦于负责任技术与创新的会议讨论。

社会正面临一个熟悉的问题：激励机制失衡，技术发展的竞赛远远超出政府的监管能力。我们在社交媒体兴起时就见过这种情况；当创新在缺乏护栏的情况下推进时，往往以牺牲我们的最大利益为代价，尤其是儿童的利益。

我们正步入人工智能（AI）的新时代，创新与治理并不必然是零和博弈。如果我们从一开始就将儿童的需求纳入AI产品设计，就能同时兼顾增长与安全，释放出有助于增强下一代福祉与潜力的进步。

但如果我们现在不采取行动，就有可能以更大规模重蹈社交媒体时代的覆辙。

生成式AI可能给儿童带来风险

十年来，无限滚动、推送通知和为吸引注意力而设计的个性化信息流等设计功能在很大程度上未受监管，已经重塑了童年。世界卫生组织估计，十分之一的儿童以有问题的方式使用社交媒体，表现出类似成瘾的行为，并且感到无法限制自己的使用。

再加上屏幕使用时间数据不断增长的情况——九至十二岁的儿童目前平均每天在屏幕前度过六至九小时——童年如今是通过设备度过的，而非通过那些能够培养同理心、自信心和人际联结的现实互动。

这一后果如今已广为人知。从焦虑和抑郁的上升，到注意力下降和社交能力减弱，这正在助长人类历史上前所未有的孤独危机。然而，商业激励机制依然未变：平台从注意力中获利，而非从福祉中获利，而监管一直难以跟上步伐。

随着生成式AI（GenAI）的出现，我们正站在一个强大得多的新事物的边缘。社交媒体主要是策划内容，与之不同，生成式AI系统能够实时主动生成个性化的语言与建议，模拟对话与权威，其方式可能塑造儿童的信念、情绪和行为。

许多面向消费者的大型语言模型产品（如聊天机器人）的设计目标是模仿人类行为——它们的声音、感觉和回应方式都与我们相似——以一种其他任何技术都无法做到的方式模糊了真实与合成之间的界限。这些风险已被英国《适龄设计守则》等新兴政策框架所指出，该守则指出，这些互动中缺乏针对儿童的专门保护措施。

警惕缺乏护栏的长期技术接触

在这些设计之下，许多用户很快就将AI拟人化，相信自己正在与能够共情、关心他人或具有意识的事物互动，并将其视为人类来对待。这些设计选择可能导致人们过度分享敏感信息、错误地寄予情感信任，并对AI产品形成不健康的依赖。

成年人或许能够识别这种错觉，但仍在发展区分感受与事实能力的儿童却无法做到。

更令人担忧的是，这些技术正在取代至关重要的人际互动，而这正是儿童学习、成长和形成身份认同的基础。接触具有情感说服力的机器，会侵蚀真实的人际关系，并使我们对真正的同理心变得麻木。

各国和平台如何让互联网对儿童更安全

01:55

青少年已经表示，相比现实生活中的友谊，他们更喜欢AI陪伴，据研究（来自Common Sense Media）。这一现象正引起心理学家和科学家的担忧，因为新出现的证据表明，严重依赖AI陪伴与心理健康下降之间存在关联，并出现了相关报道，儿童在与AI机器人长时间对话后轻生的案例。

正如所报道的，美国心理学会指出，缺乏适当的监管和安全协议使这些产品可能鼓励自我伤害、妄想性思维，甚至引发所谓“AI精神病”，从长远来看，这将对儿童的福祉和发展产生严重影响。

我们需要就负责任的技术展开更多对话

然而，这并非反对创新的论点，而是呼吁以负责任且明智的方式引导创新。保护童年时期的大脑发育，对于长远来看繁荣的社会和富有韧性的劳动力至关重要。这些关键成长阶段的特征是快速的神经发育，以及对成年生活至关重要的认知、情感和社交技能的形成。

在此背景下，政府、研究人员和公民社会组织正日益研究如何使新兴技术与儿童的发展需求保持一致。

作为这一全球努力的一部分，相关讨论将于今年一月在瑞士达沃斯举行的2026年世界经济论坛年会上继续进行，届时Human Change Foundation将在Human Change House举办第三年的对话。该基金会汇聚了专注于数字化童年长期社会影响的专家。

与Center for Humane Technology合作，这些对话将探讨如何设计AI及其他技术以支持儿童发展，同时与长期经济和社会目标保持一致。

这项工作的核心是对当前创新模式进行批判性审视，包括设计与投资选择如何能更好地体现人的尊严、社会韧性和代际福祉。

人类技能与特质对创新仍然至关重要

最重要的是，我们希望向政策制定者和技术专家重申人类的本质：同理心、批判性思维、解决问题的能力和韧性等关键生活技能，不能以技术进步之名被取代或削弱。

现在就将以儿童为中心的护栏嵌入AI，我们便能在不重蹈社交媒体覆辙的情况下释放巨大益处。

适龄设计、基于证据的安全测试、透明的数据使用、对操纵性界面和拟人化行为的限制，以及对结果的问责。这些并非旨在成为创新的障碍，而是使进步得以持续的条件。

我们可以共同结束这场拉锯战，将AI的应用引导至负责任的设计、符合儿童需求的方向，并使人际关系得以深化而非被取代。

创新能够并且必须向前推进。首先，它决不能对将继承其未来的儿童造成伤害。