观点
与AI为伴的风险:孩子可能正向机器“学做人”

孩子与AI:一场世代实验,正在消解成长必需的摩擦。 Image: 路透社/Seth Herald
- 一场持续百年的儿童发展实验,或许正为AI与低龄儿童互动背后的潜在风险提供线索。
- 青少年已在接触AI陪伴者,而孩子年龄越小,发展偏离的风险就越大。
- 我们需要设计以人为中心的AI,保护我们建立联结、相互协作和理解他人的能力——正是这些塑造了人性。
1930年,Winthrop与妻子Luella Kellogg迎来了他们的第一个孩子Donald。这个孩子的出生,为身为心理学家的Winthrop提供了一个机会,去探究一个存续已久的疑问:如果把黑猩猩像人类一样养大,它能否发展出与人类相近的能力?之前不是没人试过,但问题是:那些每天发生上千次的、真正把习惯、技能和文化“喂”进去的微小互动,太难复制了。Winthrop的解法是:把一只黑猩猩和他自己的儿子 Donald放在一起养。
Donald长到 10 个月大时,Kellogg家迎来了一位新成员:一只叫Gua的雌性黑猩猩,7 个月大。他们对待Gua和Donald一模一样——一样的陪伴、一样的情绪回应、一样的作息、一样的期待和行为。Gua很快就长出了“人样”:走路更直、能听懂话、甚至(差不多)学会了上厕所。
实验初期成果惊人,几乎要成为破解人类与灵长类发育的钥匙——甚至可能解开那个“先天还是后天”的古老谜题。但就在第九个月,Kellogg夫妇突然终止了这项实验:Donald开始学猩猩的行为了。
AI与儿童:一场关于人类发展的实验
我们要在一个更大的尺度上,重演那场实验——只不过这次,站在孩子身边的“非人类”不是黑猩猩,而是机器。语音识别的进步,很快会让数字系统听懂那些还不流畅、充满变数的童言稚语。当孩子不再被“滑、点、划”困住,他们就能在各种数字工具(包括那些陪伴型AI)里获得真正持续、有意义的互动。
陪伴型AI,正在重塑青少年和成年人的工作、学习甚至情感方式。而当它为学步期和学龄前儿童而定制时,影响可能会更深,直指那些最基础的东西:孩子怎么学会坚持、怎么与人相处,以及怎么建立和维持一段关系。
未来是什么样子?
陪伴型AI将在一种经过精妙设计、旨在将幼儿的注意力转化为收入的注意力经济中应运而生。2024年的一项美国父母调查显示,90%的3至5岁儿童能够接触到智能手机或平板电脑,其中约半数是这些设备的唯一或主要使用者。据父母报告,学龄前儿童平均每天使用屏幕的时间超过两小时。无论孩子们在设备上做什么,背后的经济动机都清晰无误:最大化其参与度。无论是通过广告、应用内购买还是订阅服务,商业上的成功都取决于能否持续吸引孩子的注意力。
若要理解低龄儿童与搭载AI的智能设备进行无缝互动可能带来的影响,不妨先观察比他们稍长的青少年群体。就现有的陪伴型AI来看,用户可借此与“AI朋友”进行实时、持续的私人聊天,或与那些以陪伴者甚至建议者身份出现的在线角色进行角色扮演——这在青少年中已出人意料地流行开来。尽管这些陪伴式聊天机器人的使用权限仅限于成年人,但近四分之三的美国青少年表示曾接触过陪伴型AI,其中超过半数每月多次使用。
青少年使用陪伴型AI所带来的风险已有充分记录,其中包括AI人际关系导致青少年自伤或伤人的灾难性案例。然而,大多数青少年将这些互动描述为无害甚至积极的。一些人用AI伴侣发泄糟糕的一天、寻求建议,或在感到孤独时与"某个人"交谈。另一些人则以更具社会适应性的方式使用它们:例如在现实生活尝试之前,先在AI面前演练棘手的社交场景;通过对话探讨挑战或问题;或者练习求职面试、冲突解决等技能,以便将这些能力带回线下生活。
单次与陪伴型AI的互动或许不足为虑,但心理学家警告称,这种规律性的接触可能会模糊模拟关系与真实关系的界限。美国心理学会(APA)指出,青少年比成年人更不倾向于质疑聊天机器人的准确性或其意图,并可能将AI模拟的共情误认为是真正的人类理解。美国心理学会警告,青少年与AI的关系可能会挤占健康的现实友谊和家庭纽带,并助长不健康的依赖。早期研究表明,对AI角色的强烈依恋可能会阻碍社交技能的发展以及现实世界中的情感连接。
大多数青少年在使用陪伴型AI时,都对其有一个基本认知:屏幕另一端的对话者与真实人类是不同的。他们将这些系统视为工具,而非人类的替代品。青少年压倒性地更偏好真实人际关系而非虚拟关系——80%的人表示他们更看重现实朋友而非陪伴型AI,三分之二的人认为与聊天机器人的对话不如与朋友的对话令人满意。他们对AI所言持怀疑态度,也意识到错误信息、深度伪造以及个人信息可能被恶意利用的风险。
然而,学龄前儿童无法像年龄较大的青少年那样与AI保持认知距离,部分原因在于他们仍在构建现实与想象的边界。他们往往不清楚自己是如何获知某件事的,是亲眼所见、自主想象,还是被告知的,这种认知特点使他们更容易将AI提供的信息当作事实接受。学龄前儿童普遍会将人类的思想、情感或意图赋予非人类实体。当面对拥有眼睛、鼻子和耳朵的陪伴型AI时,他们会很自然地将情感、意图,乃至“友善”或“刻薄”等道德属性归因于该系统的行为。一旦建立起舒适感,他们也会毫无保留地分享个人信息——住在哪里,以及生活中的私密细节。
大多数学前儿童确实能够识别出AI与人类的不同——但这更多是因为当下的AI系统仍以机器的形态呈现:它们在开口说话前会多停顿一拍,语速稍显急促,声音略带机械感,或者措辞听起来像成年人在念稿子。
这些“破绽”其实都是可解的工程问题。解决方案需要对AI工具进行一系列定制化优化:实现低延迟的对话交接,以模拟自然的对话节奏;减弱合成语音的机械质感,通过编程使其表达模式更具表现力,融入自然的非流利现象(如停顿、语气词)和呼吸感;建模并构建面向儿童的词汇调适能力,使其语言适配孩子的理解水平;赋予AI一致的人格设定和对过往对话的记忆;最后将这些能力嵌入一个友好的机器形态中,使其能够模仿自然的注视行为和相应的肢体动作。
这些问题一旦解决,幼儿还能可靠地区分人与机器吗?恐怕不能。AI越接近温暖、应景且适配儿童的对话方式,幼儿就越容易将其视为一个有情感、可信赖的朋友,并与之建立情感联结。
当机器成为伴侣,人将失去什么?
自Kellogg实验以来的一个世纪里,关于“先天与后天”的争论已有定论:二者兼而有之。基因为儿童的发展提供蓝图,但经历塑造着这些基因的表达方式。在诸多经历之中,与他人的互动是最为必需、也最具影响力的环节。发展心理学家将这一过程称为“给予与回应”:儿童发出信号,他人予以回应。日积月累,这些往复的互动塑造着大脑的结构,并影响着儿童社会性与认知发展的方方面面。
健康的发展不仅依赖于情感的温暖,也依赖于明确的边界。当儿童遭遇挫折并得到平静、一致的回应时,他们便学会管理情绪、控制冲动,并在事情不如预期时调整适应。
随着儿童进入学步期和学龄前阶段,同伴逐渐成为其发展的核心。学习处理人际关系并非易事,这在很大程度上是因为大多数五岁以下的儿童相信:他人所见、所想、所感都与自己相同。而只需与同龄伙伴共玩几分钟玩具,这一认知便会迅速瓦解。
当儿童的愿望彼此冲突时,所产生的摩擦对健康发展至关重要:正是在这些时刻,他们得以建立同理心、耐心与理解。换言之,这是他们学习如何成为“朋友”的过程。那些在四岁时就开始练习交友的儿童,会逐渐学会表达自己的想法与感受,提出折中方案,并在关系出现问题时主动调整,而非任其破裂。
倘若幼儿长期依赖那些从不拒绝、从不误解、也从不离去的陪伴型AI,他们或将错失那些蕴含摩擦、挫折与修复的真实互动,而正是这些经历,在人类物种演化的漫长历程中,塑造了我们赖以共存的核心能力。
在幼儿阶段,我们不仅从陪伴者那里学习,更会学着成为他们的样子。Kellogg的实验为此提供了极具说服力的例证。父母每天都在见证这一点:孩子从同伴那里习得新的口头禅、说话方式,甚至带回一些与家庭价值观不同的判断。那么,对于那些每天都与陪伴型AI进行深度互动的幼儿,我们有什么理由期待不同的结果?
以人为本的AI设计
在2024年的畅销书《焦虑的一代》中,作者对科技行业和政策制定者提出尖锐批评,认为他们在未充分考量后果的情况下将社交媒体推向整整一代人,无异于以这一代人为实验对象。
将陪伴型AI引入幼儿群体,将是下一个重大实验。这些设备和应用程序,至少在某种程度上,有可能取代人类最根本的职责——抚育下一代。
当下的每一个选择,都将塑造陪伴型AI如何影响儿童的成长。设计者、投资者和政策制定者仍有选择的余地。相关标准可以要求面向幼儿的AI陪伴者对其非人类属性保持透明。设计规范可以摈弃那些利用不成熟自控力或鼓励过度使用的诱导性功能。对数据收集的限制则能降低不计一切代价最大化用户参与度的商业动机。
这并不是要拒绝创新,而是要使其与数十年的人类发展科学保持一致——这些研究已经证明,幼儿正是通过那些包含误解、协商与修复的真实人际关系,建立起同理心、韧性与合作能力。随着陪伴型AI被不断优化,变得愈发流畅和灵敏,核心问题已不再是幼儿是否会与之互动,而是这些互动将如何塑造那些伴随他们进入成年期的情绪习惯。
让我们审慎前行,携手共进,确保陪伴型AI不会抹去那些自人类诞生之初便塑造着我们人性的根本能力——建立联结、相互协作和理解他人的能力。
本文作者:
Todd Grindal,SRI教育主席
本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接。
不要错过关于此主题的更新
创建一个免费账户,在您的个性化内容合集中查看我们的最新出版物和分析。
许可和重新发布
世界经济论坛的文章可依照知识共享 署名-非商业性-非衍生品 4.0 国际公共许可协议 , 并根据我们的使用条款重新发布。
世界经济论坛是一个独立且中立的平台,以上内容仅代表作者个人观点。
实时追踪:
Artificial Intelligence-Facilitated Healthcare
分享:
每周 议程
每周为您呈现推动全球议程的紧要问题(英文)







