塑造以人为本的人工智能需要我们倾听儿童的想法
一项新研究揭示了儿童对人工智能的看法，这或许有助于我们构建更好的人工智能治理系统。 Image: KidsRights
- 一项针对数百名荷兰儿童的调查展示了孩子对人工智能应该在社会中发挥什么作用的看法；
- 儿童拥有感知价值观、划定道德界限的独特能力，这能够帮助我们了解以人为本的社会和以人为本的人工智能的内涵；
- 大多数接受调查的儿童认为机器人可以做销售员，但认为人工智能无法成为医生或警察。
令人惊讶的是，儿童在人工智能和社会的发展中可以提供很多有用的信息，但前提是必须以正确的途径来保障其参与。
在儿童通过人际关系体验生活和成长的过程中，其社会关系技能和直觉技能必不可少。年龄较小的儿童尽管可能对人工智能系统的具体认知较少，但对自身的人际关系已经有充分的了解。
通过其与人互动的关系技能，儿童能帮助我们了解在与人工智能打交道时如何界定道德、社会和以人为本的界限。这种潜能只存在于人的儿童时期，却能够帮助我们了解以人为本社会的真正内涵。然而，目前儿童在人工智能发展和公共对话领域的参与仍旧滞后。
让儿童参与到这一社会转型的进程中，意味着也应该让他们参与到关于人工智能系统对其生活影响的代际探讨中。生成式人工智能模型的快速和广泛采用说明，人工智能驱动的系统创新将不可避免地影响到人类生活。已经有人在进行让人工智能模仿人类技能的实验，其初步结果表明人工智能系统常能以前所未有的规模超越人类的表现。
基金会DesignLab-KidsRights在荷兰进行了一项全国调查，探索了儿童了解哪些人工智能系统，以及儿童认为在以AI为媒介的社会中应该遵守哪些道德和社会标准。以下是调查结果。
孩子们对人工智能的看法
该研究对374名年龄在4-16岁之间的儿童进行了调查并得出了重要见解，其中数量最大的受访群体在6-13岁之间。
就人工智能系统目前意味着什么，以及在其日常生活中和未来可能意味着什么，孩子们分享了自己的热情和担忧。
这些孩子要参与一项思想实验，表达对社交机器人替代不同领域社会工作的看法。超过一半的孩子（55.3%）能够想象机器人充当销售员的角色，并希望能在商店里得到其帮助，而41%的孩子则不喜欢这个想法。
大多数人认为机器人销售员的表现可以胜过人类。
孩子更喜欢机器人销售员的原因是，他们觉得这很酷，而且机器人销售做得可能比人类好。而对那些不太喜欢机器人销售员的儿童来说，大多数都觉得自己还是更喜欢人类的特质。
“不喜欢，因为几乎每个销售员都可能失业，而且你没法和机器人好好地聊天，真人则要好得多。”——女孩，7岁
当被问及机器人是否可以成为警察时， 54.8%的人反对，41.5%的人支持。反对的儿童认为，机器人执法可能会威胁到他们的安全。大多数儿童（61.3%）也认为机器人不能当医生，而35.3%的儿童则愿意与机器人医生打交道。
“不行，那样的话一切都会出问题的，而且机器人跑不了那么快。假设有人中枪了，机器人可能会说：‘有什么能帮你的吗？’甚至是‘请冷静一点。’”——女孩，12岁
“机器人全科医生在触碰我时可能会带电，人类医生就不会。”——男孩，8岁
机器人能成为人的朋友吗？
当被问及机器人是否能成为自己的朋友时，孩子们表示机器人缺失人类的特质、技能和价值观，而这些是人工智能系统在发展过程中一定不能丢失的。人工智能必须为人类服务，人类需要在其中处于掌控地位，且更重要的是要保持与人工智能的区分。
孩子们认为人工智能可以为一些社会问题提供解决方案。例如，机器人可以帮助有阅读障碍的儿童或帮助从海洋中打捞塑料垃圾。但是，没有什么机器人能够担任朋友这种情境性的角色。友谊显然超越了任何“功能性”的关系。这主要是由于机器人缺乏人类特质、技能、价值观和其他与人互动时的社会关系技能。
“如果要造一个机器人做我的朋友，它只会从我身上学习。那我怎么才能学习如何让别人开心或者是知道什么是难过呢？而如果我只能从机器人身上学习到我自己的做法，我又怎么能学到东西并适应环境呢？——女孩，8岁
“如果机器人能有幽默感和人类情感，那做朋友就有可能了。”——男孩，12岁
儿童的观点能够揭示道德和社会价值
调查结果显示，儿童对人工智能有八个关键标准要求，这也是他们对未来以人为本的人工智能和社会寄予的希望：
1.人类素养—“机器人缺乏人类素质”
2.情商—“机器人没有情感”
3.爱与善良—“机器人不会付出爱”
4.真实性—“机器人没有自己的意见”
5.人类的关怀和保护—“机器人不能给人提供慰藉”
6.自主性—“机器人不应接管世界”
7.服务业的人工智能—“机器人必须协助我”
8.活力—“机器人应该可以和我一起玩”
将儿童的观点纳入人工智能发展框架中
研究表明，在如今这个离不开科技发展的世界中，进行广泛的代际对话是必不可少的。在像人工智能、物联网等科技发展的同时，我们需要了解以人为本的人工智能和以人为本的社会究竟是怎样的。
儿童可以提供成年人通常不会考虑到的道德和社会标准。KidsRights的报告最终提议，儿童的道德标准是以人为本的人工智能和社会中不可或缺的资源。他们可以为自上而下的人工智能相关规范框架提供信息。例如，欧盟可信人工智能高级别专家组制定的可信人工智能自评估清单、联合国儿童基金会《人工智能为儿童：政策指南》、联合国教科文组织《人工智能伦理问题建议书》、荷兰儿童权利守则又或是世界经济论坛的人工智能为儿童工具包。
人工智能对世界及人类的影响尚不明晰。通过让儿童参与关于人工智能的公共对话并听取其意见，我们能够确保在这一场伟大的科技转型加速演变的同时，不会遗落像同理心、爱和趣味性这些人类的根本特质。
本文作者：
Karolina La Fors，世界经济论坛及特文特大学设计实验室生成式人工智能研究员
Marc Dullaert，KidsRights协会主席
本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。
翻译：张一凡
编辑：江颂贤
不要错过关于此主题的更新
创建一个免费账户，在您的个性化内容合集中查看我们的最新出版物和分析。
许可和重新发布
世界经济论坛的文章可依照知识共享 署名-非商业性-非衍生品 4.0 国际公共许可协议 , 并根据我们的使用条款重新发布。
世界经济论坛是一个独立且中立的平台，以上内容仅代表作者个人观点。
