学校、学院和大学正迅速调整以适应生成式人工智能。
现在,联合国教科文组织已制定首份关于在教育中使用生成式人工智能的全球性指导意见。
世界经济论坛也在其《负责任生成式人工智能的普雷西迪奥建议》中探讨了“教育转型”。
学校和大学刚从疫情中稍作恢复,便在2023-24学年开学之际面临一项新挑战——生成式人工智能。
虽然一些教育机构起初禁止使用ChatGPT,该工具于去年11月推出时,主要因担心其可能助长作弊;如今则转向为生成式人工智能的使用确立基本规则和指导方针。
首份全球性《教育与研究中生成式人工智能指南》,这是联合国教科文组织的一项倡议,旨在“应对”该技术引发的“颠覆”,现已可用于助力这一进程。随着各国继续探索其治理方式,该指导意见“将帮助政策制定者和教师最好地把握人工智能的潜力,以服务学习者的首要利益”,联合国教科文组织总干事奥德蕾·阿祖莱(Audrey Azoulay)表示。
世界经济论坛与AI Commons在其30项行动导向型建议(载于《负责任生成式人工智能的普雷西迪奥建议》)中提出的目标相近。这些指导原则是100位思想领袖和从业者于2023年4月全球峰会上汇聚的成果,围绕三大核心主题展开:技术的负责任发展、国际合作,以及纳入“教育转型”在内的社会进步。
联合国教科文组织关于教育领域人工智能的指导原则有哪些?
目前,不足10%的学校和大学已制定正式的人工智能指导政策,联合国教科文组织表示。其新指导意见提出了教育机构可采取的八项具体措施,以确保“优质教育、社会公平与包容”。
1. 促进包容、公平以及语言和文化多样性
偏见问题在生成式人工智能模型中较早就已被发现,如今各国政府和机构的任务是拉平人工智能的竞争环境。为此,联合国教科文组织表示,必须采取措施确保每个人都能接入互联网并使用人工智能应用;必须建立标准以消除性别或文化偏见;生成式人工智能系统必须不断演进,纳入多种语言的数据,尤其是少数群体语言的数据。
2. 保护人的能动性
人们存在过度依赖生成式人工智能、从而丧失人的能动性的风险,联合国教科文组织警告称,这可能损害“智力技能的发展”。报告建议的应对方式之一是,在某些情形下有选择地禁止使用该技术,即“那些会剥夺学习者通过观察现实世界来培养认知能力和社交技能之机会”的情形。
世界经济论坛如何为人工智能打造护栏?
人工智能卓越中心致力于汇聚各行业领袖,共同理解人工智能的快速演进及其对经济体和社会的影响。该中心支持就人工智能应用所带来的机遇、风险和权衡取舍展开知情对话。
通过可信空间和合作倡议,该中心使合作伙伴能够建立共同认知,并携手推进人工智能创新与应用的负责任方式。
3. 监测并验证教育领域的生成式人工智能系统
本点强调,随着该技术持续演进,需要对生成式人工智能进行持续监测。必须建立制衡机制,确保“教育与研究中使用的生成式人工智能系统不存在偏见”,并确保儿童和“弱势学习者”理解知情同意的含义。报告补充称,“机构和教育工作者应当愿意并能够迅速采取有力行动,减轻或消除……不当内容”。
4. 为学习者培养人工智能能力,包括与生成式人工智能相关的技能
联合国教科文组织表示,各国政府应承诺在中小学和高校开设人工智能课程,“并面向终身学习”。还应为老年工作者及“可能需要学习新技能”的公民提供量身定制的项目。
5. 提升教师和研究人员正确使用生成式人工智能的能力
当然,使用生成式人工智能的不只是学生。近期一项美国民调发现,使用该工具的教师多于学生,一位教师承认,专为教育工作者设计的生成式人工智能工具MagicSchool让他得以“夺回暑假”,此前他借助该技术规划了一整年的课程。然而,联合国教科文组织表示,目前只有七个国家重点关注面向教师的人工智能培训项目,并认为未来政策必须“使教师能够创建特定的基于生成式人工智能的工具,以促进课堂教学及其自身专业发展”。
6. 促进多元观点与多元思想表达
学习者和教育工作者需要以这样的认识来对待生成式人工智能:它是“快速但常常不可靠的信息来源”,其训练数据主要反映“主流世界观”。报告指出,客观批判该技术的回应对于保护“少数观点和多元思想表达”至关重要。
7. 测试与本地相关的应用模式,并建立累积性证据基础
人工智能偏见的一部分在于,生成式人工智能模型的训练信息大多来自北半球,这意味着全球南方和原住民社群的代表性不足。联合国教科文组织呼吁生成式人工智能工具应“对当地社群的背景和需求保持敏感”,并建议教育和研究中的应用场景应准确反映教育重点,“而非新奇、神话或炒作”。
8. 从跨部门和跨学科视角审视长期影响
联合国教科文组织表示,人工智能提供商、教育工作者、研究人员以及家长和学生代表需要协作,围绕“全系统层面的调整”推进课程改革,既减轻风险,又发挥生成式人工智能的潜力。
“我们都需要意识到,生成式人工智能可能……改变既有体系,”报告总结道。联合国教科文组织指出,人工智能工具不应削弱、冲突于或取代人类。为确保这种情况不会发生,“[生成式人工智能对]教育与研究的变革应当受到严格审视,并以以人为本的方式加以引导”。



