技术常被用于解决招聘、金融和教育等领域的日常问题，却未能应对现有的公平问题和权力失衡。
人工智能可能延续历史上基于种族、性别和阶级的不平等，不仅伤害当代人，也会伤害未来世代。
这一倡议由人类人工智能全球未来理事会发起，旨在推动政策制定者和监管机构重新审视此类技术的应用，并充分考虑当今技术决策对未来世代的影响。
尽管我们的未来尚未书写，但正如过去为今天铺平道路一样，我们每天都通过集体努力塑造未来的根基。当前关于人工智能（AI）及其伦理的讨论主要关注其对当今人群的影响，例如人工智能在招聘、金融和教育中应用的公平性。但对于当今人工智能系统对未来世代同样重要的代际影响，我们又该如何看待？政策制定者和监管机构应当关注这些问题。
当前，世界上一小部分人口掌握着科技行业的决策权，而他们所做的决定正在塑造我们的共同未来。此外，科技行业之外的人往往仅被视为消费者，被排除在影响其生活和生计的技术相关讨论之外。这加剧了权力失衡，助长了世界上的剥削性条件和不公正现象。因此，如果决策层面不做出改变，人工智能就有可能危害未来世代。
人工智能如何延续现有的不平等
以用于监考的自动化考试监督系统为例。这些系统用于监督考试、核验考生身份并确保考试环境的规范性。在许多教育机构转向虚拟平台的新冠疫情期间，这些应用尤为有用。然而，新的研究发现表明，这些技术存在危害和影响。这一发现建立在十多年研究的基础之上，这些研究由女性和有色人种学者开展，关注日常技术的不平等影响。
历史上，美国的研究表明，学校纪律处分中存在显著的种族偏见。据普林斯顿大学的特拉维斯·里德尔（Travis Riddle）和斯泰西·辛克莱（Stacey Sinclair）指出，“相较于白人学生因同样的违规行为受到的对待，黑人学生更容易被视为有问题，也更容易受到惩罚”。人们往往倾向于认为，学校中自动化、技术化的行为监控可以避免此类歧视性行为，但研究表明事实并非如此。麻省理工学院研究员乔伊·布奥拉姆维尼（Joy Buolamwini）指出：“人工智能基于数据，而数据反映的是我们的历史。”她的研究在纪录片《编码偏见》中有所呈现，该片“揭示了机器学习算法……如何可能延续社会中现有的基于种族、阶级和性别的不平等”，据《纽约时报》的一篇评论所述。
这类工具和程序的背后，是数十年前形成的规范性社会基础架构，在其中学生被视为需要监控违规行为的对象。在我们将这些观念复制到新兴技术产品中之前，我们需要审视这些观念。正如科罗拉多大学丹佛分校的学术图书馆员兼研究人员谢阿·斯沃杰（Shea Swauger）所指出：“技术并非制造作弊条件的根源，也无法阻止作弊。高等教育界能做的最好的事情，是从信任学生这一激进理念出发。让我们选择关怀而非监视。”
我们已经到达一个转折点，数字监控的常态化将难以逆转。此外，其影响可能长期存在，并波及多代人。
萨菲娅·乌莫贾·诺布尔博士（Safiya Umoja Noble, Ph.D）
现在和未来减轻危害
当系统以数字方式编码时，它们就成为一种永久的数字判断记录，并可能终身与某个人挂钩。“我们已经到达一个转折点，数字监控的常态化将难以逆转。此外，其影响可能长期存在，并波及多代人，”加利福尼亚大学洛杉矶分校（UCLA）性别研究与非裔美国人研究副教授萨菲娅·诺布尔博士说。那么，我们该如何建立相应结构，以减轻当前已投入使用的人工智能系统现在和未来造成的危害？
监管可以在这些努力中发挥关键作用。过去五十年间，快速发展的诸多技术创新，其核心价值一直主要是为股东和投资者带来当下的经济收益。我们需要以更长远的眼光思考人工智能的未来，因为它将在多个世代中被应用于各行各业。当下正是创新监管方式、充分应对代际影响的关键时刻。
当下正是创新监管方式、充分应对代际影响的关键时刻。
莎拉·科尔·斯特拉顿（Sara Cole Stratton），毛利实验室（Māori Lab）；M. 比阿特丽斯·迪亚斯（M. Beatrice Dias）博士，匹兹堡大学
通常，监管侧重于短期或中期的权衡取舍。这种做法往往导致被动应对而非主动采取行动，难以减轻跨世代的危害。从代际视角审视人工智能监管，要求我们首先正视此类技术系统的历史背景。主流意识形态和社会政治结构如何塑造了这些工具？
在这一理解框架内，我们可以开始剖析人工智能及其相关的物理和数字基础设施可能如何影响当代人和未来世代。从代际角度预判人工智能的潜在影响和整体影响，将推动我们形成更能回应新兴数据与研究、多方利益相关者关切以及全球可能性的监管。
当前人工智能监管的趋势提供了一条充满希望的前进道路。2019年，新西兰（Aotearoa）与世界经济论坛合作，为政府开发了一个《重新构想人工智能监管》流程，以确保人工智能的可信设计与部署。
近期，美国联邦贸易委员会于2021年发布了一套大胆的指导方针，内容涉及人工智能中的“真实、公平与平等”。欧盟委员会今年早些时候也发布了一份人工智能监管提案。这些措施为提升人工智能系统相关的透明度、问责制和影响评估提供了有价值的方法。我们可以在此基础上，在关于人工智能跨世代影响的讨论中纳入更多代际、跨学科和国际性的声音。
论坛在塑造新兴技术治理方面正在开展哪些工作？
通过这一视角制定的监管，可以减轻当前的危害，甚至防止未来的损害。土著智慧教导我们，将决策视为一种500年的责任，它以人类与地球的福祉为根本，涵盖过去、现在和未来。如果我们希望构建一个健康且繁荣的未来，摆脱当下的短期利益，为子孙后代而努力，就必须重视这些教训。
