对于社会广阔而未知的数字化未来，我们正站在一个转折点上。一项强大的技术——人工智能（AI）——浴火重生，这在很大程度上要归功于神经网络的进步；这些网络的设计在一定程度上模仿了人脑。人工智能能够从海量非结构化数据集中发现规律，随着可用数据增加而提升性能，快速准确地识别物体，并作出越来越多、更优质的推荐和决策，同时尽量减少复杂且带有政治色彩的人为干预。这引发了重大问题：未来几十年，人类自主选择和包容参与的程度将如何？不同权力和收入阶层的人们将如何参与并得到代表？我们将如何治理这个机器精英治国的崭新世界？
机器精英治国
我们需要回到800年前：1215年1月，刚从法国回来的英格兰国王约翰，面对着一群愤怒的男爵，他们希望结束他不得人心的武力与意志统治。这位国王与坎特伯雷大主教为安抚他们，召集了25名反叛男爵，共同协商一份《自由宪章》，确立一系列权利，以制衡国王的自由裁量权。到了6月，双方达成协议，增加王室决策的透明度和代表性，限制税收与封建义务，甚至赋予农奴一些权利。著名的《大宪章》并非完美无缺，充斥着特殊利益条款，但如今我们往往将其视为人类迈向权力与受其支配者之间公平关系的转折点。它最终为启蒙运动、文艺复兴和民主制度铺平了道路。
权力平衡
岌岌可危的，正是新权贵——智能机器——不断增长的力量与人类力量之间的平衡。在机器创造越来越多价值、生产更多日常用品，而人类对设计和决策的控制不断减少的世界里，现有的工作和生活模式将永久改变。我们的造物正绕着我们飞速奔跑，快得让我们数不清它跑了多少圈。
机器决策
这远不止关乎就业和经济：机器正开始在生活的各个领域替我们作出决定，而我们并未有意识地参与其中。机器会识别我们过去的行为模式，也会识别世界各地据称与我们相似的人群的行为模式。我们收到的新闻会塑造我们的观点、看法和行动，其依据是我们过去行为中表现出的倾向，或我们所处圈子里其他人的行为。开车时，我们会与汽车制造商和保险公司分享自己的行为模式，以利用导航技术和日益成熟的自动驾驶汽车技术；作为回报，这些技术带来新的便利，也让出行更安全。我们享受内容更丰富、量身定制的娱乐和电子游戏，而其制作方了解我们的社会经济状况、行动模式以及认知和视觉偏好，并据此判断我们对价格的敏感程度。
随着我们不断选择接受越来越多的便利服务，我们也选择信任机器能够“准确理解我们”。机器会以或许比我们了解自己更诚实的方式认识我们——至少从纯粹理性的角度来看是如此。但机器不会轻易考虑到我们声称的自我与真实的自我之间存在的认知脱节。机器依赖我们真实行为产生的真实数据，将我们限定在过去的样子，而非我们希望成为的样子或期望实现的目标。
个人选择
机器会消除个人选择吗？它会让生活中的意外惊喜消失吗？它会规划和安排我们的人生，让我们只遇见与自己相似的人，从而剥夺那些促使我们成长为不同、或许更好的人类的相遇与碰撞吗？这其中蕴藏着巨大的潜力：有些个人决定应当依据更客观的分析，例如纳入不同交通方式的碳足迹，并结合我们的日程安排和社会情感需求；又如在选择伴侣时，坦诚指出我们真正擅长之处；或为多元化的学生群体设计更有效的教学计划。
社会两极分化
但它也可能加剧社会两极分化，把我们进一步推入志趣相投者的圈子，在没有随机机会检验、捍卫并被迫重新审视信念和价值观的情况下，不断强化这些信念和价值观？人工智能可能被用于“数字社会工程”，形成彼此平行的微型社会。想象一下数字化选区操纵：政治操盘手利用人工智能，在选举前数年将特定类型的选民诱导到特定选区；或者想象只在特定社会政治、经济或心理特征人群之间出租房源的爱彼迎微型社区。再想想企业能够以更精准的方式招聘，这既提高了成功率，也可能因员工群体变得更狭窄、更多元特征减少，而损害企业的战略选择空间。
由谁作出判断？
机器依据我们表达出来的价值观来评判我们——尤其是商业交易中隐含的价值观——却忽略了我们压抑起来或在人生某个阶段处于潜伏状态的其他深层价值观。人工智能可能不会考虑新形成的信念，也不会考虑那些超出易于编码范围的价值观变化。因此，它可能会依据历史数据作出有关我们安全的决定，而这些决定会损害他人的福祉，并且在当下看来可能令我们无法接受。我们是复杂的个体，会根据眼前情境不断权衡价值；有时，人工智能可供处理的成文先例很少，甚至完全没有。机器会尊重我们自由意志和自我重塑的权利吗？
歧视与偏见
同样，由于机器的算法建立在模式识别和广泛统计平均值之上，它可能歧视健康状况较差或社会地位较低的人。优步已经因种族歧视问题遭到强烈批评：其算法曾依靠邮政编码来识别乘客最可能来自哪些社区。人工智能会优先保障最适者、最受欢迎者或生产力最高者的生存吗？它会透明地作出这些决定吗？我们将如何寻求补救？
此外，程序员的个人经历、倾向和未察觉的偏见——或其雇主的动机与激励因素——可能在无意中影响算法设计和数据集来源。我们能假定人工智能始终客观运作吗？企业会开发偏袒其客户、合作伙伴、高管或股东的人工智能吗？例如，由科技公司、医院集团和保险公司共同开发的医疗人工智能，究竟会以患者的最大利益为先，还是会优先追求特定的经济回报？
我们无法把精灵塞回瓶子里，也不应试图这样做——人工智能将带来变革性益处，引领我们迈向人类成长与发展的新前沿。我们正站在一场进化爆发的门槛上，其规模在过去一千年里前所未见。爆发和革命总是混乱不明，并充满伦理陷阱。
一份新的权利宪章
因此，我们提议制定《全球人工智能经济大宪章》——一份包容各方、由多方利益相关者共同制定的权利宪章，用以指导人工智能的持续发展，并为人机共存的未来以及更加包容的人类持续发展奠定基础。无论是在经济、社会还是政治领域，作为一个社会，我们都必须着手明确权利、责任和问责准则，确保人工智能融入人类生活时具备包容性和公平性。否则，我们就无法对人工智能建立足够的信任，也无法把握它可能带给我们的惊人机遇。
