随着人工智能的应用场景不断扩大，我们正面临一种现实：人类的能动性逐渐削弱，决策权反而转移给了机器。
为防止这种情况发生，我们每个人都可以在自己的生活中采取措施，维护自身的能动性和决策能力。
借助对已知与未知的“复杂五”进行思考，是为人工智能时代做好准备的可靠方法。
如今，人工智能（AI）似乎无论问题为何都是答案。人工智能带来深远益处的潜力，与生存风险迎面相遇。这些风险比单纯的人类灭绝更为微妙，它们挑战着我们的价值观、自由，甚至文明的发展轨迹。
算法控制正日益取代人类判断，悄然渗入我们的生活。它影响着各种决定，从新闻推送到求职前景，从信念到立场。这种对能动性与选择的侵蚀逐步发生，且往往难以察觉，理应得到远比刻板末日情景更多的关注。
进化压力优先考虑相关性。我们面临的压力是做出更具相关性的决策。但如何做到？
“复杂五”：认识你的未知
我们必须理解不同类型的不确定性，才能预判未来与人工智能的关系。
已知的已知：已知的已知：指我们知道自己知道的事情，例如“太阳每天早上升起、晚上落下”。对于这类事情，我们采用Michele Wucker提出的定义，即“灰犀牛。”灰犀牛并不存在不确定性；我们或许会将其视为未知，但它们是确定的。
未知的已知：指我们以为自己知道，但在它们显现时才发现并不理解的事情。例如，海洋温度与酸度的持续上升为水母种群增长提供了理想条件。这一增长随后导致全球各地核反应堆冷却系统因水母堵塞而被迫停机。在这里，我们认为已理解的情况可能变得复杂，因为微小变化会带来更大、更难预测的影响。为描述此类未知的已知，Postnormal Times使用了术语“黑色水母。”
已知的未知：指我们知道自己不知道的事情，包括新型疾病、气候变化的影响以及大规模人口迁移。这些是显而易见、可能性极高的事件，但很少有人承认它们。我们将这些已知的未知称为“黑象”，该说法源自Institute for Collapsonomics提出的一个术语。
未知的未知：指我们不知道自己不知道的事情。对于这些不可预测的异常事件，我们采用Nassim Nicholas Taleb所提出的“黑天鹅。”
蝴蝶效应：一只雄伟昆虫的振翅将这些动物联系起来。这里的“蝴蝶效应”，由气象学家Edward Lorenz定义，描述了微小变化如何产生重大且不可预测的后果。为作说明，Lorenz描述了一只蝴蝶扇动翅膀，影响了别处龙卷风的形成。
所有这些不确定性程度都有一个共同特征：无知或缺乏证据，并不等于证据不存在。
应对人工智能的“复杂五”
猎游中的“五大”动物（水牛、豹、狮子、大象和犀牛）因其力量和体型而具有危险性。在我们这个充满颠覆的世界里，我们的“复杂五”是我们在“追踪”重大颠覆者时最重要的五种动物——犀牛、水母、天鹅、大象和蝴蝶。
通过超越极端二元对立来审视人工智能的未来，我们可以使应对方式适应不确定性的整个谱系，并制定在人工智能时代保持相关性的策略。
1. 小心冲锋的犀牛
试想Wucker的灰犀牛：尽管有证据表明，一些可能发生、清晰可见且影响重大的人工智能结果已经向我们冲来，我们却仍在忽视哪些结果？
虚假信息：由人工智能驱动的深度伪造和错误信息正迅速增长，威胁着事实、民主和心理健康。英国脱欧、近期的美国选举以及新冠疫情已经表明，社交媒体可能如何损害民主。
技能与再培训：如今，常规的认知任务正在被自动化。弱人工智能已具备惊人的能力，在明确界定的任务上表现出色，在特定领域超越人类。要培养机器难以快速模仿的技能，我们必须以批判性思维和情商等以人为本的能力，取代机械式的知识传授。
面对灰犀牛，应对往往不足，因为决策来得太晚。为避免被踩踏，应当预判其影响，而不是得过且过，等到为时已晚时才惊慌失措。
2. 别被水母蜇到
“黑色水母”一词由Postnormal Times用来指代隐蔽、低概率但潜在影响巨大的事件。尽管最初的情况似乎可以预测，黑色水母仍会发展成超出我们想象的事物。
信息颠覆（Info-ruption）：信息颠覆的连锁效应会是什么？大规模虚假信息武器如何威胁社会凝聚力？信息颠覆可能成为未来战争的主要武器，决定人类的未来。
规模化偏见：人工智能通过偏见对歧视进行的大规模放大，可能在整个社会引发连锁反响。
人工智能与生物技术的融合：人工智能、生物学与技术的交汇，可能挑战人类作为主导存在的地位。什么定义了可持续的人类？
信息颠覆是一场军备竞赛。随着技术放大不准确的信息和偏见，我们必须开发同样强大的工具（以及相应的思维方式）来对抗它们。
为应对人工智能的黑色水母，我们需要考虑滚雪球式的效应，追问这些连锁反应可能如何进一步扩散，甚至变得不可逆转。应思考“如果这一影响比预期扩大得更多，会怎样？”以及“这一影响还可能波及什么？”
3. 直面房间里的大象
黑象是显而易见的威胁，但很少有人愿意承认它们。它们与灰犀牛相似，但目前大象仍站立不动，不像即将冲来的犀牛那样紧迫。当讨论黑象时，相互冲突的观点往往导致困惑和无所作为。
重塑教育：以知识为导向的教育模式，将培养出大量无法跟上我们这个非线性、不断变化世界的人。当前关于人工智能的讨论忽视了重新构想教育的迫切需要。人工智能构成的威胁并非来自其存在本身，而是源于我们的教育体系未能适应。
决策能力的去技能化：随着我们将决策委托给人工智能系统，我们的决策能力逐渐削弱，使我们失去自主做决定的习惯。随着算法越来越多地将其决定强加于我们，我们也失去了行使能动性的机会。
黑象需要调动行动、协调各方利益相关者，并理解复杂系统中的各种变化。在具体情境中，要主动承担自己的应对责任。不要让黑象令你措手不及，否则它们会演变为灰犀牛并向你冲来。
技术存在主义时代：重拾能动性
如今，人类面临的技术条件与生存条件已无法再分开。我们将这一现象定义为“技术存在主义。”
通过人工智能，技术正在战略决策这一历来为人类专属的领域向我们发起挑战。在此，技术触及了生存层面，而我们正站在自由意志的边缘。
让-保罗·萨特有力地阐述了人的处境：“存在先于本质”，即我们的能动性通过选择而显现。但如果技术代替我们决定结果，我们的能动性就会受到限制，我们的选择也可能超出我们的控制。
技术存在主义是我们尝试将这一哲学视角应用于当代技术官僚环境中的意义建构与决策。
机器无需成为超级智能，就能对我们构成挑战。当前的问题在于，要理解我们自身能力的本质，以及它与机器计算理性之间的关系。
我们不应低估去技能化的严重性。将我们的决策能力委托给算法，依赖可能会滑向依附。
真正的生存风险不在于机器接管世界，而恰恰相反：人类开始像闲置的机器一样运作，无法把当今复杂世界中不断浮现的点连接起来。
从操场到董事会，重塑教育如今已成为生存层面的首要任务。我们需要与探究、实验、失败和创造力建立新的关系，帮助我们解决所面临的生存风险。
4. 增强对黑天鹅的韧性
Taleb所说的黑天鹅是无法预见、但影响极大的事件。问题在于，我们不知道自己不知道什么。即便对人工智能而言，这些罕见事件及其失控的连锁反应的概率也无法计算。
通用人工智能：未来有哪些技术发展是可以想象的（或无法想象的）？实现AGI是否真的可能，其影响又将如何？
超级智能人工智能系统：如果我们所创造的东西超越了人类的整体智能，并超出了我们的控制能力，会发生什么？它是否可能追求对我们物种构成生存威胁的目标？
极端灾难性故障：相互作用的人工智能系统所产生的交叉影响，可能导致剧烈且无法挽回的后果。
应对黑天鹅的方式包括打造有韧性的基础，并关注具有深远影响的罕见事件。尽管黑天鹅不可预测，我们仍可以未雨绸缪，同时为我们这个世界的随机性设置防护机制。
不要只问人工智能可能对人类做什么，而要问人类将如何选择与人工智能相处。要寻找非显而易见之处，接受随机性。当现代世界越来越多地被极其罕见的事件主导时，要留意认知偏差。当黑天鹅出现时，要从废墟中重新站起来。
世界经济论坛如何为人工智能设立防护机制？
人工智能卓越中心汇聚各领域的领导者，理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险与权衡展开知情对话。
通过可信的交流空间和协作倡议，该中心帮助合作伙伴建立共同理解，并携手推动人工智能创新与应用的负责任实践。
5. 对雄伟蝴蝶带来的意外有所准备
蝴蝶效应具有过渡性：它可以转变为其他动物。当“复杂五”相互碰撞时，它们如何像滚雪球一样不断放大？
系统性颠覆是蝴蝶效应滋生的温床。不做准备的代价高昂。从食品到能源，我们的全球系统相互依存。影响并非孤立存在；同样，我们评估人工智能风险和未来准备的方式也不应孤立。
人工智能发展迅速，保持相关性的目标线也在不断移动。今天我们认为自己了解的有关人工智能的一切，明天都可能改变。
应对人工智能蝴蝶效应的最佳方式，是增强韧性、采取适应性策略，并对意外保持预期。
将我们的“复杂五”矩阵应用于人工智能，有助于规划可能的应对措施。通过认识不确定性的程度，我们能更好地为一系列未知的未来及前方的意外做好准备。
