本文是世界经济论坛地缘战略平台
人工智能（AI）领域的技术进步有望广泛渗透，并对健康、经济、安全和治理产生影响。
人工智能与其他新兴且相互融合的技术结合，有望通过改善决策和提升人类福祉来改变我们的社会。
威尔逊中心报告《人工智能：政策导向型导论》的作者安妮·鲍泽、迈克尔·斯隆、皮埃特罗·米凯卢奇和埃莉诺·鲍威尔指出，如果缺乏充分的风险评估和缓解措施，人工智能可能威胁我们防御体系、经济体系和社会结构中现有的脆弱环节。
鉴于技术日益融入社会，这份政策简报首先通过客观分析能力发展趋势，为当前围绕人工智能的热议奠定基础，然后概述人们所认识到的益处与风险。简报还介绍了一个新兴的人工智能子领域——人类计算。通过在纯人工智能仍有不足之处时策略性地让人类参与其中，人类计算有助于实现人工智能未来的能力。
政策建议提出了如何为科学和社会尽可能扩大益处、降低风险，尤其是将人的参与融入复杂的社会技术系统，以确保自动化智能得到安全、公平的发展。
报告提出了若干关键建议：
复杂时代的规划：面向政策制定者和资助方的建议
人工智能是第四次工业革命（4IR）的关键组成部分。第四次工业革命是“多种技术的融合，正在模糊物理、数字和生物领域之间的界限”。
第四次工业革命的特点是新兴和新发展的技术汇聚于复杂的社会技术系统中，这些系统渗透到人类生活的方方面面
undefined
与涉及机械化、大规模生产和自动化等流程的以往革命相比，第四次工业革命的特点是新兴和新发展的技术汇聚于复杂的社会技术系统中，这些系统渗透到人类生活的方方面面。
技术融合也意味着人工智能、基因组学和纳米技术等多个领域之间的互动日益增多，这迅速扩大了科学政策工作需要考虑的潜在影响范围。
十年前，纳米技术备受赞誉，主要是因为它对化学和材料科学的影响。但在与基因相关的尺度上精确操控物质的能力，推动了基因组学和神经科学的重大进展，例如实现神经元网络建模。这一例子说明，两种新兴技术——人工智能与基因组学——的融合，带来了超越各自初始能力的进步。
应对技术融合带来的挑战，需要借助广泛的专业知识，并采取系统性方法，推动负责任的研究与创新。
作为人工智能设计流程的“局外人”，政策制定者由于对技术运作方式了解有限，极难评估人工智能的发展。许多人还可能借鉴不适用于人工智能的传统监管模式，在追赶中解读研究人员使用的术语，或陷入人类常见的误区，高估新技术的短期能力。
未来几十年，人工智能将推动系统发生重大转变，但这种转变或许会比我们担心或想象的更为渐进。
与私营部门和大学的顶尖研究人员合作，对人工智能开展广泛而深入的研究。
在美国，斯坦福大学等机构的政策组织和研究人员早期发布的报告，为人工智能研发提供了高层次路线图。IEEE等组织召集的专家小组则通过深入探讨符合伦理规范的人工智能设计等议题，为这些概述提供补充，以最大限度地提升人类福祉。
近期，与政策制定者合作的人工智能研究人员应开展更多深入研究，以更细致地了解并预测人工智能相关领域的发展，例如工作自动化，并考量其在不同时间、行业、工资水平、教育程度、职业类型和地区的影响。比如，人工智能系统更可能取代需要高水平认知能力、但内容重复的工作，而不是需要高超手部灵巧度的低技能工作。其他研究还可探讨国家安全等领域。
倡导以系统性方法开展人工智能研究与开发，兼顾其他新兴技术并促进人的参与。
我们完全有能力构建由人类和机器组成的网络，让双方协同感知、思考和行动，发挥比人类或人工智能系统单独运作更高的效能
undefined
人工智能旨在让机器复制人类智能，但类人智能本就存在于人类之中。如今，我们可以将人类认知的互补能力与现有最先进的人工智能方法相结合，构建混合式分布智能系统，从而发展超人类智能。换言之，我们完全有能力构建由人类和机器组成的网络，让双方协同感知、思考和行动，发挥比人类或人工智能系统单独运作更高的效能。
名为“人类计算”的新兴人工智能子领域正在探索这些机会：让人类参与各种信息处理系统，执行超出机器人工智能能力范围的任务。因此，人类计算也被戏称为“人工的人工智能”。
公民科学平台上可以看到人类计算的有力案例。例如，在 stardust@home 平台上，3万名参与者从一百万张数字图像中发现了五颗星际尘埃粒子；在 Stall Catchers 平台上，数千名在线玩家帮助加快阿尔茨海默病疗法的研发。
人类计算还包括维基百科等众包平台。维基百科汇集信息，形成了世界上最全面的人类知识集；reCAPTCHA 则具有双重功能：验证网站访问者是否为真人，同时从图像中提取信息。
此外，Habitat Network 等平台利用线上与线下行为之间的相互促进，影响人们在自家周边采取保护行动。
这种大规模集体行动或许是应对有害集体行为所引发社会问题的唯一制衡力量，例如内燃机的使用。“第一代”人类计算应用的案例，只展现了人机混合系统尚未开发的潜力。
人类计算方法通过推动人工智能系统设计来应对这类反乌托邦式担忧：让人类利益相关者参与其中，由他们推动系统作出与社会相关的决策并采取相应行动。T
认真开发人工智能系统，审慎考虑混合思维系统中人类与技术的共同演进，将有助于确保即使系统具备超人类能力，人类仍能以个人或集体的方式保持最终控制权。
促进创新，避免将监管集中化并大幅扩张。
现行人工智能监管规定是对产品的补充，因此归入现有立法权限之下。例如，美国食品药品监督管理局（FDA）监管精准医疗举措；交通部（DoT）下属的国家公路交通安全管理局则发布自动驾驶车辆相关指导，同时将关键决策留给各州。专家一致认为，扩大监管并将其集中化会阻碍发展。
一些研究人员指出，“目标模糊”与广泛的透明度要求相结合，促使企业优先保障消费者隐私；他们主张在人工智能领域采取类似做法，即通过严格的透明度要求促进创新，同时强化问责。
与此同时，也需要通过应对共同挑战来维护公共利益。这包括制定安全指南和事故调查流程，保护个人隐私与公共安全，设计决策过程透明的系统，并通过有效的科学传播管理公众认知。
通过发布指导意见以及建立或支持特定主题的社群，努力实现益处最大化、风险最小化。这些举措进而有助于拓宽视野、激发创造性活动。
为促进联邦政府内部的自上而下协调，奥巴马政府于2016年在国家科学技术委员会（NSTC）下设立机器学习与人工智能小组委员会。
但跨机构创新也源于基层自下而上的社群。Digital.gov 支持的联邦实践社群（COP）是分享和制定共同策略的重要枢纽。
一个 COP 已在探讨人工智能在提供公民服务方面的作用。行政指导可以鼓励成立更多 COP。
公共部门既是人工智能研发的重要利益相关方，也是宝贵的专业知识来源。
作为争取公众参与的第一步，奥巴马政府与几所大学和非政府组织共同主办了五场研讨会，并发布了一份面向公众的信息征询（RFI）。后续活动可以借助行业领袖以及州和地方政府倡导者与服务对象的知识。
除了一次性活动之外，也应支持持续开展公众参与和外联项目，以符合政府开放透明的理念。一个正在开展的项目是科学与技术专家及公民评估（ECAST）网络。该网络汇集大学、无党派政策研究组织和科学教育工作者，向公民介绍新兴科学技术政策议题，并征求他们的意见，以促进决策更加充分知情。
通过拨款以及奖金和挑战赛，推动人工智能研发。
基础研究可能需要数十年才能产生商业成果，但克劳德·香农的信息论等研究推动了互联网等后续发展，体现了理论研究的价值。
推进人工智能的基础研究应有助于制定安全与安保指南，探索培养胜任人才队伍的方法，推动标准和基准的使用，并深入剖析关键的伦理、法律和社会影响。
各机构应继续优先发展机器人、数据分析和感知等领域，同时推进人机协作方面的知识和实践，例如人类计算。
应用型人工智能研发在创新生态系统中展开，各类利益相关方通过申请资金、采购新技术和聘用顶尖研究人员开展战略性合作与竞争。
资助机构应通过促进行业、学术界和政府在竞争前研究中汇聚各方利益，激励合作。美国国家科学基金会（NSF）的产学合作研究中心计划（IUCRC）已推动此类合作，为自主空中机器人技术奠定基础。
此外，还有小企业创新研究奖（SBIR），可让小型企业有机会探索具有商业可行性的高风险、高回报技术。
奖金和挑战赛的影响难以量化，但美国国防高级研究计划局（DARPA）认为，大挑战赛结束十年后，“国防和商业应用正在蓬勃发展”。
奖金和挑战赛使各机构能够激励私营部门的个人和团体分享新颖想法，或创造技术和科学解决方案。这些机制成本低，可用于探索有针对性的人工智能发展，以推进特定机构的使命。
