人工智能超级智能的发明自至少19世纪以来就是科幻小说的核心主题。从E.M.福斯特的短篇小说《机器停止》（1909年）到近期的HBO电视剧《西部世界》，作家们往往将这种可能性描绘为彻底的灾难。但这一问题已不再只属于虚构领域。当代一些知名科学家和工程师现在也担心，超级人工智能有朝一日可能超越人类智能（即所谓的“奇点”事件），并成为人类的“最严重的错误”。
当前趋势表明，我们即将进入一场国际军备竞赛，争夺这类技术的主导权。无论哪家高科技企业或政府实验室率先发明出超级人工智能，都将获得一项可能主导全球的技术。这是一场赢家通吃的竞争。因此，对于希望阻止此类事件的人而言，问题在于如何遏制这种军备竞赛，或至少激励相互竞争的团队不要在人工智能安全方面偷工减料。
正如哲学家尼克·博斯特罗姆和其他人所指出的，超级人工智能给其发明者带来两项根本性挑战。其一是控制问题，即如何确保超级人工智能与人类拥有相同的目标。若无法做到这一点，该智能体可能会有意、无意或因疏忽而毁灭人类——即一场“人工智能灾难”。
其二是政治问题，即如何确保超级智能的益处不只归于少数精英，从而避免造成巨大的社会和财富不平等。如果超级人工智能军备竞赛发生，竞争团队可能会忽视这些问题，以便更快地发展其技术。这可能导致质量低劣或不友好的超级人工智能。
一种建议的解决方案是运用公共政策，提高参与竞争的门槛，从而减少竞争团队的数量，并提升那些参与者的能力。参与竞争的人越少，为了取胜而偷工减料的压力就越小。但政府如何能以这种方式减弱竞争？
我的同事尼古拉·迪米特里和我最近发表了一篇论文，试图回答这一问题。我们首先表明，在典型的赢家通吃式竞赛中（例如争相研制首个超级人工智能的竞赛），只有最具竞争力的团队会参与。这是因为实际发明超级人工智能的概率非常小，而且由于需要在研发方面投入大量资金，进入竞赛的成本也非常高。
事实上，这似乎正是目前较为简单的“狭义”人工智能发展的现状。专利申请在这类人工智能领域主要由少数企业主导，而绝大部分人工智能研究仅在三个地区（美国、中国和欧洲）开展。目前似乎也很少有团体（如果有的话）正在投入资源研发超级人工智能。如果有的话，此类团体目前正在投资研发超级人工智能。
这表明，减少竞争团队数量目前并非最重要的优先事项。但即便竞争者数量较少，竞争的激烈程度仍可能导致上述问题。因此，为了降低致力于研发超级人工智能并提升自身能力的各团体之间的竞争强度，政府可以借助公共采购和税收手段。
公共采购指政府向私营企业购买的各类产品和服务，从政府机构使用的软件到运营服务的合同。政府可以对任何超级人工智能供应商施加限制，要求其应对潜在问题，并支持能够增强人类智能、并将其与人工智能相结合的配套技术。
但政府也可以提出购买性能不及最优版本的超级人工智能，从而有效地在这场军备竞赛中设立一个“二等奖”，使其不再是一场赢家通吃的竞争。设立中间奖项，例如奖励发明出接近（但并非完全等同于）超级人工智能的成果，将促使相互竞争的团体有更大动力加大投入并加强合作，从而降低竞争强度。二等奖还将降低失败风险，为更多投资提供正当理由，有助于提升竞争团队的能力。
至于税收，政府可以根据所研发人工智能的友好或不友好程度，设定发明超级人工智能的团体的税率。税率足够高时，实际上就等同于将超级人工智能收归国有。这将极大地遏制私营企业偷工减料的动机，因为它们担心自己的产品会被国家没收。
造福公众而非私人垄断
这一构想可能需要在全球范围内更好地协调超级人工智能的税收与监管。但它并不需要所有政府都参与其中。理论上，单一国家或地区（如欧盟）可以承担应对超级人工智能相关问题与伦理挑战的成本和努力。然而，所有国家都将从中受益，超级人工智能也将成为一项公共产品，而非不可阻挡的私人垄断。单一国家或地区（如欧盟）
当然，这一切都取决于超级人工智能是否真的对人类构成威胁。也有科学家认为它不会构成威胁。随着时间的推移，我们或许会自然地通过工程技术消除超级人工智能的风险。有人甚至认为，人类最终可能会与人工智能融合。
无论如何，只要我们确保能够充分利用人工智能这项仍处于初级阶段的技术，我们的星球及其居民都将从中获得巨大益处。为此，我们需要更好地理解政府可以发挥的作用。
