技术进步的指数级速度，使应对其意外后果比以往任何时候都更具挑战性。数字创新，尤其是社交媒体，已经让我们见识到这一点；而对于人工智能，我们才刚刚开始思考其影响。人工智能有望成为信息时代最具变革性的技术。
数字创新带来的意外后果已有充分记录：直播骇人听闻的暴力事件和其他犯罪；阴谋论泛滥；成瘾改变儿童的大脑和情绪健康；群体思维加剧政治和社会分裂；助长文化部落主义、不宽容和社会对立；外国势力操纵社交媒体，损害选举公正。所有这些发展都削弱了我们对数字技术的信任。
科技公司和政策制定者通过行业自律与政府强制规定相结合的方式处理这些问题，至关重要；与此同时，作为一个国家，我们还应采取一项相关举措：现在正是预判下一创新前沿——人工智能——广泛影响的时候。尤其迫切的是，我们现在就要明确人工智能可以被信任去做什么，以及它可能如何遭到滥用。
美国、中国和其他全球强国正在竞相开发和应用人工智能，以促进经济和国家安全利益。尽管目前看来美国略占优势，但领先幅度并不大。大量投资正涌入相关硬件、软件和人才领域，以便在中长期竞争。据专注于科技领域的市场研究公司 Tractica 预测，在早期成功和毫无节制的乐观情绪推动下，到2025年，全球人工智能投资将增至3,000亿美元以上。
“在这项技术充分发挥潜力之前……企业和政策制定者必须解决一个基础却艰巨的挑战：作为一个社会，我们应该信任人工智能去做什么。”
未定义
但技术实力只是决定谁将在人工智能竞赛中胜出的一个因素。在这项技术充分发挥潜力之前——尤其是在美国的经济和国家安全应用方面——企业和政策制定者必须解决一个基础却艰巨的挑战：作为一个社会，我们应该信任人工智能去做什么。这是制定国家人工智能战略的核心。最重要的是，这项战略必须建立人们对这项变革性技术的信任。成功有三条关键路径。
首先，我们必须相信人工智能能够正常运行——也就是相信当今所有人工智能赖以建立的数学算法能够正确完成任务。这需要大量标注数据和时间来训练算法。这也意味着，至少在采用初期，算法的使用者应参与其构建过程。例如，一位习惯于查看所有数据后再作出判断的情报分析员，至少在一开始可能需要投入到训练算法识别她所看到内容的过程中——强化正确答案，并在过程中纠正错误。当使用者看到人工智能确实改善了分析结果时，她就会相信它能正确完成任务。
国家地理空间情报局（NGA）正在大力推进一项工作，利用算法检测图像中的变化。这通常是分析流程的首批步骤之一，旨在向政策制定者提供战略预警。据 NGA 分析局局长苏·卡尔韦特（Sue Kalweit）介绍，试点项目已证明算法在这一应用场景中的有效性。NGA 正致力于将其推广至整个机构；随着计算机视觉技术的进步，预计它将继续助力情报分析，功能也将从变化检测扩展到目标检测、识别、分类，并最终实现情境分析。
卡尔韦特说，她最常被问到的问题之一，是 NGA 分析员是否愿意接受人工智能能够承担他们数十年来一直从事的工作。她说：“我可以明确地告诉你，任何能帮助他们确定该看哪里，或提示他们在图像中关注的目标出现在哪里的技术，他们都想要。”分析员正在接受这项技术，因为试点项目中使用人工智能，让他们得以更早开展更高层次的认知工作。他们的职责是提供洞见，而不仅仅是信息；这项技术让他们能够专注于算法检测到的变化意味着什么，而不必花费数小时浏览海量图像来发现变化。
“现在正是专家们……就国家人工智能战略达成一致的时候。这项战略应通过建立信任来推动人工智能的应用，让人们相信它安全、有效、合乎伦理、可问责且透明。”
未定义
建立人工智能信任的第二条关键路径，是确保它与我们秉持相同的价值观——也就是说，在相同情况下，它会像我们一样可靠地行事。美国的公共和私营部门正开始认真制定人工智能伦理框架，包括如何最好地保护、整理和使用人工智能所审查的数据。例如，研究人员正在研究控制算法偏见的解决方案。
与此同时，政策制定者也发出信号，表明他们可能会介入。民主党参议员科里·布克（Cory Booker）和罗恩·怀登（Ron Wyden）最近提出一项法案，要求企业审查人工智能系统是否存在偏见，并纠正可能导致结果偏颇的问题。该法案将要求联邦贸易委员会为“高度敏感”系统制定规则，并要求对这些系统进行评估，同时为输入系统的数据提供安全和隐私保护。显然，如果我们作为一个社会要相信人工智能与我们秉持相同的价值观，这些领域还有大量工作要做。
最后，正如里根总统教导我们的，要真正信任，就必须验证。这意味着我们必须了解算法如何得出答案。遗憾的是，学术界和产业界的研究人员已经开始发现，人们可以通过某些方式诱使人工智能“看到”错误的事物。例如，人工智能可能在训练过程中遭到破坏，使一张特定位置的贴纸——人类不会被它骗过——却能让自动驾驶汽车把停车标志看成限速标志，后果可能是灾难性的。这些新的“攻击面”（即网络安全领域所说的风险途径），必须在技术投入运行前得到了解和缓解。提高人工智能决策依据的透明度，对于判断错误——尤其是导致悲剧的错误——究竟源于糟糕的算法、恶意行为者，还是无法避免的厄运，至关重要。要让这项技术成为日常生活和国家安全中无处不在的工具，就必须加快正在开展的人工智能可解释性工作。简言之，我们必须能够信任并验证。
如今，我们正迎来在这些领域取得进展的机会窗口。美国政府采纳人工智能的步伐，比许多人仅在两年前所预想的更快。与此同时，政策制定者正逐渐就制定国家人工智能战略的必要性形成共识，同时也向我们保证，在涉及生死的事务中，人类始终会参与决策。
然而，鉴于技术进步如此迅速，我们不难预见，在不远的将来，针对关键系统的网络入侵或攻击可能发生得如此之快，以至于必须以计算机的速度作出响应。届时可能没有时间留给人类决策。在那一刻，对技术的信任将至关重要。这种信任必须在设计阶段就建立起来。现在正是商界、科技界、科学界、法律界和政策界的专家就国家人工智能战略达成一致的时候；这项战略应通过建立信任来推动人工智能的应用，让人们相信它安全、有效、合乎伦理、可问责且透明。
