人工智能已经到来，我们需要对其进行监管。
但是，监管人工智能很困难，因为与许多技术一样，人工智能本身既非绝对好，也非绝对坏。
人工智能的内在特性和快速演进要求监管必须不断演进，并聚焦于其结果，这需要永恒的警惕。
人工智能（AI）不太可能毁灭人类，但它已经在工业、政府、教育和创意艺术领域引发社会动荡。“深度伪造”已被指责为虚假的政治媒体。人工智能已经到来，我们需要对其进行监管。但是，监管人工智能很困难，因为与许多技术一样，人工智能本身既非绝对好，也非绝对坏。它取决于如何使用。
欧盟近期发布了人工智能规则，将其应用划分为若干层级。这些层级涵盖从不可接受的高风险及禁止用途，到低风险且监管较为宽松的应用。虽然这是一个有用且易于理解的框架，但确定风险等级并不容易。最佳监管应关注的不是人工智能工具本身，而是其用户和使用方式。我们对刀具的监管也采用了相同的方法。事前监管将远远不够。相反，我们需要持续审视人工智能的结果。
许多传统法规预先规定了允许或禁止的事项。例如，对于特定工艺中可使用某种化学品的数量设有限制。这些规定便于用户理解和遵守。但人工智能的性质意味着我们不能依赖此类监管。人工智能不仅仅是一种黑箱技术（对外部人员不透明），其结果甚至连其创造者也无法预知。它依赖于学习，并产生一种无法先验地得知的“涌现行为”。更复杂的是，学习过程本身也具有不确定性，从而导致基于训练数据的内在偏见风险。
世界经济论坛如何为人工智能建立防护机制？
人工智能卓越中心汇聚各行业领袖，帮助人们理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用所带来的机遇、风险和权衡取舍开展知情对话。
通过可信赖的交流空间和合作倡议，该中心使合作伙伴能够建立共识，并携手推进人工智能创新与应用的负责任方法。
应对这些挑战需要人工智能监管至少遵循三组原则：
1. 可追溯性
首先，应确保人工智能具备可追溯性，涵盖其应用和交互过程。即使企业进行外包或拥有庞大的供应链，每一层级也必须分别并整体地合规。
如果某人被不当拒绝贷款，且该过程涉及人工智能，我们应当知道导致这一结果的原因。可追溯性与可测试性相关——这一结果是否正确？
2. 可测试性
可测试性是一个复杂的问题，需要持续保持警惕，且无法仅通过预先设定的数据集进行测试。若果真如此，企业便可能钻制度的空子。而且，如果我们担心人工智能会钻测试系统的空子，那么对人工智能的首要要求应当是如实报告其所做的事情。已经有人工智能系统出现学会撒谎以提高其实现目标的成功率的情况，而这并非由创造者或用户编程设定或要求其撒谎。
3. 问责制
第三，我们需要建立一套问责制度，以遏制作弊行为，或避免将处罚仅仅视为一种经营成本。如果人工智能监管在经济上足够严厉，用户便会关注人工智能的使用及其结果。
这三项监管原则的部分内容已在其他领域有所体现，但通用型监管框架并不适用于人工智能的速度、规模和不透明性。例如，我们已有知识产权相关法律，但大多数人工智能系统都是在公共网络数据上训练的。尽管网络表面上是公开的，但内容所有者可能不希望其被用于训练人工智能系统——例如，媒体公司目前正就此起诉人工智能公司。作为可追溯性的一个子集，我们可能需要制定相关法规，将输入数据也纳入监管范围。
对算法进行监管是监管人工智能的一个有益起点，但仅有少数国家对算法进行了监管。加拿大在这方面做得比大多数国家更好。它将算法监管扩展至人工智能，并关注其影响，审视“自动化类型（完全或部分）；决策的持续时间及可逆性；以及受影响的领域（例如权利、隐私与自主权、健康、经济利益、环境）”。
关注影响，即事后监管，并非新鲜事物。药品在批准前受到监管，批准后也受到严格监测。同样，算法的结果理应（或至少应当）接受审查。例如，银行是否以歧视性方式拒绝向单亲母亲发放贷款，或福利系统是否以歧视性方式拒绝向其发放补助？接受审查——或至少应当接受审查——其所产生的结果。例如，银行是否以歧视性方式拒绝向单亲母亲发放贷款，或福利系统是否以歧视性方式拒绝向其发放补助？
监管无法避免人工智能相关问题，因此我们还必须设计能够应对故障的人工智能系统。公民必须能够对通过人工智能所做出的决定（例如贷款拒绝）寻求救济。即使没有人工智能，被拒绝贷款的申请人往往也得不到充分的理由说明。要解决此类权力不对称问题，需要更广泛的监管，例如改善消费者和公民权利，这一挑战超出了人工智能的范畴。
批评者担心严格的监管会扼杀一个刚刚起步的产业。这种担忧不仅没有根据，而且缺乏监管实际上会带来更多不确定性和无限期风险。问责制并不必然意味着全新的法规或负担——我们对威胁、欺诈、歧视、版权侵权等行为早已追究责任。需要注意的是，可追溯性和可测试性并不要求可解释性——这是人工智能系统的“圣杯”，但在可预见的未来，实现它将造成沉重负担。
使用人工智能的企业也希望获得保护。传统框架一直为科技公司针对特定允许的活动提供“避风港”。例如，互联网服务提供商对于终端用户利用其互联网服务违法行为不承担责任，例如，用户利用网络社交平台售卖盗版电影。人工智能技术人员理应享有此类保护，但前提是，一旦发现违规行为，相关实体有义务采取行动，正如当前对互联网平台上托管的非法内容发出的下架通知那样。电子前哨基金会（Electronic Frontier Foundation）的经验表明，下架通知往往存在错误或容易被滥用，但事后下架这一原则仍然具有价值。
银行曾让我们接受“大到不能倒”的理念。人工智能不应导致“嵌入过深而无法修复”（即除非全面关停）的局面。在流程中使用人工智能工具的企业，应切实做到模块化设计，以便在出现违规时，能够在不危及整体系统的情况下关闭或替换相关组件。
监管人工智能面临与我们监管互联网类似的其他挑战，包括主权、管辖权和域名问题。在一定程度上，透明度和监管协调有助于应对这些挑战。人工智能的快速演进或许是一项挑战，但也提醒我们，监管本身也必须不断演进，我们必须接受永恒的警惕。
