麻省理工学院应用经济学教授达龙·阿杰姆奥卢解释了为何需要加强对当前人工智能技术的监管。
他认为，如果缺乏监管，人工智能技术可能造成不利的社会后果。
主要问题不在于人工智能本身，而在于领先企业处理数据及其使用方式。
阿杰姆奥卢总结说，政策应着力引导技术变革，为劳动者和公民创造新的能力与机会。
人工智能（AI）常被誉为我们这个时代最令人振奋的技术，有望改变我们的经济、生活和能力。有些人甚至认为，人工智能正稳步迈向开发“智能机器”，这些机器很快就会在大多数领域超越人类技能。过去十年左右，人工智能确实取得了快速进展，尤其得益于现代统计和机器学习技术在海量非结构化数据集上的应用。它已经影响了几乎所有行业：如今，所有在线平台以及从制造业到医疗、金融、批发和零售等行业都在使用人工智能算法。政府机构也开始依赖人工智能，尤其是在刑事司法体系以及海关和移民管控中。
在近期的一篇论文（Acemoglu 2021）中，我指出，当前的人工智能技术——尤其是那些基于当前主流范式、依赖统计模式识别和大数据的技术——更可能造成各种不利的社会后果，而非带来承诺中的收益。
这些危害体现在产品市场和广告领域，也体现在劳动力市场中的不平等、工资受压和工作岗位消失，还体现在人工智能对社会传播、政治话语和民主所产生的更广泛影响上。
人工智能、信息控制与产品市场
在所有这些情形中，主要问题并非人工智能技术本身，而是那些对人工智能技术发展方向有压倒性影响的领先企业处理数据及其使用方式。
以机器学习和大数据方法在广告和产品设计中的应用为例。原则上，这些方法能够使消费者受益，例如提升产品质量并实现定制化，但最终也可能对消费者福利产生各种不利影响。首先，掌握更多客户信息的企业可能利用这些信息实行价格歧视，从而攫取原本可能归消费者所有的更多租金。在寡头垄断市场中，收集消费者数据也可能削弱价格竞争。直观地说，当掌握更充分信息的企业实行价格歧视，使其核心客户群对其他企业吸引力下降时，其他企业可能因此提高价格。当然，这种价格上涨压力会进一步损害消费者福利。
这些新技术的其他用途对消费者的危害可能更大。首先，在线平台可能会控制过量的用户信息，因为它们购买或获取部分用户的数据时，也会由此得到有关其他用户的信息。当用户直接透露朋友和联系人的信息，或者分享与同一狭窄人口群体中其他人信息相关联的信息时，这类“数据外部性”更可能出现。数据外部性可能导致过多数据集中在企业手中，从而对隐私和消费者剩余产生不利影响（Acemoglu et al. 2021b）。
更糟的是，企业可以利用其对消费者偏好的信息优势操纵消费者行为（例如 Zuboff 2019）。在消费者完全理性的模型中，行为操纵并不常见。不过，当消费者并未充分了解用于追踪和预测其行为的新数据收集与处理方法时，行为操纵就很可能发生。反垄断法律分析人士汉森和凯萨等人理解这种操纵的基本原理，他们指出：“一旦承认个人会系统性地以非理性方式行事，从经济角度看，其他人就会利用这些倾向牟利”（1999: 630）。事实上，广告一直包含某种操纵成分。不过，人工智能工具可能放大了这种操纵的程度。人工智能操纵已有若干实例，包括连锁零售商塔吉特成功预测女性是否怀孕，并向她们发送隐蔽的婴儿用品广告；一些企业估算“最易受影响的时刻”，并在这些时刻为容易被冲动购买的产品投放广告。YouTube 和 Facebook 等平台也可能利用算法，识别特定用户群体，并优先向他们推送更容易让人上瘾的视频或新闻动态。
人工智能与劳动力市场不平等
人工智能技术对劳动力市场的影响可能更加有害。美国和其他几个发达经济体的劳动力市场不平等现象有所加剧，大量证据表明，部分原因是自动化技术被迅速采用和部署，取代了低技能和中等技能劳动者原先从事的工作任务（Acemoglu and Restrepo 2021）。这类自动化及其造成的不平等后果早于人工智能的出现。然而，Acemoglu et al.（2021a）发现，自2016年以来，美国人工智能的发展加速主要针对自动化，其影响与其他自动化技术相似。人工智能和数据的大规模使用可能扩展自动化的可能性，从而加剧美国和其他发达经济体过去几十年来经历的不平等趋势。
原则上，自动化可以提高效率。然而，也有理由认为自动化可能以低效的方式发生。一个重要原因是劳动力市场存在不完善之处，这使企业承担的劳动力成本高于其社会机会成本。在这种情况下，即使自动化会降低社会总剩余，企业也会通过自动化将租金从劳动者转移到自己手中。
人工智能的其他用途可能造成更为严重的负面后果，包括利用人工智能和工作场所数据加强对劳动者的监控。同样，当劳动者拥有租金（无论是由于议价能力，还是效率工资因素），加强监控可能有利于企业从劳动者手中夺回这些租金。但按照同样的逻辑，这种租金转移在社会层面效率低下且过度——在边际上，它是一种成本高昂的活动，既不增加社会总剩余，只是将其从一类主体转移给另一类主体。
人工智能、社会话语与民主
人工智能驱动的自动化还可能产生其他负面影响。尽管它不太可能在近期导致大规模失业（迄今其他自动化技术造成的就业减少影响也较为有限），但劳动者被替代会带来各种扰乱社会的影响。与工作联系较少的公民可能较少参与公民活动和政治（Sandel 2020）。更重要的是，自动化会使权力平衡从劳动转向资本，这可能对民主制度的运行产生深远影响。换句话说，如果民主政治在某种程度上依赖劳动和资本彼此制衡的力量，那么自动化可能通过让劳动在生产过程中变得可有可无而损害民主。
人工智能对民主的影响并不局限于自动化带来的影响。迄今受人工智能彻底改变的领域之一，是传播和新闻消费，尤其是各种社交媒体平台提供的产品和服务。人工智能的应用和用户数据的收集已经改变了社会话语，现有证据表明，它们加剧了两极分化，削弱了事实和优先事项方面的共同认知，而这种共同认知对民主政治至关重要（例如 Levy 2021）。正如卡斯·桑斯坦在20年前所预见的那样，“碎片化和极端主义……是志趣相投的人只与彼此交流时可以预见的结果”。他强调，“缺乏共同经历的多元社会，将更难以应对社会问题”（Sunstein 2001: 9）。事实上，人工智能驱动的社交媒体似乎既助长了这类碎片化和极端主义，也推动了错误信息的传播（例如 Vosoughi et al. 2018）。
技术发展方向的问题
到目前为止，这篇文章的语气或许会让人觉得，人工智能必然会带来灾难性的社会后果，而我坚决反对这项技术。这两点都不属实。人工智能是一个前景广阔的技术平台。问题在于这项技术当前的发展和使用方向：牺牲劳动者和消费者的利益来增强企业（有时也包括政府）的权力。这种当前做法源自控制人工智能的企业的商业实践和优先事项，也源自这些做法为人工智能研究人员创造的激励机制。
以社交媒体为例。我强调的这些问题，一个主要原因是平台试图通过让用户“上瘾”来最大化用户参与度。这一目标根植于其商业模式：通过广告将数据和消费者流量变现。它们不受监管这一事实也助长了这种做法。
自动化带来的负面影响也是如此。人工智能可以用于提高人的生产力，也可以为劳动者创造新的工作任务（Acemoglu and Restrepo 2018）。人工智能被主要用于自动化，是一种选择。领先科技公司的优先事项以及以算法自动化为核心的商业模式，推动了这一技术发展方向的选择。
更普遍地说，人工智能当前的发展路径以牺牲劳动者和公民的利益为代价增强企业的权力，而且往往还为政府提供额外的控制工具，用于监控，有时甚至用于镇压（例如新的审查方法和面部识别软件）。
结论：监管的必要性
这一推理得出一个简单结论：当前人工智能的问题，源于人工智能不受监管，而这种状态忽视了其更广泛的社会影响和分配后果。事实上，天真地认为不受监管的市场会在社会弊害与垄断数据所带来的利润之间作出恰当取舍，并不现实。
这一观点还表明，问题不只是垄断力量。如果大型科技公司不止少数几家，也不能保证它们会采用不同的商业模式和人工智能方法。因此，反垄断并非应对人工智能潜在危害最有力的工具，更绝非充分的工具。相反，政策应着力引导技术变革，使其摆脱以增强企业权力为目的的自动化和数据收集，转而推动能够为劳动者和公民创造新能力与机会的技术发展。政策还应优先系统监管数据的收集和获取，以及利用新的人工智能技术操纵用户行为、在线传播和信息交流的做法。
鉴于人工智能和数据无处不在，我还建议采取一种新的监管方法，可称为“预防性监管原则”：事前监管应放缓人工智能技术的使用，尤其是在大规模实施之后，政治和社会层面更难弥补人工智能成本的领域。
影响政治话语和民主政治的人工智能技术，可能是适用这一预防性监管原则的首要对象。既然（过度）自动化及其社会后果也很难逆转，那么利用人工智能实现自动化和监控劳动力市场的做法也同样如此。
参考文献
Acemoglu, D（2021），《人工智能的危害》，《牛津人工智能治理手册》，即将出版。
Acemoglu, D 和 P Restrepo（2018），《人与机器的竞赛：技术对增长、要素份额和就业的影响》，《美国经济评论》108(6): 1488--1542。
Acemoglu, D 和 P Restrepo（2019），《自动化与新任务：技术如何改变劳动力需求》，《经济展望杂志》33(2): 3--30。
Acemoglu, D 和 P Restrepo（2021），《任务、自动化与美国工资不平等的加剧》，NBER 工作论文第28920号。
Acemoglu, D、D H Autor、J Hazell 和 P Restrepo（2021a），《人工智能与就业：来自在线职位空缺的证据》，NBER 工作论文第28257号，即将发表于《劳动经济学杂志》。
Acemoglu, D、A Makhdoumi、A Malekian 和 A Ozdaglar（2021b），《过多的数据：数据市场中的价格与低效》，《美国经济学杂志：微观经济学》，即将出版。
Hanson, J D 和 D A Kysar（1999），《认真对待行为主义：市场操纵的一些证据》，《纽约大学法律评论》74: 630。
Levy, R（2021），《社交媒体、新闻消费与两极分化：一项实地实验的证据》，《美国经济评论》111(3): 831-870。
Sandel, M J（2020），《功绩的暴政：共同福祉何以沦落至此？》，纽约州纽约市：企鹅出版社。
Sunstein, C（2001），《Republic.com》，新泽西州普林斯顿：普林斯顿大学出版社。
Vosoughi, S、D Roy 和 S Aral（2018），《网络真假新闻的传播》，《科学》359: 1146--1151。
Zuboff, S（2019），《监视资本主义时代：在权力新边疆为人类未来而战》，英国伦敦：Profile Books。
