一位科技伦理专家表示，人们对人工智能的担忧之一，是它可能放大有害的偏见和刻板印象。
她表示，如果我们不考虑人工智能可能带来的负面后果或社会危害，就可能积累“伦理债务”。
她还补充说，减少伦理债务的唯一办法，是花时间提前思考可能出错的事情——但技术人员未必受过这方面的训练。
随着公众对人工智能伦理和社会影响的担忧不断加深，人们或许会觉得现在该放慢脚步了。但科技公司内部的看法恰恰相反。随着大型科技公司的人工智能竞赛愈演愈烈，一位微软高管在一封讨论生成式人工智能的内部邮件中写道，此时“担心那些以后可以解决的问题，绝对是致命的错误”，据《纽约时报》报道。
换句话说，现在是“快速行动，打破常规”的时候了，借用马克·扎克伯格的旧格言。当然，打破了东西，之后可能就得花代价修复。
在软件开发中，“技术债务”指的是现在选择更快但不够谨慎的解决方案，导致未来修复问题时产生的隐性成本。匆忙将产品推向市场，可能意味着发布尚未准备就绪的软件；人们明知软件上市后就会发现其中的漏洞，并希望届时能够修复。
然而，生成式人工智能的负面新闻往往并非关于这类漏洞。人们担忧的很大一部分，是人工智能系统放大有害的偏见和刻板印象，以及学生欺骗性地使用人工智能。我们还听到关于隐私问题、人们被错误信息蒙骗、劳动剥削，以及人们担忧人类工作岗位可能迅速被取代等问题，不一而足。这些问题并非软件故障。意识到某项技术在加剧压迫或偏见，与发现网站上的按钮无法使用，是截然不同的事情。
作为一名科技伦理教育者和研究人员，我对这类“漏洞”思考良多。这里积累的不只是技术债务，还有伦理债务。正如开发过程中的测试不足会导致技术债务，不考虑可能的负面后果或社会危害，也会产生伦理债务。尤其是伦理债务，欠下它的人最终很少需要承担代价。
竞赛拉开帷幕
OpenAI 的 ChatGPT于 2022 年 11 月发布，为当今的人工智能竞赛鸣响了发令枪。我当时就想到，债务账本开始记账了。
几个月内，谷歌和微软就推出了各自的生成式人工智能程序，似乎为了赶上竞争而仓促上市。谷歌的聊天机器人 Bard 在公司自己的演示中信心十足地给出了错误答案，导致谷歌股价下跌。考虑到微软基于推特的机器人 Tay 曾在2016 年上线后几乎立即被关闭，原因是它不断发表厌女和白人至上主义言论，人们或许会认为微软在聊天机器人方面会格外谨慎。然而，用户早期与人工智能版必应的对话令一些用户感到不安，而且它重复传播了已知的错误信息。
当这些仓促发布带来的社会债务到期时，我预计我们会听到有人提及意外或未曾预料到的后果。毕竟，即便制定了伦理准则，也不意味着 OpenAI、微软或谷歌能够预见未来。在技术尚未完全开发出来之前，谁能知道可能会出现哪些社会问题？
这一困境的根源在于不确定性。它是许多技术革命常见的副作用，而在人工智能领域，这种不确定性尤为显著。毕竟，人工智能的部分意义就在于，它的行动无法预先确定。人工智能的设计目的或许不是造成负面后果，但它的设计确实会产生不可预见的结果。
然而，声称技术人员无法准确推测许多此类后果，实属虚伪。迄今已有无数案例表明，人工智能会重现偏见并加剧社会不平等，但科技公司自身很少公开指出这些问题。例如，是外部研究人员发现，广泛使用的商业面部分析系统存在种族偏见；他们还在一种医疗风险预测算法中发现了偏见，该算法曾被用于约 2 亿美国人。学者以及倡议组织或研究机构，例如算法正义联盟和分布式人工智能研究院，承担了这类工作的很大一部分：事后识别危害。如果公司继续解雇伦理专家，这种模式恐怕不会改变。
负责任地进行推测
我有时把自己形容为技术乐观主义者，但会像悲观主义者那样思考和做准备。减少伦理债务的唯一办法，是花时间提前思考可能出错的事情——但技术人员未必受过这方面的训练。
科学家、科幻小说名家艾萨克·阿西莫夫曾说，科幻作家“预见必然发生之事；尽管问题和灾难或许不可避免，但解决方案并非如此”。当然，科幻作家通常不负责制定这些解决方案——但如今，开发人工智能的技术人员正肩负着这项责任。
那么，人工智能设计者怎样才能学会像科幻作家那样思考呢？我目前的一个研究项目致力于探索如何支持这种伦理推演过程。我说的不是在设计时设想遥远未来的机器人战争，而是培养考虑未来后果的能力，包括考虑不久之后可能发生的事情。
这是一个我在教学中一直探讨的话题。我长期鼓励学生思考科幻技术所涉及的伦理影响，让他们为同样思考自己可能创造的技术做好准备。我设计的一项练习名为《黑镜》编剧室，学生们会在其中推演可能出现的负面后果，探讨社交媒体算法和自动驾驶汽车等技术。讨论通常以过去的模式或不法行为者可能造成的风险为依据。
博士生沙米卡·克拉森和我通过一项研究评估了这项教学练习，发现鼓励计算机专业学生想象未来可能出现的问题，并集思广益探讨如何从一开始就避免这种未来，有助于提升教学效果。
然而，这项练习的目的并非让学生为遥远未来做好准备，而是教会他们把推演作为一项可以立即运用的技能。这项技能对于帮助学生想象他人可能遭受的伤害尤其重要，因为技术危害往往对边缘化群体造成不成比例的影响，而这些群体在计算机领域的从业者中代表性不足。我接下来的研究工作，是将这些伦理推演策略转化为适用于现实技术设计团队的方法。
该暂停一下了吗？
2023 年 3 月，一封公开信获得数千人签名，呼吁暂停训练比 GPT-4 更强大的人工智能系统。公开信作者警告说，若不加以约束，人工智能的发展“最终可能在数量上超过我们、在智慧上胜过我们、使我们过时并取而代之”，甚至可能导致“我们的文明失去控制”。
正如对这封信的批评者所指出的，这种对假设性风险的关注忽视了当下正在发生的实际危害。尽管如此，我认为人工智能伦理学家几乎没有人会反对人工智能发展需要放慢脚步——开发者若只是束手无策，把问题归咎于“意外后果”，是行不通的。
“人工智能竞赛”才刚刚进入明显提速的几个月，我认为伦理考量已经被远远甩在后面，这一点已相当清楚。但债务终究会到期，而历史表明，承担代价的可能不会是大型科技公司的高管和投资者。
