人工智能已经在帮助决定你的未来——无论是你的 Netflix 观看偏好、你获得抵押贷款的资格，还是你与潜在雇主的匹配程度。但至少就目前而言，我们能否认同，让人工智能在法庭上判定你有罪还是无罪，实在太过了？
令人担忧的是，似乎这种情况可能已经发生。美国首席大法官约翰·罗伯茨最近出席一场活动时，有人问他是否能想象这样一天：“由人工智能驱动的智能机器将协助法庭查明事实，甚至更具争议地，协助作出司法裁决。”他回答说：“这一天已经到来，它正对司法机构的办事方式造成重大压力。”
罗伯茨或许指的是埃里克·卢米斯最近的案件。卢米斯被判处六年监禁，至少部分依据是一家私人公司的秘密专有软件所作的建议。卢米斯有犯罪前科，并因驾驶偷来的汽车逃避警方追捕而被判刑。如今他声称自己的正当程序权利遭到侵犯，因为他和他的代理人都无法审查或质疑该建议所依据的算法。
这份报告由一款名为 Compas 的软件生成，该软件由Nortpointe Inc 向法院营销并销售。该程序是人工智能研究新趋势的一种体现：这类系统旨在帮助法官在法庭上作出“更好”——或者至少更以数据为中心——的决定。
虽然卢米斯报告的具体内容仍属保密，但文件很可能包含若干图表，用来量化卢米斯的生活、行为及再次犯罪的可能性。其中也可能包括他的年龄、种族、性别认同、浏览习惯，还有，我也说不准……他的头骨尺寸。关键在于，我们并不知道。
我们确实知道的是，案件的检察官曾告诉法官，卢米斯“暴力风险高、累犯风险高、审前风险高”。量刑时这类说法很常见。法官表示赞同，并告诉卢米斯，Compas 评估“将他认定为对社区具有高风险的个人”。
威斯康星州最高法院判定卢米斯有罪，并补充说 Compas 报告为其裁决提供了有价值的信息，但同时指出，即使没有这份报告，他也会被判处相同刑罚。可是，我们怎么能确定这一点？当 Compas 这样的全能“智能”系统建议法官该怎么做时，其中涉及哪些认知偏差？
用途不明
现在我们把话说清楚，威斯康星州法院的做法并没有任何“违法”之处——只是在这种情况下是个糟糕的主意。其他法院也可以照做。
令人担忧的是，我们其实并不知道人工智能和其他算法在量刑中应用到了什么程度。我的研究表明，多个司法辖区正在通过封闭试验“试用”Compas 这类系统，但不能公布合作详情，也不能透露这些系统何时何地投入使用。我们还知道，有不少人工智能初创公司正在竞相开发类似系统。
不过，人工智能在法律领域的应用并非始于量刑，也不止于量刑；它始于调查。一个名为 VALCRI 的系统已经开发完成，能够在短短几秒内完成犯罪分析人员工作中耗时费力的部分——筛查海量数据，例如短信、实验室报告和警方文件，并标出可能需要进一步调查的线索。
英国西米德兰兹郡警方将在未来三年试用 VALCRI，使用匿名化数据，涉及约 650 万条记录。比利时安特卫普警方也在进行类似试验。不过，以往涉及海量数据集的人工智能和深度学习项目曾出现过问题。
少数人的利益？
技术为法庭带来了诸多益处，从复印机到 DNA 指纹鉴定，再到先进的监控技术。但这并不意味着任何技术都能带来改进。
在调查和量刑中使用人工智能或许能节省时间和金钱，但也引发了一些棘手问题。ProPublica 关于 Compas 的报告明确指出，在佛罗里达州布劳沃德县，黑人被告“被错误判定为累犯风险较高的可能性远高于白人被告”。巴斯大学计算机科学教授乔安娜·布赖森近期的研究指出，即使是最“复杂”的人工智能，也可能继承创造者的种族和性别偏见。
更重要的是，对于那些本质上属于人类的事务，把（至少一部分）决策交给算法有什么意义？我们为什么要费心挑选由同侪组成的陪审团？法律的标准从来不是完美，而是凭借我们凡人的能力所能达到的最佳水平。我们会犯错，但随着时间推移、不断实践，我们会积累经验，知道如何避免重蹈覆辙，并持续完善制度。
Compas 及类似系统所代表的是法律体系的“黑箱化”。我们必须坚决抵制这种趋势。法律体系依赖信息的连续性、透明度和可审查性。我们不希望司法制度助长人工智能初创公司的恶性竞争，竞相以尽可能快、尽可能便宜、尽可能封闭的方式交付产品。一些人工智能观察人士多年来一直预见到这一幕，如今它已成为现实——这是个糟糕透顶的主意。
如果 Compas 有一个开源且可供审查的版本，那会有所改进。不过，在开始把责任交给算法之前，我们必须确保先提高司法体系的标准。人工智能不应成为不投资的借口。
人工智能领域有很多钱可赚，也蕴藏着许多实实在在的机遇。如果运用得当，并确保人人都能受益，而不是让权力进一步固守在金字塔顶端，它就能带来许多积极改变。
对于眼下这些问题，我没有完美的解决方案。但我确实知道，谈到人工智能在法律领域的作用，我们必须追问它被用于什么情境、服务于什么目的，以及受到怎样有实质意义的监督。在这些问题能够得到确切回答之前，务必保持高度怀疑。或者至少，认识几位非常出色的律师。
