超越恐龙法官!美地院引进「键盘AI审判」

发布时间:2020-05-28

超越恐龙法官!美地院引进「键盘AI审判」

文/胖丁呷麵

*本文为剑桥大学法学专家Christopher Markou观点,不代表本站立场。

看过科幻电影《鹰眼》的人可能有印象,当电脑能机械式地认定一个人有罪,不论你扶过多少奶奶过马路,平常做过多少善事,只要一经它标记你这辈子就GG了,完全几乎没有人性的斟酌考虑。

依此印象来看,无法综合斟酌考量,大概就是机器AI无法取代法官的主要原因。但近期美国首席法官约翰罗伯特(John Roberts)提到的事可能令人担忧,「现在法院已经开始慢慢引进人工智慧了,这对司法的执行与限缩公权力有很大的帮助。」罗伯特这幺说着。

超越恐龙法官!美地院引进「键盘AI审判」

罗伯特所指的案例,大概就是影射近期威斯康辛州的艾瑞克‧路米斯(Eric Loomis)案,由于有私人研发的AI软体协助与介入,使得被告路米斯被判六年以上监禁。路米斯在过去曾有犯罪经历,软体报告写出他是「偷车逃避警察追缉」,最后他因畏罪潜逃而被判刑,这让他不断向外界宣称自己的权利被「不正当的法律程序」侵犯了,因为他自己与委任律师都无法得知是否该软体有其判断正当性。

犯罪报告是从一种叫Compas的软体汇出的,製造这软体的Nortpointe公司将其贩售上市并销售给美国法院。这是来自一个用新科技帮助改善司法效率的大型计画,目的是让法官在审理期间有着更多资讯可以使用。

超越恐龙法官!美地院引进「键盘AI审判」

虽然路米斯的犯罪报告还未公布,但据我们对于软体的了解,这份报告的内中可能包含了大量图表、数据以量化路米斯的生活、行为以及在犯罪的可能性,此外还包括他的年龄、种族、性别认同、上网习惯以及像是尻枪频率等等你不想知道的数据,重点是我们不知那些除了年龄以外的数字是怎幺被算出来的。

「就数据层面来讲,他有较高的暴力倾向,较高的再犯可能与较高的事先审理风险」提其公诉的检察官如此对法官说着。虽然这在法庭攻防审判中是常听到的官方化,但法官却被这种说法说服了,并告诉路米斯,他被Compas软体鉴定为危害社会的高度危险个体。

最后威斯康辛州最高法院判定路米斯有罪,并补充说Compas报告对此判决有着重大贡献,但又加上了一个但书,「即使没有这份报告Loomis也会受到相同的判决。」这句注解引起了轩然大波,我们怎幺能认定软体没有影响我们的判决呢?

超越恐龙法官!美地院引进「键盘AI审判」

当然威斯康辛州最高法院这样做无不法之处,只是用这种方法审判给人民观感不好。这让人不禁去思考一件事,我们根本不知道AI或者其他电脑演算法会如何影响审判。

剑桥大学法学专家克里斯托弗·马库(Christopher Markou)就为此提到,目前市面上有很多AI公司想要分食司法审查这块大饼,而Compas系统就是一种像是司法界的「试用研究计画」,因为跟对方有签订商业机密的合作,所以法院方完全无法公布在审理过程中何时使用它,以及如何使用该系统的细节。

而马库也提到,实际上整个法律审理过程当中,最先使用AI的过程并不是审理过程,而是调查过程。英国警方近年来已引进一个叫做VALCRI的系统来协助办案,将在接下来三年里使用它处理650万则匿名数据;在比利时安特卫普的警方也在进行类似的AI调查工作。但马库也警告说,依过去的经验以研究,用这种深度学习AI处理犯罪数据,会产生许多难以避免的问题。

超越恐龙法官!美地院引进「键盘AI审判」

当然科技的趋势必定是要逐渐减轻法庭繁重的程序,从影印机到DNA指纹识别和超複杂的监视系统,都一再地为法庭提供关键证据,但这并不意味只要有技术都是一种进步。在调查和审判中使用AI虽然能节省时间金钱,这也会引起很多棘手的问题。

非营利组织ProPublica就曾提出了一份Compas报告,该报告指出在佛罗里达州的案例,软体会认为黑人比白人更容易有再犯风险;近期英国巴斯大学资工教授贝森(Joanna Bryson)也透过研究表示,即使是最複杂的AI,也会继承设计者的种族和性别偏见。

那为什幺司法要把决策的一部分工作,分配给由某个人设计的出来的软体?

超越恐龙法官!美地院引进「键盘AI审判」

马库提到,法律标準从来就不是完美无缺的,而是我们作为人所允许的最大能力。我们可以犯错,但随着时间推移和经验累积,我们会知道如何不再犯错,不断精炼这个系统,这就是我们的司法。

但他坚称,任何类似像Compas的AI系统就是让法律系统走向黑箱作业,必须坚决反对。法律体系的讯息必须由连续性,透明性以及回顾性。如果AI审判真是不可避免的趋势,那幺开发出开源、可检查可评论的Compas软体是一种改进方法,司法不应该放弃公正性而选择去保护这种开发者的利益。

最后马库提到了司法自身的问题,在将责任推卸给电脑软体之前,我们必须保证司法系统的本身的可信度够高,而不是把AI当作司法不用改革的藉口。

超越恐龙法官!美地院引进「键盘AI审判」

▼▼▼▼快来帮胖丁按个讚▼▼▼▼

超越恐龙法官!美地院引进「键盘AI审判」

(VIA:theconversation) 

上一篇: 下一篇:

相关搜索