警方和法院正在转向人工智能。该系统准备好了吗？

(SeaPRwire) –   人工智能能否让刑事司法系统更公平、更高效，还是只会加剧有害的偏见？专家表示，到目前为止，人工智能的应用方式令人担忧——但它也具备产生积极影响的潜力。

如今，人工智能技术已触及刑事司法系统的几乎每个方面。它被用于面部识别系统以识别嫌疑人；用于“预测性警务”策略以制定巡逻路线；用于法庭协助案件管理；以及被公设辩护人用于筛选证据。然而，尽管倡导者指出效率和公平性有所提高，但批评者对隐私和问责制提出了严峻的质疑。

上个月，Council on Criminal Justice成立了一个关于人工智能的无党派专题小组，旨在研究如何在刑事司法系统中安全、合乎道德地使用人工智能。该小组的工作将得到RAND研究人员的支持，他们最终将把研究结果和建议提交给政策制定者和执法部门。

“毫无疑问，人工智能可能产生不公正的结果，”专题小组主席、前Texas Supreme Court首席大法官Nathan Hecht说。“这个专题小组希望将技术人员、刑事司法人员、社区人员以及不同领域的专家聚集在一起，真正坐下来探讨如何利用人工智能来改善系统，而不是造成它可能带来的危害。”

人工智能在执法中的风险

Nathan Hecht说，许多法院和警察部门已经在使用人工智能。“这非常零散：好奇的人会想，‘哦，哇，这里有人工智能，我们可以在刑事法庭上使用它。’”

但由于缺乏人工智能部署标准，民权监督机构越来越担心执法机构正在以危险的方式使用它。数千个机构开始依赖Clearview等公司销售的面部识别技术，该公司拥有数十亿从互联网上抓取的图像。在许多数据库中，黑人被过度代表，部分原因在于他们居住在被过度警务的社区。人工智能技术在识别黑人面部差异方面也存在不足，这可能导致更高的误识别率。

去年，法律非营利组织Innocence Project报告称，至少有七起因面部识别技术导致的错误逮捕，其中六起涉及被错误指控的黑人。该组织的政策主任Walter Katz表示，警方有时仅凭人工智能的面部识别结果就进行逮捕，而不是将人工智能作为更大范围调查的起点。“对人工智能输出的过度依赖是存在的，”他说。

Walter Katz说，他去年秋天参加一次警务会议时，“人工智能无处不在。”供应商们积极推销声称能解决警察部门实际问题的技术工具。“但在推销时，很少提及任何权衡或风险，”他说。例如，批评者担心许多人工智能工具会增加对公共空间的监控，包括对和平抗议者的监控——或者所谓的会加剧执法部门对过度警务区域的打击。

人工智能的潜在帮助

然而，Walter Katz承认人工智能在刑事司法系统中确实有一席之地。“要想完全摒弃人工智能将非常困难——而且人工智能在某些地方确实能提供帮助，”他说。因此，他加入了Council on Criminal Justice的人工智能专题小组。“首先，最重要的是弄清楚其采纳速度。如果每个人都明白没有任何政策可能都是错误的，那么我们就可以在此基础上进行建设。”

专题小组主席Nathan Hecht认为，人工智能在法庭上有几个有益的领域，例如，可以改善被捕人员的收押程序，或帮助识别哪些人符合转处计划的条件，这些计划允许犯罪者避免定罪。他还希望专题小组能就哪些类型的人工智能使用应明确禁止在刑事司法中使用，以及保护公众隐私的措施提供建议。“我们希望汇集必要的专业知识，以让产品用户和公众相信，这将改善您在刑事司法系统中的体验——之后，它将不会再打扰您，”他说。

与此同时，许多其他独立机构也在尝试利用人工智能改进司法程序。一家初创公司JusticeText希望利用人工智能缩小检察官和公设辩护人之间的资源差距，后者通常人手严重不足且资源匮乏。JusticeText为公设辩护人开发了一种工具，可以筛选数小时的911电话、警用随身摄像头录像和审讯录音，以进行分析并确定，例如，警方是否做出了不一致的陈述或提出了引导性问题。

“我们真的想看看以公设辩护人为先是什么样子，并试图平衡技术在过去几年中在许多方面加剧的不平等，”创始人兼首席执行官Devshi Mehrotra说。JusticeText正与全国约75个公设辩护人机构合作。

刑事司法改革非营利组织Recidiviz也一直在测试将人工智能整合到其工作流程中的几种方式，包括为假释官提供人工智能生成的客户摘要。“如果你有150个客户，每个月都必须见到他们，那么你可能不会去阅读这个人七年前的80页案件笔记，”Recidiviz的联合创始人Andrew Warren说。“人工智能可以非常简洁地突出这个人已经取得了什么成就以及他们需要哪些支持。”

因此，政策制定者和Council on Criminal Justice专题小组面临的挑战是，如何制定标准和监督机制，使人工智能效率提升所带来的益处大于其放大现有偏见的能力。Nathan Hecht在专题小组中也希望能避免未来出现“黑箱”人工智能独自做出改变人生的决定。

“我们是否应该确保我们传统的人类司法理念得到保护？当然。我们是否应该确保有能力的法官和刑事司法系统的管理者完全掌控？当然，”他说。“但声称我们要将人工智能排除在司法系统之外是徒劳的。律师事务所正在使用它。民事司法系统正在使用它。它将继续存在。”