2024年3月，北达科他州警方逮捕了来自田纳西州的安吉拉·利普斯，指控她犯下从未实施的多项罪行。将她铐上手铐的关键证据是：一项人工智能面部识别的匹配结果。这起案件——现已卷入国会对警方人工智能监管的激烈辩论——揭示了该技术在国会举步维艰的真正原因。
调查北达科他州多起犯罪案件时，警方将嫌疑人图像输入面部识别系统。算法返回利普斯为高度疑似匹配。警方便以此输出为依据之一获取了逮捕令。当她被拘留时，利普斯不得不证明自己从未踏足北达科他州。指控最终被撤销，但损害已经造成——法律费用、精神创伤、存档的嫌犯照片。
这起案件暴露了警察人工智能监管推动者之间的根本矛盾。执法部门声称这些工具对快速侦破案件至关重要。自2015年以来，联邦调查人员已在逾千起案件中使用面部识别技术。警方工会和检察官则认为，限制人工智能工具等于将优势拱手让给罪犯。
公民自由团体的反驳更为直接：这项技术的准确率根本不足以支撑逮捕决定。研究反复表明，面部识别对女性和深肤色人群的识别效果明显较差。美国国家标准与技术研究院发现，某些算法对特定人口群体的错误率可能高达100倍。当一个有据可查的存在偏见的系统被用于识别嫌疑人时，结果不是高效的司法正义——而是对歧视的高效执行。
国会在这个问题上左右为难。过去两年间，多项针对警察人工智能的监管法案在委员会搁浅。业界游说者警告监管将扼杀创新；民权组织反驳称现行制度已让无辜者付出自由代价。国会两党都无法获得足够票数通过全面立法，各部门只能自行制定规则。
利普斯案引发关注的时机尤为敏感。就在她被捕事件曝光前几周，一个两党参议员联盟重新提出立法草案，要求面部识别搜索前必须获得搜查令，并强制要求用于刑事调查的人工智能通过准确性测试。支持者希望这起有据可查的真实错误逮捕案例——包括完整的法庭记录和已造成的伤害——能改变僵局。反对者则警告，对单一案件的过度反应可能瘫痪那些帮助侦破谋杀案和儿童剥削案件的工具。
利普斯现已提起民权诉讼，指控该部门在寻求逮捕令前未能核实人工智能的输出结果——而这本是基本侦查程序，可立即为她洗清嫌疑。部门方面反驳称警员遵循了标准程序。该案结果可能决定警方是否会因对算法输出的盲目信任而承担法律责任。目前，利普斯仍在等待有人承认算法错了——并解释如何防止此类结果重演。