你可曾想过在科技高度发达的今天仅仅因为人工智能AI在系统里进行了一次“面部比对”你可能就会在回家的路上被警察强行按倒、戴上手铐甚至在冰冷的看守所里度过几个月这听起来像好莱坞科幻反乌托邦电影《少数派报告》中的情节。但在大洋彼岸的美国这正成为越来越多普通人切身经历的噩梦。近日美国知名科技媒体《连线》WIRED发表了一篇深度调查文章——《一起错误逮捕事件暴露了美国最古老的警用人脸识别工具之一的缺陷》Wrongful Arrest Exposes Failures in One of the Oldest Police Face-Recognition Tools in the US。文章披露了一起由美国公民自由联盟ACLU发起的最新诉讼佛罗里达州两家警察局因过度迷信一套“高龄”警用人脸识别系统FRT在一宗儿童绑架案中将一名无辜男子当成“确定无疑的嫌疑人”实施了暴力逮捕。这起事件再次将“警用人脸识别技术”推上了风口浪尖。它向全人类敲响了警钟当冰冷的算法被赋予了剥夺公民人身自由的世俗权力而它的设计者和使用者却缺乏最起码的敬畏与监督时科技就变成了合法的“暴政工具”。一、“算法说就是他”一记来自AI的无妄之灾在这起由ACLU介入的佛罗里达州最新案件中受害者遭遇了教科书式的“技术冤案”。案发时警方正在调查一起性质极其恶劣的儿童绑架案。在获取了极为模糊、低画质的监控截图后办案人员没有通过传统的排查手段摸排线索而是图省事将截图上传到了美国执法部门使用时间最长、最古老的人脸识别数据库之一中。很快屏幕上跳出了一个“匹配结果”——算法认为居住在佛罗里达州麦尔兹堡Fort Myers的一名普通男子与嫌疑人面部特征高度重合。在拿到这个极具欺骗性的系统提示后警方的“盲目自信”彻底战胜了职业理性。他们甚至没有去核实这名男子在案发时间段的“不在场证明”也没有寻找指纹、DNA或手机定位等任何辅助性物理证据便直接将这个带有概率性质的算法“线索”Lead等同于了“铁证”Near-Certain ID大张旗鼓地向法庭申请了逮捕令。当坚信自己奉公守法的受害者在众目睽睽下被塞进警车时他还以为这只是一场误会。但他不知道的是为了洗清这层由代码和概率织成的“罪名”无辜者往往要付出大半年乃至数年的自由代价甚至面临倾家荡产的绝境。事实上这已经不是美国警用人脸识别第一次集体翻车了。在此之前全美已有超过十几起被公开曝光的类似技术性错误逮捕丑闻克里斯托弗·加特林Christopher Gatlin2020年系统指认他是一起残忍袭击案的凶手导致他无端被关押了17个月洗清冤屈整整花了两年的时间。罗伯特·威廉姆斯Robert Williams全美首例被公开曝光的人脸识别错案受害者。底特律警方在完全没有核实的情况下当着他妻子和两个年仅2岁、5岁女儿的面将他强行铐走理由仅仅是算法认为他长得像一个偷手表的贼。某田纳西州白人祖母甚至连白人也无法在日益泛滥的FRT滥用中幸免。这位老人在帮别人看护4个孩子时突然被警方逮捕并跨州指控在北达科他州一个她从未去过的地方犯下银行诈骗案。她被错误关押了近6个月因为长期无法出庭工作和支付账单她在狱中彻底失去了自己的房子。“当他们给我戴上手铐时我的女儿跑了出来我只能强忍泪水对她说‘爸爸马上就回来。’可这一走迎接我的却是无尽的黑洞。”罗伯特·威廉姆斯在后来的民权集会上痛苦地回忆道。二、被诅咒的底层逻辑从源头就带偏见的算法为什么号称代表未来科技的AI人脸识别在协助警方办案时会如此频繁地掉链子这必须从这项技术的核心技术缺陷和“带有先天偏见”的数据集说起。1. “虚假匹配”寻找替罪羊的机器从计算机科学的角度来看人脸识别系统的本质并不是“认出某个人”而是“在数据库里寻找最相似的面孔”。当警方输入一张高糊、侧脸、光线昏暗或带有遮挡的监控照片时算法会在海量的户籍或犯罪分子数据库中进行多维度的特征值比对。不管数据库里有没有真正的凶手系统都会根据相似度从高到低强行吐出一堆“看起来很像”的候选人。这正是最危险的地方。它天然地倾向于将那些与嫌犯长相相似的无辜“路人甲”作为靶子。一旦执法人员缺乏专业素养就会把这种“相似性概率”当成“绝对客观的真相”。2. 歧视有色人种与弱势群体数据集里的“白人傲慢”多项国际权威科学研究以及美国国家标准与技术研究院NIST的测试均表明人脸识别算法在识别有色人种尤其是非裔、女性、年轻人以及老年人时其错误率False Match Rate显著高于成年白人男性。目标受试群体识别错误率表现主要成因分析成年白人男性最低相对精准早期AI模型主流训练数据集的绝对核心特征库完备。有色人种非裔、亚裔等极高部分模型误判率激增近100倍训练数据严重缺乏多样性相机曝光算法对深色皮肤特征提取不敏感。女性群体偏高容易发生交叉误判算法对化妆、发型改变以及女性面部骨骼特征的泛化能力较弱。儿童与老年人极高识别稳定性极差面部胶原蛋白、皱纹等特征处于剧烈变化或非主流样本区间模型匹配度低。这种现象在科技界被称为“系统性算法偏见”Algorithmic Bias。早期的技术巨头和软件开发商在“喂养”AI模型时使用的数据集充斥着大量欧美白人男性的照片。由于缺乏足够多元化的样本AI在面对深色皮肤、非欧式五官时往往无法敏锐地捕捉到个体之间细微的生物特征差异。在算法眼里“他们长得都差不多”。讽刺的是在美国的司法体制中非裔等有色人种本身在历史底册如警方的Mugshot历史犯罪面部数据库中的占比就偏高。当一个本身就存在黑人数据偏高的不公数据库遇上了一个识别黑人错误率奇高、擅长找“相似替罪羊”的算法两者的结合对少数族裔而言无疑是一场系统性的灾难。这也是为什么全美已知的十几起FRT错误逮捕案中绝大多数受害者都是非裔美国人。起底“数字跟踪狂”为什么你刚聊完天手机App就精准推荐了广告关注获取更多内容三、执法的懒政把“天气预报”当成了“终审判决”如果说技术的缺陷是“天灾”那么警方在实际执法过程中的盲信与偷懒则是制造冤假错案的“人祸”。在各大人脸识别软件的《使用说明书》和开发标准中其实都用加粗的字体写着一条行业共识本系统生成的结果仅能作为“调查线索”Investigative Lead绝不能单独作为申请逮捕令或指控犯罪的唯一证据Probable Cause。这就好比气象台的AI预报今天有90%的概率下雨这是一个线索但办案警察不能在没出门看一眼天空寻找其他证据验证的情况下就直接判定外面已经发了洪水。然而现实中美国警方的操作往往是这样的发生劫案警方拿到一张糊成马赛克的便利店监控截图。丢给AI系统系统在几秒钟内吐出一个匹配度75%的无辜公民A。办案人员懒得再去调取A的手机基站轨迹懒得去盘问A的亲友甚至懒得看一眼A在案发时是不是在300公里外的另一座城市度假。警察直接把A的照片打印出来混在其他几张照片里给受害者进行粗糙的“指认”而受害者往往在警方的心理暗示下也会倾向于选择被AI选中的那个人。拿到逮捕令上门抓人。这种现象在心理学上被称为“自动化偏见”Automation Bias——人类天然地倾向于信任计算机给出的量化结果认为机器是客观、冷酷且绝对正确的从而主动放弃了自己的批判性思维和职业复核责任。将本属于“初筛线索”的概率软件拔高到“电子判官”的崇高地位其本质是执法部门为了追求破案率、KPI和节省警力而产生的系统性精神懒政。四、亡羊补牢法治与代码的漫长博弈《连线》文章指出随着ACLU等民权组织代表一系列错误逮捕受害者对地方警察局发起连环诉讼全美最古老的这批警用AI技术正迎来前所未有的法理海啸。这些堆积如山的诉讼和公众的愤怒正在迫使美国的立法和司法系统做出妥协与反思具有里程碑意义的底特律和解案在受害者罗伯特·威廉姆斯起诉底特律警察局DPD获得胜诉后双方达成了历史性的法庭和解。根据最新规定底特律警方被明确禁止仅凭人脸识别的比对结果去申请逮捕令也禁止将FRT结果与粗糙的照片线索直接组合作为抓人的依据。警方必须提供独立于技术之外的、坚实的传统物理证据。各州的立法跟进印第安纳州等部分地区已将类似的保护条款写入了州法律而在纽约、旧金山等激进的技术反思前沿城市民权组织和部分议员甚至在推动“全面禁止地方执法部门采购和使用任何面部监视及识别技术”的法案。数字消极抵抗越来越多人意识到如果不加限制AI人脸识别将演变成覆盖全社会的“老大哥之眼”。数据经纪商、第三方AI公司在未经公民授权的情况下暗中爬取全网公开照片建立面部特征库的行为正受到越来越严厉的隐私反垄断审查。网络研究观新闻简报第二期五、科技向善前提是对权力的驯服人脸识别技术本身没有罪罪在人类对技术的谄媚与滥用。当我们把高新科技引入社会治理与公共安全领域时我们必须时刻保持清醒算法的效率永远不能凌驾于程序的正义之上机器的概率也绝对不等于生命的清白。如果一个社会的法律允许警察仅凭一段代码的错误匹配就能在十秒钟内摧毁一个普通人辛勤建立了一辈子的清白生活、工作、家庭和尊严那么这个社会保护的就不是安全而是滋生恐惧的温床。今天美国这些最古老的警用AI工具在法庭上被扯下了神坛明天随着生成式AI、大模型LLM更深度地介入刑事司法、背景审查乃至信用评估我们还将面临更加隐蔽的“算法暴政”。正如ACLU代理律师在诉状中写道的那样“我们不是在反对科技的进步我们是在捍卫人类作为血肉之躯不被一串带有偏见的代码随意定罪的底线权利。”驯服算法的傲慢让科技真正向善人类还有很长的路要走。