僅僅是被AI誤識別為盜竊犯，28歲的美國小夥便鋃鐺入獄。
而在此之前，他從未去過案發現場，其住所距離案發區域更是有近900公裏。
之後，通過對比監控錄像，警方發現他臉上有痣，看上去也比拍到的罪犯要輕40磅（約36斤），這才撤銷了搜查令，並於2022年12月1日釋放了他——而這據他在11月25日被捕以來，已經過去了7天。
截至目前，進行逮捕的警察局並沒有對這場事件進行回應，也沒有應其律師要求，公開他們所使用的人臉識別等相關技術手段的任何信息。
這就是最近在美國引發熱議的壹場由“由AI犯下的冤假錯案”。
“AI認為我在千裏之外偷了東西”
這場事件中無辜入獄的小哥名叫裏德（全名Randal Reid），家住美國喬治亞州。在2022年11月25日當天，他在駕駛時被路邊的警察攔住，隨後被告知，根據壹張“傑斐遜縣的搜查令”，他被逮捕了。
這裏所說的傑斐遜縣是美國路易斯安那州的壹個地區，而裏德的所在州距案發地點有870公裏遠，隔了三個州。因此，裏德在接受《新奧爾良擁護者報》采訪時這樣描述當時的場景：
他們（警察）說：“我有傑斐遜縣的搜查令。”我就問：“什麽傑斐遜縣？”然後他們告訴我這是偷竊……我這輩子從沒去過路易斯安那州，不僅如此，我也不偷東西。但最後，裏德還是被警察帶走入獄。他認為，警察明明可以檢查他的身高和體重，與他交談，或在他的住所尋找相關證據，但最終卻還是依據AI的判斷，將他直接關入監獄。
事後，裏德委托律師進行申訴，根據開庭記錄，當時逮捕裏德的那張“傑斐遜縣的搜查令”與2022年6月的壹起盜竊案相關，案發地點為路易斯安那州新奧爾良郊區的壹家商店，監控拍到三名男子通過假信用卡偷走了累計超過10000美元的高端皮包。
案件發生後，路易斯安那州當地的傑斐遜縣警察局（JPSO）通過其搭載了人臉識別技術的AI系統搜尋犯人。在將監控錄像中拍到的犯罪嫌疑人圖像與駕駛執照、社交媒體公開照片等大量圖像對比之後，AI鎖定了千裏之外的裏德，並於2022年7月18日發布了逮捕令。
同時，警局還依據AI系統的判斷對另壹位21歲的新奧爾良男子申請了逮捕令，但目前尚不清楚是否已經實施抓捕。
當局曾雇 傭Clearview AI公司
這次事件重新引起了人們對於人臉識別工具的關註，首當其沖的就是事件發生地——路易斯安那州的人臉識別工具的使用情況。
近年來，美國的壹些城市和州已經對警用面部識別系統進行了限制。但事實是，部分城市由於犯罪率居高不下，已經放棄了這壹限制。比如路易斯安那州的城市新奧爾良就在今年取消了壹項為期兩年的有關人臉識別的禁令，而州內的其他城市甚至沒有任何監管措施。
根據美國非盈利民權組織——南方貧困法律中心（the Southern Poverty Law Center）獲得的2021年公***記錄， 此次發出逮捕令的傑斐遜縣警察局確實是通過州情報中心要求進行面部識別分析的幾個地區之壹 。警局在2021年有三次面部識別分析的請求，目前還尚未應要求提供2022年的記錄。
而美國國土安全部（DHS）支持的融合中心（the Fusion Center，包含收集、分析情報工作）在2021年發布的報告又表示， Clearview AI和Morphotrak兩家面部識別公司受到了官方組織的雇傭 。
Clearview AI是壹家在2017年成立的美國人臉識別公司，號稱擁有“全球最大人臉數據庫”。2019年時，就有報道稱有執法部門使用了該公司的產品。2021年12月，Clearview AI在其12月的財報中表示公司已相當於把全世界每個人的照片都收集了14張（全球約70億人），換句話說就是已經收集到1000億張面部照片。這壹消息在當時引發了軒然大波，有輿論稱這會對隱私構成嚴重威脅。
Morphotrak則隸屬於跨國科技集團IDEMIA，主要提供與身份相關的安全服務，並向私營公司和政府出售面部識別和其他生物識別產品和軟件。
此外，由於此次事件的受害者——無辜入獄的裏德是黑人，也致使不少人再次想起，之前有研究表示，人臉識別工具在有色人種、婦女等群體中的識別錯誤率更高。
美國麻省理工學院研究院Joy Buolamwini，她曾發現亞馬遜等公司的面部分析工具存在種族和性別偏見
裏德的律師在接受《新奧爾良擁護者報》采訪時表示：
我認為他們（警方）應該意識到，僅憑壹張臉就實施逮捕是壹個非常危險的行為……這個國家有3億人，我們每個人都有壹個和自己長得壹模壹樣的人。編譯：南都記者楊博雯