他是第一个因人脸识别错误被关监狱的人，证据仅仅是一张驾照照片。只因和小偷长得像，就被人脸识别“抓”进监狱关了30个小时。而人脸识别系统的依据，仅仅是一张驾照照片。这是发生在2019年的事情，被错误逮捕的对象，是一位名叫Robert Williams的黑人男子，在交了1000美元后，他才被保释出去。据《连线》杂志报道称，这可能是同类案件中已知的第一个案例。而直到现在，这起案件才正式向联邦提起诉讼。
事情得从三年前说起。2018年，一个小偷在一家Shinola零售店偷了几块名表，被店里的监控拍了下来。监控拍到的图像非常模糊，那名小偷全程没有抬头看监控。在这种情况下，警方用了人脸识别技术，并仅凭借一张驾照照片锁定了42岁的Robert Williams。2019年，警方拿着他的照片询问店中的一名保安，后者确定是他，但其实这名保安并没有目击现场事发。
在被逮捕时，Robert Williams刚下班回家，就在自己的妻女面前被警方带走，期间根本没问他是否有不在场证明。随后，他在监狱里肮脏的水泥地板上躺了30个小时。直到缴纳1000美元的保释金，Robert Williams才被放出来。
现在，美国公民自由联盟、密歇根大学法学院，代表Robert Williams正式提起联邦诉讼。从诉讼文件来看，这是在美国第一起因人脸识别错误被非法逮捕的案件。但Robert Williams想要的，不只是赔偿损失。他希望这起案件能修改相关政策，以制止人脸识别技术的滥用。Robert Williams本人表示：仅仅因为机器算法的问题，就在妻女面前被逮捕，希望这种事情不要再发生在其他人身上。
但事实上，人脸识别“抓”错人的事情，在这之后又发生了好几起。第二起因人脸识别导致的错误逮捕，同样是一名黑人男子Michael Oliver，他在去年起诉了警察局。而据NJ Advance Media报道，新泽西州也发生过同样的事情，警方在用人脸识别逮捕一位名叫Nijeer Parks的黑人男子后，将他在监狱关了10天，才发现抓错了人。
在此期间，警方没有验指纹、没有测DNA，仅仅凭借人脸识别系统就锁定了嫌疑人。目前，Nijeer Parks也仍然在上诉中，新泽西州也已经禁止使用这种软件。但据了解，数以千计的执法机构已经在采用人脸识别的技术，查找罪犯。人脸识别系统，却往往并不那么可靠。2017年的欧冠比赛上，英国警方采用了人脸识别系统，总共发出2470次警报，错误率高达92%。
而美国警方采用的人脸识别软件，通常只依赖于数十亿张社交媒体照片来识别犯罪嫌疑人。从技术上来说，人们无法从人脸识别中确定某个嫌疑人的唯一性。
人脸识别技术，已经被美国警方采用了二十多年。但来自MIT和NIST的研究人员发现，这项技术对于白人男性的识别效果相对更好，这也和人脸识别数据集中的样本数量有关。而其他人种，在这类数据集下训练出来的识别效果往往并不理想。
人脸识别的另一个问题是，监控摄像头会压缩视频图像，导致用来区分嫌疑人的皮肤、静脉和痣等图案被去除、损坏或变形。事实上，由于采集视频的光照条件不同，一些伪影可能会被误认为是面部特征（如痣）之一。最重要的是，人脸识别所用的AI模型算法，可解释性非常差，缺乏支持法医意见的经验数据。
目前，微软、IBM和亚马逊等互联网巨头，已经保证不将人脸识别系统出售给警方。但人脸识别技术本身，却处在了一个有点尴尬的位置上。一方面是技术伴随的隐私和准确率的问题，另一方面却是它带来的便利性和商业利益。就连国内售楼部的摄像头，都已经对准了路人，进行“身份识别”。人脸识别用在哪里、怎么使用，仍旧亟待商榷。