底特律警察局长詹姆斯克雷格承认，人工智能人脸识别系统在绝大多数情况下无法正常工作。
克雷格说:“如果我们只使用软件(用于受试者身份识别)，我们解决问题的几率不会达到95%甚至97%，如果我们仅仅使用这项技术来识别一个人，我认为96%的情况下它会识别错误。”
克雷格发表这番言论的几天前，美国公民自由联盟就底特律警方因面部识别错误而错误逮捕黑人男性罗伯特威廉姆斯一事向底特律警方提出了投诉。
底特律警方逮捕了威廉姆斯，据称他在2018年10月从一家商店偷走了价值3800美元的5只手表，一个模糊的闭路电视图像被人脸识别算法匹配到威廉姆斯的驾照照片。
众所周知，目前的人工智能算法存在种族主义问题。大量研究一再表明，人脸识别算法在白人男性身上几乎100%准确，但在深色肤色和女性身上就存在严重问题。
这个种族主义问题在本周再次出现，之前一种人工智能被设计用于高档模糊照片，比如那些通常从安全摄像头拍摄的照片，被应用于巴姆社区的各种人。
本周，波士顿效仿越来越多的城市，如旧金山、奥克兰和加利福尼亚，在人权问题上禁止面部识别技术。
“面部识别从本质上来说是危险的，也是压抑的，无法改革或监管，数字版权组织“为未来而战”的副主任埃文格里尔说。
另一方面，到目前为止，英国的面部识别测试也完全失败了。在2016年诺丁山狂欢节上进行的初步测试没有发现一个人的身份。次年的一次后续试验没有找到合法的匹配结果，但出现了35例报错 。
去年，彼得福西教授和达拉默里博士对伦敦警察所进行的面部识别试验进行了一份独立报告，得出的结论是，只有19%的案例可以证实其准确性。
人工智能在监控领域的下一个令人不寒而栗的步骤是利用它来预测犯罪。在有消息称即将出版《利用图像处理技术预测犯罪行为的深度神经网络模型》之后，逾1000名专家上周签署了一封公开信，反对将人工智能用于此类目的。
“机器学习程序不是中立的，研究议程和他们使用的数据集往往继承了对世界的主流文化信念。”
底特律警察局长承认，目前的面部识别技术在大约96%的案件中不起作用，这应该足以成为停止使用该技术的理由，尤其是在执法部门，至少在得到重大改进之前。
