展会信息港展会大全

封禁还是普及?美国AI人脸识别即将迎来最大考验之一
来源:互联网   发布日期:2023-07-22 10:12:34   浏览:17764次  

导读:四年前,禁止警察和执法机构使用人脸识别的运动在美国风靡一时。截至 2020 年底,美国约有 18 个城市颁布了禁止警方采用这项技术的法律。美国立法者还提议暂停联邦政府对该技术的使用。 自那以后的几年里,这种努力大幅放缓到陷入停滞。根据数字权利组织为未...

四年前,禁止警察和执法机构使用人脸识别的运动在美国风靡一时。截至 2020 年底,美国约有 18 个城市颁布了禁止警方采用这项技术的法律。美国立法者还提议暂停联邦政府对该技术的使用。

自那以后的几年里,这种努力大幅放缓到陷入停滞。根据数字权利组织“为未来而战”的数据库,2021 年美国通过了五项禁止警察和政府使用人脸识别技术的市级禁令,但到 2022 年和 2023 年尚未通过一项。

一些地方的禁令有部分甚至被废除。如今,很少有人真的相信在联邦政府层面禁止警察使用人脸识别的禁令会在可预见的未来通过。与此同时,在没有法律限制的情况下,这项技术只会在人们的日常生活中越来越根深蒂固。

然而在马萨诸塞州,那些希望限制警方使用人脸识别的人还是有希望的。该州的立法者目前正在研究一项两党合作的州法案,该法案旨在限制警方使用该技术。虽然这不是一项全面的禁令,但这意味着只有州警察才能使用,而不是所有的执法机构。

该法案可能很快就会进行投票,这可能是一个无法同时取悦所有人的妥协,无论是对希望有更多使用该技术的自由的警察,还是对希望完全禁止该技术的活动人士来说。但这是对警方使用这些有争议工具的普遍情绪的一次重要考验。

封禁还是普及?美国AI人脸识别即将迎来最大考验之一

(来源:SARAH ROGERS/MITTR | GETTY)

这是因为在监管人脸识别方面,很少有州能像马萨诸塞州那样重要。它的相关市政禁令比其他任何州都多,它也是公民自由倡导者、学者和科技公司的中心。对于一个需要突破口的运动来说,这项法律能否通过,关乎到它能否再起波澜。

目前,在美国,有关警察使用人脸识别的规定陷入了政治僵局。如果像马萨诸塞州这样的代表州能够通过该法案,这可能会开启一个折衷的新时代。这将是美国州层面最严格的立法之一,并可能为其他地方如何监管人脸识别制定标准。

另一方面,如果法案投票被推迟或失败,这将成为另一个迹象,表明随着美国国家层面的注意力转向其他政策问题,这场运动的势头正在减弱。

活动的历史

长期以来,隐私倡导者和公共利益团体一直担心人脸识别的侵入性,而人脸识别是越来越多的高科技警察监控工具的核心。其中许多担忧都围绕着隐私问题:基于实时监控视频的人脸识别被认为比基于照片的追溯识别风险更大,因为它可以实时追踪人们的动向。

2018 年发生了一个爆炸性事件,让这些担忧达到了疯狂的高潮:一家名为 Clearview AI 的小公司推出了一款破坏隐私的新产品。

Clearview AI 强大的技术极大地改变了美国的隐私和治安。该公司悄悄地向全美数百个执法机构免费试用该产品。突然之间,想要识别某人身份的警察可以快速梳理出比他们以前在互联网上看到的、数十亿张公共照片多得多的图像。

就在同一年,越来越多的证据表明,人脸识别工具的准确性会因种族和性别而异。研究人员乔伊博拉维尼(Joy Buolamwini)和蒂尼特格布鲁(Timnit Gebru)在麻省理工学院进行的一项名为「性别阴影」的开创性研究表明,这项技术在识别有色人种和女性方面远不如白人男性准确。

美国政府在国家科学技术研究所(National Institute of Science and Technology)2019 年的一项研究中证实了这一结果。该研究发现,许多商业人脸识别算法在识别亚洲人和黑人人脸方面的不准确度是白人的 10 到 100 倍。

政客们开始意识到风险。2019 年 5 月,旧金山成为美国第一个禁止警察使用面部识别技术的城市。一个月后,马萨诸塞州的美国公民自由联盟宣布了一项名为“新闻暂停”的开创性运动,呼吁暂时禁止全州所有城市的警察使用该技术。马萨诸塞州萨默维尔市成为美国第二个禁止该技术的城市。

在接下来的一年里,包括波士顿、剑桥和斯普林菲尔德在内的另外六个马萨诸塞州城市批准了禁止警察和政府使用人脸识别的禁令。一些城市甚至先发制人。例如,在波士顿,警方表示,当这项技术被禁止时,他们尚未使用它。包括亚马逊、微软和 IBM 在内的主要科技公司选择将该技术暂时下线,公民自由倡导者当时还在推动在美国全国范围内禁止警察使用该技术。

美国公民自由联盟马萨诸塞州分会执行主任卡罗尔罗斯(Carol Rose)于 2020 年 6 月在波士顿通过禁令后的一份声明中表示:“生活在马萨诸塞州的每个人都应该得到这些保护。现在是马萨诸塞州立法机构在全州范围内暂停政府使用人脸监控的时候了。”

但这种全州的暂停可能永远不会发生。

你的脸是隐私吗?

起初,支持在全州范围内推行禁令的人获得了强劲势头。2020 年 5 月,乔治弗洛伊德(George Floyd)在明尼阿波利斯被警察谋杀,这在全美国引发了轩然大波,并重新激起了公众对警察系统虐待行为的强烈抗议。在寻找切实可行的解决方案的过程中,当地和全国的活动人士都瞄准了人脸识别。

2020 年 12 月初,马萨诸塞州立法机构通过了一项法案,该法案旨在大幅限制该州警察机构使用人脸识别技术。但州长查理贝克(Charlie Bake)拒绝签署该法案,称其对警察的限制过大。他说他永远不会签署该禁令使其成为法律。

作为回应,几周后,立法机构通过了另一项更为温和的法案。这仍然是一项里程碑式的成就,限制了该州大多数政府机构使用这项技术。它还成立了一个委员会,负责调查进一步的人脸识别相关法律。该委员会包括来自州警察局、波士顿警察局、马萨诸塞州警察局长协会、马萨诸塞州美国公民自由联盟的代表、几位学术专家、马萨诸塞州公共安全部以及两党的多位议员等。

该州的执法机构现在只被允许使用由机动车登记处(RMV,Registry of Motor Vehicles)、州警察或联邦调查局拥有和运营的人脸识别系统。因此,警方可以查询的照片比 Clearview 等系统提供的照片少得多,Clearview 允许用户访问互联网上的几乎所有公共照片。

为了寻找某人的照片,警方必须提交书面请求并获得法庭批准。这比获得搜查令的门槛要低,但此前,他们只要通过电子邮件发送照片,就能要求搜索犯有轻罪和重罪的嫌疑人,包括欺诈、入室盗窃和身份盗窃。

同时,批评人士认为该法案不够完善。马萨诸塞州美国公民自由联盟的委员会成员卡德克洛克弗德(Kade Crockford)说:“他们通过了一些初步的规定,但这些规定还远远不够,虽然比现状有所改善,但这根本算不上什么。”

尽管如此,全国性禁令的推动力仍在增强。就在委员会于 2021 年 6 月开始开会之际,马萨诸塞州参议员埃德马基(Ed Markey)和其他七名国会议员提出了一项法案,禁止包括执法部门在内的联邦政府机构使用人脸识别技术。所有这些议员都属于民主党,但当时更严格的监管得到了民主党和共和党两党的支持。

马萨诸塞州委员会的网站显示,该委员会在为期一年的时间里会定期举行会议,其任务是为州议会起草关于人脸识别进一步法律限制的建议。

随着辩论的进行,警察团体认为这项技术对现代警务至关重要。

该委员会的联合主席、马萨诸塞州参议员杰米埃尔德里奇(Jamie Eldridge)在接受《麻省理工科技评论》采访时表示:“许多有执法部门背景的委员的一贯言论是,如果某些最糟糕的情况发生恐怖分子或其他极端暴力活动他们不想束缚执法部门的手脚。”

尽管进行了游说,但在 2022 年 3 月,委员会还是投票通过了一套关于合法使用人脸识别的严格建议。它建议,只有州警察才能在重罪调查期间使用 RMV 数据库进行人脸匹配,而且必须是在有搜查令的情况下。州警察也可以要求联邦调查局进行人脸识别搜索。

在委员会的 21 名成员中,有 15 人批准了这些建议,其中包括克罗克福德。两人弃权,四人反对。委员会的大多数警察成员投了反对票。

其中一位是诺伍德警察局长威廉布鲁克斯(William Brooks),他告诉《麻省理工科技评论》,他不同意这些建议中的三项主要内容:必须要有搜查令,仅限于重罪使用该技术,以及阻止警方访问 RMV 和 FBI 以外的人脸识别数据库。

布鲁克斯表示,鉴于法律已经要求必须获得法院批准才能使用人脸识别技术,获得搜查令的要求显得“毫无意义”,而且“不会保护任何人”。

他说:“当警察想在涉及到一个人隐私的地方进行搜查时,才会去获得搜查令。我们在这里讨论不是这个。我们只是在讨论人们的脸是什么样子。”

其他警察团体和委员会成员,包括马萨诸塞州公共安全办公室、波士顿警察巡警协会和格洛斯特警察局,尚未回应我们的多次置评请求。

令人不满意的妥协

经过多年的讨论、辩论和妥协,2022 年 7 月,马萨诸塞州委员会的建议被编纂成一项修正案,该修正案已经在州众议院获得通过,并可能随时在州参议院以法案的形式进行投票。

该法案允许图像匹配:在某些情况下,通过在图像数据库中查找人脸来追溯识别人脸。但它禁止另外两种类型的人脸识别。一个是人脸监控,即在视频和动图中识别人脸;另一个是情绪识别,即通过不同的面部表情分辨情绪。

这种更微妙的方法让人想起欧盟立法者在评估人工智能时所走的道路,尤其是在公共应用场景中。欧盟的系统使用风险等级,与特定技术相关的风险越高,监管就越严格。例如,根据欧洲拟议的《人工智能法案》,公共场所视频监控系统上的实时人脸识别将受到比更有限的非实时应用(如失踪儿童调查中的图像搜索)更严厉的监管。

埃尔德里奇说,他预计检察官和执法团体会抵制,尽管他对该法案的通过持“谨慎乐观”态度。他还说,许多科技公司在委员会听证会上进行了游说,声称该技术是准确和公正的,并警告说,如果限制措施通过,行业发展将放缓。Clearview AI 的 CEO Hoan Ton-That 在书面证词中告诉委员会,“Clearview AI 的无偏见算法可以准确地从其从公共互联网收集的 30 多亿张图像中找到任何人脸。”

克罗克福德和埃尔德里奇表示,他们希望该法案能在本届议会的任期内投票,任期将持续到 2024 年 7 月,但到目前为止,议会还没有安排相关的投票。在马萨诸塞州,和美国其他地方一样,经济和教育法案等其他优先事项正越来越受到关注。

尽管如此,该法案已经产生了影响。本月早些时候,蒙大拿州议会通过了一项法律,与马萨诸塞州的许多要求相呼应。蒙大拿州将禁止警方在视频和动图上使用人脸识别,并且需要拿到搜查令才能进行人脸匹配。

妥协的实际代价

并不是每个人都对马萨诸塞州的标准感到兴奋。警察团体仍然反对该法案。一些活动人士认为这样的规定还不够。与此同时,一些人在 2020 年就开始期待的全美范围内的全面人脸识别法律尚未通过。

那么,2020 年至 2023 年间发生了什么?在马萨诸塞州进行辩论、游说和起草的三年里,美国全国范围内的辩论热点从警察改革转向了犯罪率上升,从而引发了政治上的猛烈冲击。

随着舆论的摇摆,人脸识别成为政策制定者、警察、科技公司和倡导者之间的筹码。也许更重要的是,我们也习惯了在生活和公共空间中使用人脸识别技术。

美国各地的执法团体越来越多地表达了人脸识别对他们工作的价值。例如,在得克萨斯州奥斯汀市,警察局长约瑟夫查肯(Joseph Chacon)在接受《麻省理工科技评论》采访时表示,他希望自己能够获得这项技术,以弥补人员短缺。

她说:“这种关于犯罪增加的说法,被用来打击减少警察拨款的运动,也被用来打击禁止人脸识别技术的努力,警方认为这些技术可以用来解决他们所谓的不断增加的犯罪统计数据。”

在美国全国范围内,随着立法者努力应对人工智能的最新发展以及随之而来的公众对该技术的狂热,在某些场景下的人脸识别禁令,甚至联邦层面的法规,可能会被再次摆上桌面。

2023 年 3 月,参议员马基及其同事重新提出了在联邦层面限制人脸识别的提案。但一些倡导团体仍然不同意做出任何政治妥协,比如蒙大拿州和马萨诸塞州法案中的让步。

斯雷乔治(Seeley George)表示:“我们认为,倡导和支持这些监管法案实际上会耗尽未来向前继续推进实际禁令的任何机会。我们再次看到,在警察仍在使用这项技术的情况下,法规并没有阻止很多用例,也没有对用例进行足够的限制。”

克罗克福德希望禁令在政治上是可行的:“很明显,美国公民自由联盟倾向于完全禁止这项技术,但我们明白……我们认为这是一套非常、非常、非常折衷的常识性法规。”

与此同时,一些专家认为,一些活动人士的“要么完全禁止,要么就什么都不做”的做法,其实是目前缺乏限制人脸识别法规的部分原因。华盛顿法学院专门研究警务和技术的法学教授安德鲁格思里弗格森(Andrew Guthrie Ferguson)表示,彻底的禁令面临着巨大的反对,这使得该技术在没有任何安全护栏或限制的情况下继续发展。

人脸识别废除主义者担心,对这项技术的任何监管都会使其合法化,但由于无法就第一原则达成一致,这意味着真正有益的监管措施反而受到了阻碍。

然而,在所有这些争论中,面部识别技术只会变得更加普遍和准确。

支持:Ren

赞助本站

人工智能实验室
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港