面部识别技术的转折点——2019

 从萌芽之初到如今，面部识别技术已经快速发展成为功能强大的软件平台。在此过程中，研究人员和民权倡导者一直在就可能出现的隐私侵犯问题发出警告，而这些日益加剧的担忧在本周三的美国国会会议中达到了顶点。

近年来，对面部识别技术的警告已经变得紧迫起来，因为研究表明，该系统仍然会产生相对较高的误报率，而且始终涉及种族和性别偏见。然而，该技术在美国的泛滥却没有得到遏制，在各级政府的执法机构、私人雇主和学校中广泛应用开来。在众议院监督与改革委员会举行的听证会上，监管不力问题引起了两党关注。

“在美国有5000万部摄像头被用作监控用途，此举违反了美国联邦宪法第一修正案和第四修正案中有关正当程序自由的规定。这会导致各种各样的错误，对非裔美国人产生非常不利的影响，”俄亥俄州共和党众议员Jim Jordan表示。“没有民选官员允许各州、联邦政府或联邦调查局使用这个。政府对此应该有一些限制。在我看来，是时候暂停这项技术的使用了。”

听证会的专家小组——由各种各样的法律学者、隐私倡导者、算法偏见研究人员和职业执法人员组成——在很大程度上呼应了这一评估。他们最直接的呼吁是，在国会能够通过立法充分限制和规范这项技术，并建立透明度标准之前，暂停政府对面部识别系统的使用。即使是在一年前，这样一个激进的建议在国会也可能显得荒谬可笑。但旧金山已经通过了一项这样的禁令，马萨诸塞州萨默维尔和加利福尼亚州奥克兰等城市似乎也准备效仿。

“《第四修正案》不会把我们从面部识别带来的隐私威胁中拯救出来，”哥伦比亚特区大学David A. Clarke法学院教授Andrew Ferguson在作证时说道。“只有立法才能应对实时技术的实时威胁。立法必须考虑到这些监视系统的范围、规模和复杂性的不断扩大，以保护未来的隐私。”

最近的一系列事件和披露表明，这项技术已经被广泛采用，如果缺乏监督，如果对于这项技术的使用者以及这些系统如何工作缺乏透明度，它的缺点将会变得非常严重。例如，乔治敦大学法律研究人员上周的一份报告显示，尽管每个城市都表示没有使用这些平台，但是芝加哥和底特律都购买了实时面部识别监控系统。乔治敦大学的另一份报告也提供了一些证据，表明纽约警察局对于面部识别的滥用和操纵。据报道，警官们将嫌犯素描输入面部识别系统，或将他们认为与嫌疑人相似的名人照片输入面部识别系统，并试图从这些无关的图像中辨认出嫌疑人来。

另外，今年4月，一个面部识别系统错误地将布朗大学学生Amara Majeed列为斯里兰卡复活节教堂爆炸案的嫌疑人。周三，《科罗拉多斯普林斯独立报》报道称，2012年2月至2013年9月，科罗拉多大学斯普林斯分校的研究人员在未经学生和其他路人同意的情况下，为一个面部识别训练数据库拍摄了他们的照片，该数据库是政府资助的一个项目的一部分。同样，美国全国广播公司(媒体 News)在5月初报道称，照片存储和分享应用Ever曾在未经用户主动同意的情况下，悄悄开始使用数百万用户的照片训练面部识别系统。

“我们以及该领域的其他人很长时间以来一直认为会出现错误的识别。我们预测到会有滥用，而不仅仅是事后的法医面部鉴定，”乔治敦大学法律隐私与技术中心的创始主任Alvaro Bedoya说。“所有这些都将成为现实。任何说这项技术刚刚起步的人都没有做足功课。”

在周三的众议院听证会上，证人同样强调，面部识别技术不仅是一个静态数据库，而是越来越多地用于扫描、实时、非特定的拖拽网络——这种技术有时被称为“面部监控”。鉴于面部识别的主要缺点，尤其是在准确识别有色人种、女性和性别不定人群方面，证人辩称，目前执法部门不应该使用这项技术。麻省理工学院研究员、算法正义联盟创始人Joy Buolamwini表示，她将用于训练大多数面部识别系统的数据集称为“白男”集，因为所使用的大部分照片都是白人男性。

“就在本周，一名男子起诉了Uber，原因是他的司机账户因面部识别失败而被停用，” Buolamwini周三对监督与改革委员会表示。“布鲁克林的租户正在抗议安装不必要的面部识别系统。新的研究显示，在将面部分析技术用于医疗保健方面存在偏见，而面部识别技术正在向学校出售。我们的面部很可能是隐私的最后边界。”

周三，来自不同政治派别的代表表示，该委员会准备制定两党立法，限制并确立对执法机构和其他美国实体使用面部识别的监督。但多年来，在联邦一级取得的实质性成果寥寥无几。不仅如此，在私人领域的宣传也面临着重大障碍。例如，周三，亚马逊股东否决了两项有关限制使用该公司备受争议的Rekognition面部识别软件的提议，允许研究隐私和民权保障措施。

尽管如此，随着面部识别的普及化程度越来越高，隐私倡导者将2019年视为一个潜在的转折点。

耶鲁大学法学院信息社会项目隐私律师Tiffany Li表示：“我认为，阻止面部识别技术的扩散已经太晚了。政府和企业行为体每天都在以新的方式使用它。希望我们能达到一个临界点，开始认真解决这些问题。也许那一刻就是现在。”