IBM与纽约市警察局合作开发人工智能系统：可按种族搜索相关人员

美国科技媒体The Intercept和美国国家研究院非盈利调查基金的最新报告显示，IBM与纽约市警察局合作开发了一种系统，让警方可以根据肤色、发色、性别、年龄和各种面部特征去搜索相关人员。

该报告引用“机密公司文件”(confidential corporate documents)以及对项目参与工程师的采访称，IBM大约在10年前开始与“纽约下曼哈顿安全项目”(New York’s Lower Manhattan Security Initiative)反恐中心合作开发数据分析平台。此前IBM还与芝加哥进行过联合试验。当时，IBM是微软旗下Vexcel的分包商。

利用纽约市警察局提供的来自大约50个摄像头的数千张照片，IBM的计算机视觉系统从1.6万个数据点去进行学习，识别服装颜色等身体特征，以及其它可能的威胁因素，例如无人看管的包裹、闯入禁区的人，以及车辆在车流中的加速行驶。

报道称，纽约市警察局官员早在2012年就对这款软件进行了测试。

不过，警察局发言人皮特·唐纳德(Peter Donald)回应称，其过滤工具只是用于“评估目的”，警察会被告知将某些肤色的人排除在搜索范围之外。他同时表示，纽约市警察局已经向“民选的领导人和利益相关方”告知了这方面的工作，但没有公开透露任何细节。

唐纳德还证实，纽约市警察局最终决定不部署这个项目，并明确拒绝了一个可以根据种族进行人员搜索的改进版本。

IBM回应称：“IBM致力于负责任地推进和使用新技术，并在促进多样性和包容性方面得到认可。这就是为什么我们向其他公司公开提供100多万张图像的注释数据，以帮助解决面部识别中最大的问题之一：缺乏多样化的数据去训练人工智能系统。”