AI的热潮已经影响到了政府部门,已经有政府机构开始利用人工智能在社会治安方面协助办案,比如伦敦大都会区警察局。但前去观摩的人权组织看到的结果,似乎不那么乐观。
在8月底的英国伦敦传统民俗活动诺丁山狂欢节期间,人权组织Liberty被邀请现场观摩了伦敦大都会警署上线的实时人脸识别系统。在伦敦街头,警察在路边使用伪装成民用汽车的警用车辆监控狂欢节人群,试图使用这个系统找到人群中混迹的被通缉人员。
伦敦警察表示,这个项目是针对一个大约500名的特殊名单,这个名单里的人既有拒不支付罚款这样的小案子,也有性侵犯这样的严重犯罪。伦敦警察寄希望于用人脸识别系统发现他们然后实行逮捕。
但Liberty在事后发表的博客文章中,描述了这个系统非常“业余”的几个错误案例。
8月24日周一,诺丁山狂欢节的第二天,Liberty在伦敦警察的监控车里看了10分钟,就发现了两例非常明显的错误:系统识别了两个名单上的人,但这两个人显然连性别都对不上。Liberty认为,这个系统似乎不能准确判断人的性别。在问到前一天,也就是8月23日周日的监控是不是也出过类似的错误,伦敦警察表示前一天有35例,其中5例由值班人员发现了错误,没有实施逮捕。
这个系统在运行期间也确实“正确”抓到了人。伦敦警察表示,有一个人因为骚乱案件被通缉的嫌疑人出现在狂欢节现场,他们逮捕了他。但随后的审问中发现,这个人的案子已经和解了,他现在没有罪名。而且在狂欢节之前、案子和解之后,这个人已经被错误逮捕过一次。换句话说,这套人脸识别系统的数据库非常陈旧。
伦敦警察的这次试验暴露了人工智能目前的一些问题,比如识别准确率和数据库匹配。从采用伪装车辆进行识别这一点上也能看出这次仅是小规模的试验,因为伦敦是世界上最早安装闭路电视监控系统的城市,也是监控相机最多的城市之一。
从覆盖密度上来看,英国是全球摄像头最密集的国家,全境的街道和公共区域有400-590万台监控摄像头,平均每一个摄像头盯着11个英国人,每个人的脸每天会被闭路电视拍摄300次。截止2015年的数据显示,伦敦有超过42万个监控摄像机,位居城市中的世界第二。第一名是北京,媒体在2015年以正面角度报道,称北京城区已经实现了监控100%覆盖,摄像机数量超过了47万个。
公开媒体报道显示,中国的政府部门也越来越多的开始将人脸识别用在警务处理上,比如监控过马路闯红灯的人。人民网昨日报道,沈阳交通警察在街头启用了一套人脸识别系统,系统自动抓拍闯红灯的人,将他们的照片放在大屏幕上供值班交警识别、劝阻和教育。
这只是公开场所使用的案例,从供应商们提供的技术来看,人脸识别系统在政府事务中能做的事情要多得多。在未来,它犯的错恐怕也会越来越多。
感谢您的留言,我们会第一时间联系您!