智东西(公众号:zhidxcom)
编 | 年年

导语:近期,美国关于人脸识别技术的讨论再上一个台阶,包括旧金山在内的3个城市已经禁止了人脸识别技术的使用,一些议员提议禁止在公共住房中使用人脸识别技术。

智东西7月26日消息,据外媒报道,美国三位民主党众议院议员周四提出,联邦应立法禁止在政府资助的公共住房中使用面部识别技术。

这项技术的开展得到了美国警方的支持,认为有利于改善公共安全。但反对者认为这项技术侵犯了公民个人隐私,且容易出错,还可能会加剧种族偏见。

在该议案提出之际,美国民众和立法机构也掀起了关于是否应该大规模使用面部识别技术的讨论。包括旧金山在内的美国3个城市已经禁止包括执法部门在内的所有政府机构使用人脸识别技术,而加利福尼亚州和密歇根州的立法机构也提出了类似的暂停禁令。

一、美三城已禁用人脸识别技术

三位民主党众议院议员周四提出一项议案,认为联邦政府应立法禁止在政府资助的公共住房中使用面部识别技术。

尽管目标很小,但在这项议案提出之际,公众和立法机构掀起了反对自动监控和数据收集的浪潮。旧金山、加利福尼亚州奥克兰和马萨诸塞州萨默维尔已经禁止包括执法部门在内的所有城市机构使用面部识别技术,而加利福尼亚州和密歇根州的立法者也提出了类似的暂停禁令。

这项技术的开展得到了警方的支持,目的是使用人工智能将照片或视频与现有数据库中的照片或视频进行比对。它最开始被用于住房项目,为居民提供无钥匙进入住宅的便利,并在机场对乘客进行识别和筛选。

美议员再提禁用人脸识别,两州三城已禁用,引发激烈讨论

▲人脸识别技术识别有色人种精度会下降

但批评人士说,这项技术具有侵入性,且容易出错。该法案的发起人之一,众议员YvetteD Clarke强调了种族因素,说面部识别技术在识别有色人种时可能不可靠。这项法案被提出的部分原因是最近的大西洋广场大厦案,在该案中,克拉克区一个租金稳定发展项目的租户提起诉讼,阻止在那里安装面部识别技术。

共同发起人众议员Ayanna Pressley和众议员Rashida Tlaib是“Squad”组织的半边天,这是一个由进步的女性议员组成的非正式联盟。她们已成为保守党和温和派民主党人的眼中钉,这似乎使该法案不太可能成为法律,而且它对种族平等的强调可能使它受到特朗普政府的厌恶。

二、底特律秘密使用人脸识别技术2年

但对于面部识别技术,两党都存在着明显的疑虑。例如,在5月份的众议院监督和改革委员会听证会上,共和党众议员Jim Jordan引用了George Orwell在其著作《1984》中说的话,认为“面部识别技术可能会威胁到美国人的言论自由和隐私权。”

这股日益高涨的反对浪潮引起了国家执法机构的关注。7月24日,在一个由信息技术创新基金会主办的论坛中,警务专家表示这项技术是一项重要的公共安全工具,部分原因是它消除了手工筛选可疑照片的繁琐过程,使警官能够专注于其他工作。

面部识别技术的倡导者还认为,如果使用得当,面部识别不会侵犯公民的权利。弗吉尼亚州威廉王子县(Prince William County)公共安全通信主管Eddie Reyes说:“人们的抗议似乎是因为面部识别会收集个人日常信息,而人们并不想这样。”Eddie Reyes强调说,事实上,面部识别主要有助于为进一步的调查提供线索,仅基于面部识别报警就进行逮捕是不合适的。

但批评人士表示,有很多理由可以推迟面部识别技术,至少暂时如此,特别是在公共住房等环境中。由于缺乏关于面部识别数据的收集、存储、使用和共享的明确法律,它“可能被用来质疑某人的性行为、残疾状况或政治背景,”Chris Gilliard博士说。他在底特律附近的Macomb社区学院任教,并在大西洋广场大厦诉讼中提交了一份简报。“这些不是臆想,警察部门就因为基于这些事情监视社区而闻名。”

更广泛的对执法的不信任似乎是反对面部识别技术的一个主要因素。“警务系统本身存在一些需要解决的偏见,如果你将这些技术加入其中,它将会加剧这种偏见,”底特律社区技术项目数据司法编程主任Tawana Petty说。

美议员再提禁用人脸识别,两州三城已禁用,引发激烈讨论

▲底特律安装的监控摄像头

底特律大部分位于特拉伊布地区(Rep.Tlaib),这与监控技术有着特别密切的联系。该市的“Greenlight”计划包括全城数百个摄像头,这些摄像头将实时视频发送到该市警察局。Greenlight项目最近被发现已经秘密使用面部识别技术两年了。

三、技术仍有缺陷,或加剧种族偏见

人脸识别算法中可能存在的种族偏见是另一个严重的问题。NIST(美国国家标准与技术研究所)测量的面部识别技术的错误率为1%或更低,远低于人类目击证人的错误率。但NIST测试使用肖像风格的照片时,发现精度会因光线和距离等因素而有很大的差异。一些试验还发现,有色人种和女性的总体错误率更高,存在误报的可能性。罪魁祸首很可能是系统使用了有限或有缺陷的数据,这一问题影响了多种形式的自动数据处理。

即使是一些从面部识别技术销售中获益的公司也同意这些担忧。上个月底,警用型人体摄像机的主要制造商Axon表示,将禁止在其设备上使用面部识别技术,因为该公司的道德委员会发现这项技术还不够精确。

美议员再提禁用人脸识别,两州三城已禁用,引发激烈讨论

▲Ring推出的门铃摄像头

批评者也对倡导者的关键主张——面部识别和其他监控技术提高了公共安全持怀疑态度。一些商业监视产品供应商,包括亚马逊的视频门铃制造商Ring,都强烈支持这种说法,但一份研究对Ring过去声称其设备可以减少广泛安装的社区的犯罪率提出了严重怀疑。

Tawana Petty说,相比于面部识别,其他方法更加成熟。“我们知道创造安全的事情,”她说,“如果你在附近有一家杂货店,公民有工作,学校没有关闭,而且附近没有铅中毒的水,那么这些就是创造安全的事情。”

结语:人脸识别,向左还是向右?

美国3城、2州先后禁止和搁置了人脸识别技术的应用,再加上最近对于这项技术的讨论给我们敲响了警钟。

随着AI技术尤其是人脸识别技术、智能语音技术的发展,公民隐私受到了巨大的挑战。一方面这些技术如果利用得当将有利于社会发展,另一方面这些技术如果遭到滥用将可能产生极其严重的后果。

技术上全球的,美国发生的问题中国迟早也要面对。在面对这样的问题时,我们将抱着什么样的态度,将作出什么决定是我们所有人需要考虑的问题。

文章来源:FORTUNE