您应该担心面部识别技术的10个理由

面部识别技术正在迅速普及。通过将人的脸部图像与记录数据库进行比较来识别人的软件已在中国广泛使用,目前已在世界其他地区广泛使用。它在警察部队中很常见,但也已在机场,火车站和购物中心使用。

这项技术的迅速发展引发了一场急需的辩论。活动家,政治家,学者甚至警察部队都对面部识别对基于权利和民主的政治文化可能产生的影响表示严重关切。

人权问题

作为研究人权未来的人,我也有同样的担忧。我们担心在公共场所使用面部识别技术的十个理由。

(1)它使我们走上了自动监测毯子的道路

闭路电视已经在世界范围内普及,但是对于政府来说,要对您使用录像带,他们必须找到您所做的特定片段,以作为他们可以声称的证据。面部识别技术将监控提升到新的水平。它使人们在进行日常工作时能够进行自动且不加区分的实时监视,使当局有机会跟踪您的一举一动。

(2)它的运作没有明确的法律或法规框架

尽管一些立法者正试图改变这一点,但大多数国家都没有专门的法律来规范面部识别技术的使用。这种法律困境打开了滥用之门,例如在未经我们了解或同意的情况下获取我们的图像并以我们不赞成的方式使用它们。

(3)违反了必要性和相称性原则

联合国(UN)和伦敦警务道德小组(London Policing Ethics Panel)认可组织普遍认可的人权原则,那就是监视是必要且适当的。这意味着监视应仅限于追求严重犯罪,而不是无端干预我们的自由和基本权利。面部识别技术与这些原理不符。这是一种控制技术,体现了国家对其公民的不信任。

(4)侵犯我们的隐私权

即使在公共场所,隐私权也很重要。它可以保护我们的身份表达,而不会受到国家或私人公司的无意干预。面部识别技术对图像的不加选择的大规模记录,存储和分析破坏了这项权利,因为这意味着我们不能在国家不知情的情况下在公共场所做任何事情。

主管部门无需捕获每个人的形象即可确保法律和秩序。图片来源:Axel Buerckert / Shutterstock

(5)对我们的民主政治文化有令人生畏的影响

一揽子监视可以阻止个人参加公共活动。它可以扼杀对政治抗议活动和变革运动的参与。而且它可以阻止不符合规范的行为。这种令人不寒而栗的效果严重侵犯了集会,结社和言论自由的权利。

(6)剥夺公民获得同意的机会

缺乏有关如何实际使用面部识别的详细信息。这意味着我们没有机会同意在数据库中记录,分析和存储我们的图像。通过剥夺我们同意的机会,我们就无法选择和控制自己图像的使用。

(7)通常不准确

面部识别技术可确保准确识别。但是许多研究都强调了在种族偏见数据集上训练的算法如何错误地识别有色人种,尤其是有色人种。如果导致非法逮捕,或者导致公共机构和私人公司歧视妇女和少数民族背景的人,这种算法上的偏见尤其令人担忧。

(8)可能导致自动化偏差

如果使用面部识别软件的人错误地认为该技术是绝对可靠的,则可能导致错误的决定。必须避免这种“自动化偏差”。机器产生的结果不应决定国家机构或私人公司如何对待个人。受过训练的人类操作员必须进行有意义的控制,并根据法律做出决定。

(9)这意味着存在秘密的政府监视清单

包含我们面部图像的数据库应该会发出警报。他们暗示私人公司和执法机构在未经我们了解或同意的情况下共享我们的图像,以建立潜在犯罪嫌疑人的监视列表。这是对我们个人权利和公民自由的严重威胁。这些数据库的安全性以及它们对黑客行为的脆弱性也引起了人们的关注。

(10)可用于针对已经脆弱的群体

面部识别技术可用于全面监视。但是它也可以有选择地部署,例如识别移民和难民。该面部识别软件出售给机构,如争议的美国移民和海关执法局(ICE),已被严厉批评,在处理移民为它的战术,应该担心的人谁对人权的关心。并配有使用手持移动设备的面部识别应用由警察部队提出了增强的幽灵种族貌相走街串巷。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。