作为大规模人工智能监控演习的一部分,据称,英国数千名粗心大意的火车乘客的脸部被扫描,他们的情绪被亚马逊备受争议的 Rekognition 软件识别。这些测试在过去两年中在主要车站进行,由火车运营商 Network Rail 监督。
该人工智能系统利用闭路电视摄像机拍摄的照片来估计年龄、性别和情绪状态等属性;论文表明,这些数据最终可能会用于定向广告。研究人员一再警告说,这些情绪分析工具既麻烦又不可靠,隐私专家也对其使用方面“令人担忧”的缺乏公开性和公众咨询表示担忧。
面部识别监控的普及
英国的实验只是全球范围内迅速蔓延的趋势的一个例子,政府机构和商业企业都在使用人工智能视频分析和人脸识别来监视大量人群。彻底的分析表明,全球有 100 多个国家正在使用或已批准使用有争议的技术。
照片:Comparitech
欧洲
32 个欧洲国家已允许或正在使用人脸识别监控。2020 年,伦敦警方引入了人脸识别闭路电视摄像机,同年还首次利用该技术逮捕了嫌疑人。在德国,预计将有 12 个机场和 130 多个火车站安装人脸识别技术。由于该技术的广泛使用,瑞典和法国学校已禁止使用该技术。
照片:Surfshark
北美
目前,美国和北美其他半数国家都在使用人脸识别技术进行监控。到 2023 年,美国国土安全部希望将 97% 的航空旅客人脸存储在警方数据库中,而目前警方数据库中已经存储了超过 50% 的美国人脸。许多警察机构和机场都已开始使用这项技术;然而,出于隐私方面的考虑,越来越多的美国司法管辖区(包括旧金山)已禁止使用该技术。
照片:Surfshark
南美洲
92% 的南美国家(包括巴西和阿根廷)的警察部队都使用了人脸识别技术。在大型活动中,他们只需几个摄像头就能识别出数百名通缉犯。国际刑警组织在该地区追捕的一名最严重的逃犯就是巴西官员利用这项技术抓获的。
照片:Surfshark
中东和中亚
为了在人群中识别人员,阿联酋最近购买了集成人脸识别技术的智能眼镜。哈萨克斯坦正在测试这项扫描乘客面部以取代公共交通票的技术。总体而言,面部识别扫描技术目前已在中东和中亚 76% 的地区投入使用。
照片:Surfshark
大洋洲和亚洲
据估计,中国每 12 人就拥有一台摄像头,是世界上广泛使用人脸识别技术的领军者。迄今为止,中国政府已将其人工智能间谍技术出售给至少 16 个国家。在其他地方,澳大利亚希望在允许访问网络色情内容之前确认年龄,而日本则打算用它来限制赌场中的赌博成瘾。
照片:Surfshark
非洲
非洲是人脸识别监控使用率最低的大陆,仅占所有国家的 20%。不过,这一比例预计还会上升,因为津巴布韦等国家已与中国达成协议,将从中国获得该技术,以换取生物特征数据,从而提高该系统对不同族群的识别准确率。
照片:Surfshark
英国对 Rekognition 的争议性审判
在英国火车站的实验中,备受争议的 Rekognition 系统(尽管遭到内部抵制,但亚马逊仍坚持将其用于监控目的)被用于搜索摄像头镜头中的面部数据。根据通过信息自由请求获得的文件,当游客穿过检票口的“虚拟绊网”时,系统会拍摄照片。然后,这些照片被传输到程序中,以估计年龄和性别等特征,并识别快乐、悲伤或愤怒等情绪。
这些研究旨在利用这些数据来衡量“乘客满意度”,并可能增加车站的“广告和零售收入”。然而,科学家一直警告说,从科学的角度来看,通过照片解读情绪是值得怀疑的。
尽管有效性和准确性存在明显问题,但人工智能实验已逐渐探索各种不同的用例,例如检测非法侵入、过度拥挤、吸烟、尖叫和闲逛。为了加快反应时间,他们试图自动通知人员感知到的风险和“反社会行为”。
即使在不使用人脸识别技术的情况下,隐私组织也对这种侵入性监控普遍缺乏透明度和公众参与提出了质疑。一份风险评估文件以“无知的态度”质疑道:“某些人是否会反对或认为这是侵入性的?”,然后驳斥了这种担忧。并回答说:“一般来说,不会,但有些人没有责任。”
据获得材料的“老大哥观察”研究主管杰克·赫尔福特 (Jake Hurfurt) 称,在这些公共场合引入人工智能监控并使其常态化,而没有太多的讨论或参与,这是一种非常令人担忧的趋势。
Network Rail 辩称,试验是为了维护安全而进行的,并且符合适用法律。至于其他隐私问题或目前的情绪检测状态,该铁路运营商尚未回应询问。
国际讨论:这一切是否合适
公共和商业组织在监控方面快速发展人脸识别和人工智能视频分析技术,引发了全球关于道德、准确性和侵犯公民自由的讨论。尽管支持者声称这些技术提高了安全性和效率,但批评者注意到这些技术可能会带来新水平的偏见、侵入性监控和隐私侵犯。
亚马逊使用自己的 Rekognition 软件秘密扫描和判断英国铁路乘客的情绪状态,引发了关于监督、同意以及如何划定公共场所人工智能监控的界限的更深层次的问题。
《揭开老大哥的真面目:亚马逊 Rekognition 软件在英国备受争议的试验》一文最先出现在 Metaverse Post 上。