作爲大規模人工智能監控演習的一部分,據稱,英國數千名粗心大意的火車乘客的臉部被掃描,他們的情緒被亞馬遜備受爭議的 Rekognition 軟件識別。這些測試在過去兩年中在主要車站進行,由火車運營商 Network Rail 監督。
該人工智能系統利用閉路電視攝像機拍攝的照片來估計年齡、性別和情緒狀態等屬性;論文表明,這些數據最終可能會用於定向廣告。研究人員一再警告說,這些情緒分析工具既麻煩又不可靠,隱私專家也對其使用方面“令人擔憂”的缺乏公開性和公衆諮詢表示擔憂。
面部識別監控的普及
英國的實驗只是全球範圍內迅速蔓延的趨勢的一個例子,政府機構和商業企業都在使用人工智能視頻分析和人臉識別來監視大量人羣。徹底的分析表明,全球有 100 多個國家正在使用或已批准使用有爭議的技術。
照片:Comparitech
歐洲
32 個歐洲國家已允許或正在使用人臉識別監控。2020 年,倫敦警方引入了人臉識別閉路電視攝像機,同年還首次利用該技術逮捕了嫌疑人。在德國,預計將有 12 個機場和 130 多個火車站安裝人臉識別技術。由於該技術的廣泛使用,瑞典和法國學校已禁止使用該技術。
照片:Surfshark
北美
目前,美國和北美其他半數國家都在使用人臉識別技術進行監控。到 2023 年,美國國土安全部希望將 97% 的航空旅客人臉存儲在警方數據庫中,而目前警方數據庫中已經存儲了超過 50% 的美國人臉。許多警察機構和機場都已開始使用這項技術;然而,出於隱私方面的考慮,越來越多的美國司法管轄區(包括舊金山)已禁止使用該技術。
照片:Surfshark
南美洲
92% 的南美國家(包括巴西和阿根廷)的警察部隊都使用了人臉識別技術。在大型活動中,他們只需幾個攝像頭就能識別出數百名通緝犯。國際刑警組織在該地區追捕的一名最嚴重的逃犯就是巴西官員利用這項技術抓獲的。
照片:Surfshark
中東和中亞
爲了在人羣中識別人員,阿聯酋最近購買了集成人臉識別技術的智能眼鏡。哈薩克斯坦正在測試這項掃描乘客面部以取代公共交通票的技術。總體而言,面部識別掃描技術目前已在中東和中亞 76% 的地區投入使用。
照片:Surfshark
大洋洲和亞洲
據估計,中國每 12 人就擁有一臺攝像頭,是世界上廣泛使用人臉識別技術的領軍者。迄今爲止,中國政府已將其人工智能間諜技術出售給至少 16 個國家。在其他地方,澳大利亞希望在允許訪問網絡色情內容之前確認年齡,而日本則打算用它來限制賭場中的賭博成癮。
照片:Surfshark
非洲
非洲是人臉識別監控使用率最低的大陸,僅佔所有國家的 20%。不過,這一比例預計還會上升,因爲津巴布韋等國家已與中國達成協議,將從中國獲得該技術,以換取生物特徵數據,從而提高該系統對不同族羣的識別準確率。
照片:Surfshark
英國對 Rekognition 的爭議性審判
在英國火車站的實驗中,備受爭議的 Rekognition 系統(儘管遭到內部抵制,但亞馬遜仍堅持將其用於監控目的)被用於搜索攝像頭鏡頭中的面部數據。根據通過信息自由請求獲得的文件,當遊客穿過檢票口的“虛擬絆網”時,系統會拍攝照片。然後,這些照片被傳輸到程序中,以估計年齡和性別等特徵,並識別快樂、悲傷或憤怒等情緒。
這些研究旨在利用這些數據來衡量“乘客滿意度”,並可能增加車站的“廣告和零售收入”。然而,科學家一直警告說,從科學的角度來看,通過照片解讀情緒是值得懷疑的。
儘管有效性和準確性存在明顯問題,但人工智能實驗已逐漸探索各種不同的用例,例如檢測非法侵入、過度擁擠、吸菸、尖叫和閒逛。爲了加快反應時間,他們試圖自動通知人員感知到的風險和“反社會行爲”。
即使在不使用人臉識別技術的情況下,隱私組織也對這種侵入性監控普遍缺乏透明度和公衆參與提出了質疑。一份風險評估文件以“無知的態度”質疑道:“某些人是否會反對或認爲這是侵入性的?”,然後駁斥了這種擔憂。並回答說:“一般來說,不會,但有些人沒有責任。”
據獲得材料的“老大哥觀察”研究主管傑克·赫爾福特 (Jake Hurfurt) 稱,在這些公共場合引入人工智能監控並使其常態化,而沒有太多的討論或參與,這是一種非常令人擔憂的趨勢。
Network Rail 辯稱,試驗是爲了維護安全而進行的,並且符合適用法律。至於其他隱私問題或目前的情緒檢測狀態,該鐵路運營商尚未迴應詢問。
國際討論:這一切是否合適
公共和商業組織在監控方面快速發展人臉識別和人工智能視頻分析技術,引發了全球關於道德、準確性和侵犯公民自由的討論。儘管支持者聲稱這些技術提高了安全性和效率,但批評者注意到這些技術可能會帶來新水平的偏見、侵入性監控和隱私侵犯。
亞馬遜使用自己的 Rekognition 軟件祕密掃描和判斷英國鐵路乘客的情緒狀態,引發了關於監督、同意以及如何劃定公共場所人工智能監控的界限的更深層次的問題。
《揭開老大哥的真面目:亞馬遜 Rekognition 軟件在英國備受爭議的試驗》一文最先出現在 Metaverse Post 上。