Là một phần của hoạt động giám sát trí tuệ nhân tạo mở rộng, hàng nghìn hành khách đi tàu bất cẩn ở Vương quốc Anh đã cố tình quét khuôn mặt và xác định cảm xúc của họ bằng phần mềm Rekognition gây tranh cãi của Amazon. Các cuộc thử nghiệm được thực hiện trong suốt hai năm trước tại các ga quan trọng, được giám sát bởi nhà điều hành tàu Network Rail.
Hệ thống AI ước tính các thuộc tính như tuổi tác, giới tính và trạng thái cảm xúc bằng cách sử dụng ảnh từ camera quan sát; các giấy tờ chỉ ra rằng dữ liệu này cuối cùng có thể được sử dụng cho mục tiêu quảng cáo. Các nhà nghiên cứu đã nhiều lần cảnh báo rằng những công cụ phân tích cảm xúc này rất rắc rối và không đáng tin cậy, đồng thời các chuyên gia về quyền riêng tư đã bày tỏ lo ngại về việc “thiếu cởi mở” và tham vấn cộng đồng xung quanh việc sử dụng chúng.
Sự lan rộng của giám sát nhận dạng khuôn mặt
Các thí nghiệm của Vương quốc Anh chỉ là một ví dụ về xu hướng lan rộng nhanh chóng trên toàn thế giới, trong đó các cơ quan chính phủ và doanh nghiệp kinh doanh đều đang sử dụng phân tích video AI và nhận dạng khuôn mặt để theo dõi dân số lớn. Một phân tích kỹ lưỡng cho thấy các công nghệ gây tranh cãi đang được sử dụng hoặc đã được phê duyệt để sử dụng ở hơn 100 quốc gia trên toàn thế giới.
Ảnh: So sánh
Châu Âu
Ba mươi hai quốc gia châu Âu đã cho phép hoặc đang triển khai giám sát nhận dạng khuôn mặt. Năm 2020 chứng kiến sự ra đời của camera quan sát nhận dạng khuôn mặt của cảnh sát London, cảnh sát cũng đã thực hiện vụ bắt giữ đầu tiên bằng công nghệ này cùng năm. Tại Đức, 12 sân bay và hơn 130 nhà ga xe lửa dự kiến sẽ được lắp đặt tính năng nhận dạng khuôn mặt. Phản ứng trước việc sử dụng rộng rãi công nghệ này đã dẫn đến việc cấm sử dụng nó ở các trường học ở Thụy Điển và Pháp.
Ảnh: Surfshark
Bắc Mỹ
Hoa Kỳ và nửa còn lại của các quốc gia Bắc Mỹ hiện đang sử dụng công nghệ nhận dạng khuôn mặt để giám sát. Đến năm 2023, Bộ An ninh Nội địa muốn có 97% khuôn mặt của hành khách đi máy bay được lưu trữ trong cơ sở dữ liệu của cảnh sát, vốn đã có khuôn mặt của hơn 50% người Mỹ. Nhiều cơ quan cảnh sát và sân bay đã chấp nhận nó; tuy nhiên, vì những lo ngại về quyền riêng tư, ngày càng nhiều khu vực pháp lý của Hoa Kỳ, bao gồm cả San Francisco, đã cấm sử dụng nó.
Ảnh: Surfshark
Nam Mỹ
92% các quốc gia Nam Mỹ, bao gồm Brazil và Argentina, có lực lượng cảnh sát đã sử dụng công nghệ nhận dạng khuôn mặt. Chỉ với một vài nguồn cấp dữ liệu camera trong các sự kiện lớn, họ có thể xác định được hàng trăm người đang bị truy nã. Một trong những kẻ chạy trốn bị Interpol truy lùng gắt gao nhất trong khu vực đã bị các quan chức Brazil bắt giữ nhờ sử dụng công nghệ.
Ảnh: Surfshark
Trung Đông và Trung Á
Để nhận dạng người trong đám đông, UAE gần đây đã mua kính thông minh tích hợp công nghệ nhận dạng khuôn mặt. Công nghệ quét khuôn mặt của hành khách để thay thế vé giao thông công cộng đang được thử nghiệm ở Kazakhstan. Tổng cộng, công nghệ quét nhận dạng khuôn mặt hiện đang được sử dụng trên khắp 76% khu vực Trung Đông và Trung Á.
Ảnh: Surfshark
Châu Đại Dương và Châu Á
Với ước tính cứ 12 người dân sống ở nước này sẽ có một camera chụp ảnh, Trung Quốc là quốc gia dẫn đầu thế giới về việc sử dụng rộng rãi công nghệ nhận dạng khuôn mặt. Cho đến nay, chính phủ đã bán công nghệ gián điệp AI của mình cho ít nhất 16 quốc gia nước ngoài. Ở những nơi khác, Úc muốn xác nhận độ tuổi trước khi cho phép truy cập nội dung khiêu dâm trên internet, trong khi Nhật Bản dự định sử dụng nó để hạn chế tình trạng nghiện cờ bạc trong sòng bạc.
Ảnh: Surfshark
Châu phi
Châu Phi có tỷ lệ sử dụng giám sát nhận dạng khuôn mặt thấp nhất so với bất kỳ châu lục nào, ở mức 20% so với tất cả các quốc gia. Tuy nhiên, con số này được dự đoán sẽ tăng lên vì các quốc gia như Zimbabwe đã đạt được thỏa thuận nhận công nghệ từ Trung Quốc để đổi lấy dữ liệu sinh trắc học nhằm nâng cao độ chính xác của hệ thống đối với các nhóm dân tộc khác nhau.
Ảnh: Surfshark
Các thử nghiệm nhận thức đầy tranh cãi của Vương quốc Anh
Trong các thử nghiệm tại nhà ga xe lửa ở Vương quốc Anh, hệ thống Rekognition gây tranh cãi — mà Amazon vẫn kiên trì quảng bá cho mục đích giám sát bất chấp sự phản kháng nội bộ — đã được sử dụng để tìm kiếm dữ liệu khuôn mặt trong các cảnh quay của camera. Theo các giấy tờ có được thông qua yêu cầu tự do thông tin, các bức ảnh được chụp khi du khách vượt qua “dây ba chân ảo” tại các rào cản bán vé. Sau đó, những bức ảnh này được truyền đến chương trình để ước tính các đặc điểm như tuổi tác và giới tính cũng như xác định những cảm xúc như vui, buồn hay giận dữ.
Các nghiên cứu đã xem xét việc đo lường “sự hài lòng của hành khách” bằng cách sử dụng dữ liệu này và có thể tăng “doanh thu quảng cáo và bán lẻ” tại các nhà ga. Tuy nhiên, các nhà khoa học luôn cảnh báo rằng việc giải thích cảm xúc từ các bức ảnh vẫn còn nhiều nghi vấn xét theo quan điểm khoa học.
Các thử nghiệm AI đã phát triển để khám phá nhiều trường hợp sử dụng khác nhau, chẳng hạn như phát hiện hành vi xâm phạm, quá đông người, hút thuốc, la hét và lảng vảng, bất chấp các vấn đề rõ ràng về tính hợp lệ và độ chính xác. Để tạo điều kiện cho thời gian phản ứng nhanh hơn, họ đã tìm cách tự động thông báo cho nhân viên về những rủi ro nhận thấy và “hành vi chống đối xã hội”.
Ngay cả trong trường hợp công nghệ nhận dạng khuôn mặt không được sử dụng, các tổ chức bảo mật vẫn đặt câu hỏi về sự thiếu minh bạch nói chung và sự tham gia của công chúng xung quanh hoạt động giám sát xâm lấn như vậy. Một tài liệu đánh giá rủi ro, với “thái độ thiếu hiểu biết”, đã đặt câu hỏi: “Liệu một số cá nhân có khả năng phản đối hoặc cho rằng nó xâm phạm không?” trước khi gạt bỏ những lo lắng đó. Và trả lời, "Nói chung là không, nhưng không có sự tính toán nào cho một số người."
Theo Jake Hurfurt, Trưởng phòng Nghiên cứu tại Big Brother Watch, nơi nhận được tài liệu, việc giới thiệu và bình thường hóa hoạt động giám sát AI ở những môi trường công cộng này mà không có nhiều thảo luận hoặc tham gia là một xu hướng rất đáng lo ngại.
Network Rail đã lập luận rằng các cuộc thử nghiệm là phù hợp để duy trì an ninh và chúng tuân thủ luật hiện hành. Liên quan đến các vấn đề bổ sung về quyền riêng tư hoặc trạng thái phát hiện cảm xúc hiện tại, nhà điều hành đường sắt vẫn chưa trả lời các câu hỏi.
Một cuộc thảo luận quốc tế: Liệu tất cả có phù hợp không
Một cuộc thảo luận toàn cầu về các vi phạm đạo đức, tính chính xác và quyền tự do dân sự đã được thúc đẩy bởi sự phát triển nhanh chóng của nhận dạng khuôn mặt và phân tích video AI cho mục đích giám sát của cả tổ chức công và tổ chức thương mại. Các nhà phê bình đã thu hút sự chú ý đến tiềm năng của công nghệ trong việc tạo ra những mức độ định kiến mới, giám sát xâm nhập và xói mòn quyền riêng tư bất chấp những tuyên bố của những người đề xuất rằng công nghệ này cải thiện tính bảo mật và hiệu quả.
Việc sử dụng phần mềm Rekognition của Amazon để bí mật quét và đánh giá trạng thái cảm xúc của hành khách đi đường sắt ở Vương quốc Anh đặt ra những câu hỏi sâu sắc hơn về việc giám sát, sự đồng ý và nơi đặt ranh giới cho việc giám sát AI trong không gian công cộng.
Bài đăng Vạch mặt Big Brother: Những thử nghiệm gây tranh cãi ở Vương quốc Anh về Phần mềm nhận thức lại của Amazon xuất hiện đầu tiên trên Metaverse Post.
