У рамках масштабних вправ із моніторингу штучного інтелекту тисячі необережних пасажирів поїздів у Великобританії нібито просканували їхні обличчя та ідентифікували їхні емоції за допомогою суперечливого програмного забезпечення Rekognition від Amazon. Випробування, які проводилися протягом попередніх двох років на ключових станціях, проходили під наглядом оператора поїзда Network Rail.
Система AI оцінювала такі атрибути, як вік, стать і емоційний стан, використовуючи фотографії з камер відеоспостереження; Документи вказують на те, що ці дані зрештою можуть бути використані для цільової реклами. Дослідники неодноразово попереджали, що ці інструменти аналізу емоцій неприємні та ненадійні, а експерти з конфіденційності висловлювали занепокоєння щодо «тривожної» відсутності відкритості та громадських консультацій щодо їх використання.
Поширення спостереження за розпізнаванням обличчя
Експерименти у Великій Британії є лише одним із прикладів всесвітньої тенденції, яка швидко поширюється, коли державні установи та підприємства використовують відеоаналітику штучного інтелекту та розпізнавання облич, щоб стежити за великим населенням. Ретельний аналіз показує, що спірні технології використовуються або схвалені для використання більш ніж у 100 країнах світу.
Фото: Comparitech
Європа
Тридцять дві європейські країни дозволили або застосовують стеження за допомогою розпізнавання облич. У 2020 році лондонська поліція запровадила камери відеоспостереження з розпізнаванням облич, і того ж року було вперше заарештовано за допомогою цієї технології. Очікується, що в Німеччині в дванадцяти аеропортах і понад 130 залізничних станціях буде встановлено розпізнавання облич. Реакція на широке використання технології призвела до її заборони в школах Швеції та Франції.
Фото: Surfshark
Північна Америка
Сполучені Штати та інша половина країн Північної Америки зараз використовують технологію розпізнавання облич для спостереження. До 2023 року Міністерство внутрішньої безпеки хоче зберігати 97% облич пасажирів у поліцейських базах даних, у яких вже є обличчя понад 50% американців. Численні поліцейські установи та аеропорти прийняли це; однак із міркувань конфіденційності дедалі більше юрисдикцій США, включаючи Сан-Франциско, заборонили його використання.
Фото: Surfshark
Південна Америка
92% країн Південної Америки, включаючи Бразилію та Аргентину, мають поліцію, яка використовує технологію розпізнавання облич. Лише за допомогою кількох каналів камери під час великих заходів вони можуть ідентифікувати сотні людей, які перебувають у розшуку. Одного з найбільш розшукуваних Інтерполом втікачів у регіоні затримали бразильські чиновники за допомогою технології.
Фото: Surfshark
Близький Схід і Центральна Азія
Щоб ідентифікувати людей у натовпі, ОАЕ нещодавно придбали розумні окуляри з інтегрованою технологією розпізнавання обличчя. У Казахстані тестують технологію сканування облич пасажирів для заміни квитків у громадському транспорті. Загалом технології сканування розпізнавання облич наразі працюють на 76% території Близького Сходу та Центральної Азії.
Фото: Surfshark
Океанії та Азії
За оцінками, камера на кожні 12 жителів країни, Китай є світовим лідером у широкому використанні технології розпізнавання обличчя. Наразі уряд продав свою шпигунську технологію ШІ принаймні шістнадцяти іноземним країнам. В інших місцях Австралія хоче підтвердити вік, перш ніж дозволити доступ до інтернет-порнографії, тоді як Японія має намір використовувати це для обмеження залежності від азартних ігор у казино.
Фото: Surfshark
Африка
В Африці найнижчий з усіх континентів рівень використання системи спостереження за розпізнаванням обличчя – 20% усіх країн. Однак очікується, що цей показник зросте, оскільки такі країни, як Зімбабве, уклали угоди про отримання технології з Китаю в обмін на біометричні дані, які підвищать точність системи для різних етнічних груп.
Фото: Surfshark
Оскаржувані судові процеси визнання у Великобританії
Під час експериментів на залізничному вокзалі Великобританії суперечлива система Rekognition, яку Amazon наполегливо просувала для цілей стеження, незважаючи на внутрішній опір, використовувалася для пошуку даних про обличчя на записах камери. Згідно з документами, отриманими через запит на свободу інформації, були зроблені фотографії, коли відвідувачі перетинали «віртуальні троси» біля квиткових бар’єрів. Потім фотографії передавали в програму для оцінки таких якостей, як вік і стать, а також для визначення емоцій, таких як щастя, смуток або гнів.
Дослідження розглядали вимірювання «задоволеності пасажирів» за допомогою цих даних і, можливо, збільшення «реклами та доходів від роздрібної торгівлі» на станціях. Проте вчені завжди попереджали, що інтерпретація емоцій на фотографіях сумнівна з наукової точки зору.
Експерименти зі штучним інтелектом виросли, щоб дослідити різноманітні випадки використання, такі як виявлення незаконного проникнення, скупченості, куріння, криків і тиняння, незважаючи на очевидні проблеми з обґрунтованістю та точністю. Щоб пришвидшити час реакції, вони прагнули автоматично повідомляти персонал про передбачувані ризики та «антисоціальну поведінку».
Навіть у випадках, коли технологія розпізнавання облич не використовується, організації з питань конфіденційності ставлять під сумнів загальний брак прозорості та залучення громадськості до такого інвазивного спостереження. В одному документі з оцінки ризику з «ігноруванням» ставилося запитання: «Якщо певні особи можуть заперечити чи вважати це нав’язливим?» перш ніж відкинути такі хвилювання. І відповів: «Взагалі ні, але за деякими нема обліку».
За словами Джейка Херфурта, керівника відділу досліджень Big Brother Watch, який отримав матеріали, запровадження та нормалізація спостереження штучного інтелекту в цих публічних місцях без особливого обговорення чи участі є дуже тривожною тенденцією.
Network Rail стверджує, що випробування є доцільними для підтримки безпеки та що вони відповідають чинному законодавству. Щодо додаткових проблем із конфіденційністю чи стану виявлення емоцій прямо зараз, залізничний оператор не відповів на запити.
Міжнародна дискусія: чи все це доречно
Глобальна дискусія щодо етики, точності та порушень громадянських свобод була викликана швидким розвитком розпізнавання обличчя та відеоаналітики AI для цілей спостереження як державними, так і комерційними організаціями. Критики привернули увагу до потенціалу цих технологій щодо створення нових рівнів упередженого ставлення, нав’язливого стеження та порушення конфіденційності, незважаючи на твердження прихильників, що технології покращують безпеку та ефективність.
Використання власного програмного забезпечення Amazon Rekognition для таємного сканування та оцінювання емоційного стану залізничних пасажирів Великої Британії піднімає глибші питання про нагляд, згоду та те, де провести межу зі спостереженням ШІ в громадських місцях.
Публікація Розкриття великого брата: суперечливі британські випробування програмного забезпечення Amazon Rekognition вперше з’явилася на Metaverse Post.
