В рамках масштабных мероприятий по мониторингу искусственного интеллекта тысячи неосторожных пассажиров поездов в Великобритании предположительно сканировали лица и определяли эмоции с помощью спорного программного обеспечения Amazon Rekognition. Испытания, которые проводились в течение предыдущих двух лет на ключевых станциях, курировались железнодорожным оператором Network Rail.
Система искусственного интеллекта оценивала такие атрибуты, как возраст, пол и эмоциональное состояние, используя фотографии с камер видеонаблюдения; В документах указывается, что эти данные в конечном итоге могут быть использованы для таргетированной рекламы. Исследователи неоднократно предупреждали, что эти инструменты анализа эмоций проблематичны и ненадежны, а эксперты по конфиденциальности выражали обеспокоенность по поводу «тревожного» отсутствия открытости и публичных консультаций по поводу их использования.
Распространение слежки с распознаванием лиц
Британские эксперименты являются лишь одним из примеров быстро распространяющейся во всем мире тенденции, когда как правительственные учреждения, так и коммерческие предприятия используют видеоаналитику искусственного интеллекта и распознавание лиц для слежки за большими группами населения. Тщательный анализ показывает, что спорные технологии либо используются, либо одобрены к использованию более чем в 100 странах мира.
Фото: Компаритек
Европа
Тридцать две европейские страны разрешили или используют наблюдение за распознаванием лиц. В 2020 году лондонская полиция представила камеры видеонаблюдения с распознаванием лиц, которые в том же году произвели первый арест с использованием этой технологии. Ожидается, что в Германии двенадцать аэропортов и более 130 вокзалов будут оснащены системами распознавания лиц. Реакция на широкое использование этой технологии привела к ее запрету в шведских и французских школах.
Фото: Серфшарк
Северная Америка
Соединенные Штаты и другая половина стран Северной Америки в настоящее время используют технологию распознавания лиц для наблюдения. К 2023 году Министерство внутренней безопасности хочет, чтобы 97% лиц авиапутешественников хранились в полицейских базах данных, в которых уже есть лица более 50% американцев. Его приняли на вооружение многочисленные полицейские ведомства и аэропорты; однако из соображений конфиденциальности все большее число юрисдикций США, включая Сан-Франциско, объявляют его использование вне закона.
Фото: Серфшарк
Южная Америка
В 92% стран Южной Америки, включая Бразилию и Аргентину, есть полицейские силы, которые используют технологию распознавания лиц. Всего лишь с помощью нескольких камер во время крупных мероприятий они могут идентифицировать сотни разыскиваемых людей. Один из наиболее разыскиваемых Интерполом беглецов в этом районе был задержан бразильскими чиновниками с использованием технологий.
Фото: Серфшарк
Ближний Восток и Центральная Азия
Чтобы идентифицировать людей в толпе, ОАЭ недавно закупили умные очки со встроенной технологией распознавания лиц. В Казахстане тестируют технологию, которая сканирует лица пассажиров для замены билетов на общественный транспорт. В общей сложности технологии сканирования с распознаванием лиц в настоящее время используются на 76% территории Ближнего Востока и Центральной Азии.
Фото: Серфшарк
Океания и Азия
По оценкам, на каждые 12 человек, живущих в стране, приходится камера, Китай является мировым лидером в широком использовании технологии распознавания лиц. На данный момент правительство продало свою шпионскую технологию искусственного интеллекта как минимум шестнадцати зарубежным странам. В других странах Австралия хочет подтвердить возраст, прежде чем разрешить доступ к порнографии в Интернете, а Япония намерена использовать его для ограничения игровой зависимости в казино.
Фото: Серфшарк
Африка
В Африке самый низкий уровень использования систем наблюдения с распознаванием лиц среди всех континентов — 20% всех стран. Однако ожидается, что эта цифра будет расти, поскольку такие страны, как Зимбабве, заключили соглашения о получении технологии из Китая в обмен на биометрические данные, которые повысят точность системы для различных этнических групп.
Фото: Серфшарк
Оспариваемые судебные процессы по признанию в Великобритании
В экспериментах на железнодорожном вокзале Великобритании спорная система Rekognition, которую Amazon упорно продвигает в целях наблюдения, несмотря на внутреннее сопротивление, использовалась для поиска данных о лицах в кадрах с камер. Согласно документам, полученным в результате запроса на свободу информации, фотографии были сделаны, когда посетители пересекали «виртуальные натяжные провода» у билетных барьеров. Затем изображения были переданы в программу для оценки таких качеств, как возраст и пол, а также для определения таких эмоций, как счастье, печаль или ярость.
В исследованиях рассматривалась возможность измерения «удовлетворенности пассажиров» с использованием этих данных и, возможно, увеличения «доходов от рекламы и розничной торговли» на станциях. Однако ученые всегда предупреждали, что интерпретация эмоций по фотографиям сомнительна с научной точки зрения.
Эксперименты с ИИ разрослись до изучения множества различных вариантов использования, таких как обнаружение вторжений, переполненности, курения, криков и праздношатания, несмотря на очевидные проблемы с достоверностью и точностью. Чтобы ускорить реагирование, они стремились автоматически уведомлять персонал о предполагаемых рисках и «антисоциальном поведении».
Даже в тех случаях, когда технология распознавания лиц не используется, организации по обеспечению конфиденциальности ставят под сомнение общее отсутствие прозрачности и участия общественности в таком агрессивном наблюдении. В одном из документов по оценке рисков с «невежественным отношением» ставится вопрос: «Могут ли некоторые люди возражать или сочтут это навязчивым?» прежде чем отбросить такие опасения. И в ответ: «В общем, нет, но за некоторых людей нет никакого учета».
По словам Джейка Хёрфурта, руководителя отдела исследований компании Big Brother Watch, которому были переданы материалы, внедрение и нормализация наблюдения за искусственным интеллектом в общественных местах без особого обсуждения или участия является очень тревожной тенденцией.
Network Rail утверждает, что испытания необходимы для обеспечения безопасности и соответствуют действующему законодательству. Что касается дополнительных проблем с конфиденциальностью или состояния обнаружения эмоций на данный момент, железнодорожный оператор не ответил на запросы.
Международная дискуссия: все ли это уместно
Глобальная дискуссия по поводу нарушений этики, точности и гражданских свобод была вызвана быстрым развитием систем распознавания лиц и видеоаналитики искусственного интеллекта для целей наблюдения как государственными, так и коммерческими организациями. Критики привлекли внимание к тому, что эти технологии способны обеспечить новый уровень предубеждений, интрузивного наблюдения и нарушения конфиденциальности, несмотря на заявления сторонников о том, что технологии повышают безопасность и эффективность.
Использование собственного программного обеспечения Rekognition от Amazon для скрытного сканирования и оценки эмоционального состояния пассажиров британских железных дорог поднимает более глубокие вопросы о контроле, согласии и о том, где провести черту в слежке с помощью ИИ в общественных местах.
Публикация «Разоблачение Большого Брата: спорные британские испытания программного обеспечения Amazon Rekognition» впервые появилась на Metaverse Post.
