V rámci rozsáhlých cvičení umělé inteligence si tisíce neopatrných cestujících ve vlaku ve Spojeném království údajně nechaly naskenovat obličeje a identifikovat emoce sporným softwarem Amazon Rekognition. Na testy, které probíhaly v průběhu předchozích dvou let v klíčových stanicích, dohlížel vlakový dopravce Network Rail.
Systém umělé inteligence odhadl atributy jako věk, pohlaví a emoční stav pomocí fotografií z CCTV kamer; dokumenty naznačují, že tato data mohou být případně využita pro cílenou reklamu. Výzkumníci opakovaně varovali, že tyto nástroje pro analýzu emocí jsou problematické a nespolehlivé, a odborníci na ochranu soukromí vyjádřili obavy z „ohledně“ nedostatku otevřenosti a veřejné konzultace ohledně jejich použití.
Šíření sledování rozpoznávání obličeje
Experimenty ve Spojeném království jsou pouze jedním příkladem rychle se šířícího celosvětového trendu, kdy vládní agentury i obchodní společnosti používají analýzu videa AI a rozpoznávání obličejů ke špehování velké populace. Důkladná analýza ukazuje, že sporné technologie se buď používají, nebo byly schváleny pro použití ve více než 100 zemích světa.
Foto: Comparitech
Evropa
Třicet dva evropských zemí povolilo nebo používá sledování rozpoznáváním obličeje. V roce 2020 zavedla londýnská policie CCTV kamery s rozpoznáváním obličeje, která také ve stejném roce provedla první zatčení pomocí této technologie. V Německu se očekává, že rozpoznání obličeje bude nainstalováno na dvanácti letištích a více než 130 nádražích. Reakce na široké využití technologie vedla k jejímu zákazu ve švédských a francouzských školách.
Foto: Surfshark
Severní Amerika
Spojené státy a druhá polovina severoamerických národů v současné době používají technologii rozpoznávání obličeje pro sledování. Do roku 2023 chce ministerstvo pro vnitřní bezpečnost mít 97 % tváří cestujících v letecké dopravě uložených v policejních databázích, které již mají tváře více než 50 % Američanů. Mnoho policejních agentur a letišť ji přijalo; z důvodu obav o soukromí však rostoucí počet jurisdikcí USA, včetně San Francisca, zakázal jeho používání.
Foto: Surfshark
Jižní Amerika
92 % jihoamerických zemí, včetně Brazílie a Argentiny, má policejní síly, které používají technologii rozpoznávání obličejů. Pomocí několika kamer během velkých akcí jsou schopni identifikovat stovky hledaných lidí. Jeden z nejhledanějších uprchlíků v oblasti Interpolem byl zadržen brazilskými úředníky s použitím technologie.
Foto: Surfshark
Střední východ a střední Asie
Aby bylo možné identifikovat osoby v davu, Spojené arabské emiráty nedávno koupily chytré brýle s integrovanou technologií rozpoznávání obličeje. Technologie, která skenuje tváře cestujících, aby nahradila jízdenky na veřejnou dopravu, se testuje v Kazachstánu. Celkově jsou technologie skenování obličeje v současnosti v provozu na 76 % Středního východu a Střední Asie.
Foto: Surfshark
Oceánie a Asie
S odhadovaným počtem kamer na každých 12 lidí žijících v zemi je Čína světovým lídrem v rozšířeném používání technologie rozpoznávání obličejů. Doposud vláda prodala svou špionážní technologii AI do nejméně šestnácti cizích zemí. Na jiných místech chce Austrálie potvrdit věk před povolením přístupu k internetové pornografii, zatímco Japonsko ho hodlá využít k omezení závislosti na hazardních hrách v kasinech.
Foto: Surfshark
Afrika
Afrika má nejnižší míru využití sledování pomocí rozpoznávání obličeje ze všech kontinentů, a to 20 % ze všech zemí. Očekává se však, že to poroste, protože země jako Zimbabwe uzavřely dohody o získání technologie z Číny výměnou za biometrická data, která zvýší přesnost systému pro různé etnické skupiny.
Foto: Surfshark
Napadené britské soudy o uznání
V experimentech na britských nádražích byl sporný systém Rekognition – který Amazon vytrvale propaguje pro účely sledování navzdory vnitřnímu odporu – použit k vyhledávání údajů o tvářích v záběrech kamery. Fotografie byly pořízeny, když návštěvníci překračovali „virtuální tripwires“ u překážek pro vstupenky, podle dokumentů získaných prostřednictvím žádosti o svobodu informací. Snímky byly poté přeneseny do programu, aby bylo možné odhadnout vlastnosti, jako je věk a pohlaví, a identifikovat emoce, jako je štěstí, smutek nebo vztek.
Studie se zabývaly měřením „spokojenosti cestujících“ pomocí těchto údajů a možná zvýšením „výnosů z reklamy a maloobchodu“ na stanicích. Přesto vědci vždy varovali, že interpretace emocí z fotografií je z vědeckého hlediska sporná.
Experimenty s umělou inteligencí se rozrostly tak, aby prozkoumaly řadu různých případů použití, jako je detekce neoprávněného vstupu, přeplnění, kouření, křiku a povalování, a to i přes zjevné problémy s platností a přesností. Aby usnadnili rychlejší reakční doby, snažili se automaticky upozornit personál na vnímaná rizika a „antisociální chování“.
Dokonce i v případech, kdy se nepoužívá technologie rozpoznávání obličejů, organizace na ochranu soukromí zpochybnily obecný nedostatek transparentnosti a zapojení veřejnosti kolem takového invazivního sledování. Jeden dokument o hodnocení rizik s „ignorantním postojem“ zpochybňoval: „Pokud je pravděpodobné, že někteří jednotlivci budou mít námitky nebo to považují za rušivé? než takové obavy zaženete. A odpovědět: "Obecně ne, ale pro některé lidi neexistuje žádné účetnictví."
Podle Jakea Hurfurta, vedoucího výzkumu ve společnosti Big Brother Watch, která materiály získala, je zavedení a normalizace sledování AI v těchto veřejných prostředích bez velké diskuse a účasti velmi znepokojující tendencí.
Network Rail tvrdil, že zkoušky jsou vhodné pro zachování bezpečnosti a že jsou v souladu s platnými zákony. Pokud jde o další problémy s ochranou soukromí nebo aktuální stav detekce emocí, železniční dopravce na dotazy neodpověděl.
Mezinárodní diskuse: Zda je to všechno vhodné
Globální diskuse o etice, přesnosti a porušování občanských svobod byla podnícena rychlým rozvojem rozpoznávání obličejů a videoanalýzy AI pro účely sledování veřejnými i komerčními organizacemi. Kritici upozornili na potenciál technologií umožnit nové úrovně předsudků, rušivého sledování a narušení soukromí navzdory tvrzením zastánců, že technologie zlepšují bezpečnost a efektivitu.
Použití vlastního softwaru Rekognition společnosti Amazon ke skrytému skenování a posuzování emocionálních stavů cestujících na železnici ve Spojeném království vyvolává hlubší otázky ohledně dohledu, souhlasu a toho, kde kreslit čáru v oblasti sledování AI ve veřejných prostorách.
The post Unmasking Big Brother: The Controversial UK Trials of Amazon’s Rekognition Software appeared first on Metaverse Post.