S rozvojem technologií umělé inteligence je umělá inteligence používána neeticky ve volebních filtrech jako hrozba volebního vlivu. Microsoft předem varoval, že Čína je připravena pohrát si s nadcházejícími volbami v Indii, USA a Jižní Koreji a že dychtí po využití obsahu generovaného umělou inteligencí. Toto varování je způsobeno nedávným procesem s Čínou během prezidentských voleb na Tchaj-wanu, ve kterých byla k ovlivnění výsledků hlasování použita umělá inteligence.

Varování a hodnocení společnosti Microsoft

Experti Microsoftu na informace o hrozbách odhalili, že Čína bude pravděpodobně zemí za státem podporovanými hackerskými skupinami, které by mohly využít zapojení Severní Koreje k přístupu do systémů státních volebních agentur ve volbách v roce 2024. Varování přichází poté, co se Čína pokusila použít AI během voleb tchajwanského prezidenta k ovlivnění výsledku. Plán byl implementován pomocí technologie AI, protože obsah generovaný AI, jako jsou falešná zvuková doporučení a memy, způsobil, že někteří kandidáti vypadali špatně nebo zmanipulovali vnímání voličů.

Podle představitelů Microsoftu obsah generovaný umělou inteligencí z Číny zpochybňuje integritu amerických voleb, zejména klíčových voleb, jako je prezidentské klání v roce 2024. Technologický gigant varuje, že vytváření „deepfakes“, fiktivních událostí a dalších podvodných technik může oklamat veřejnost a poškodit její schopnost činit správná a správná rozhodnutí.

Vliv AI ve volbách není jen zkušeností Tchaj-wanu; Spojené státy také zaznamenaly čínskou aktivitu AI v politické sféře. Čínské skupiny údajně prováděly stejné dezinformační kampaně na klíčových cílených voličích a také zveřejňovaly stranické materiály na sociálních sítích. Většina výzkumů na toto téma však jejich tvrzení o výrazné změně veřejného mínění příliš nepodpoří.

Před demokratickými primárkami v New Hampshire v roce 2024 byla zveřejněna hlasová zpráva generovaná umělou inteligencí, která se vydává za hlas prezidenta Joe Bidena, a povzbuzovala voliče, aby se zdrželi účasti na hlasovacím procesu. Navzdory tvrzení, že se situace netýká Číny, tato událost vyjadřuje obecnější nebezpečí pro demokratické postupy, které představuje AI.

Důsledky pro volby v Indii

Nebezpečí vměšování umělé inteligence se nevyhýbá ani Indii, která se má konat všeobecné volby počínaje 19. dubnem. Je zcela zřejmé, že výstraha Microsoftu ukazuje, že kvůli rostoucím kybernetickým útokům je potřeba zvýšené ostražitosti, aby byla integrita indických voleb chráněna před kybernetickými útoky. Vzhledem k tomu, že celá procedura sestává ze sedmi fází v rozmezí od 19. dubna do 1. června, se zdá, že obavy z pronikání umělé inteligence do procesu hlasování jsou na místě.

Jednou z největších výzev Indie jako největší demokracie na světě je zachování integrity volebního systému před vnějšími zásahy. Obsah generovaný umělou inteligencí by mohl být použit k manipulaci s vnímáním voličů a ignorování legitimity voleb, což by vedlo k nedůvěře v demokratický proces.

Po nárůstu masových voleb na mezinárodní úrovni by se vlády, poskytovatelé technologií a organizace pro lidská práva měly zabývat nebezpečím, které představuje obsah generovaný umělou inteligencí. Překonání této překážky vyžaduje vzájemně propojené pokusy o vytvoření drastických opatření pro rychlé odhalení a zmaření šíření falešných informací. Ochrana integrity a transparentnosti volebního procesu by měla být na prvním místě programu před nadcházejícími volbami v Indii. Ostražitost proti manipulaci s umělou inteligencí a podpora digitální gramotnosti, stejně jako informovanost voličů, jsou hlavními pilíři obrany demokracie v digitálním věku.

Umělá inteligence při ovlivňování voleb je velkým nebezpečím, protože podkopává základy demokracie a integritu volebního procesu. Prostřednictvím neustálého monitorování a reaktivních přístupů mohou zúčastněné strany jednat jednotně, aby zastavily šíření falešného obsahu a pomohly zajistit čistého demokratického ducha.

Zdroj: https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybersecurity/