Nadcházející vlnu voleb po celém světě těsně následují obavy z umělé inteligence a kybernetických útoků ovlivňujících demokratický proces. Podle zprávy společnosti Mandiant, kterou zadal Google Cloud, odhalila širokou veřejnost rozmanitost hrozeb, které obvykle představují státní aktéři, kyberzločinci a političtí hackeři. To může ohrozit nadcházející volební procesy v mnoha zemích po celém světě.

Krajina zvýšené hrozby

Mandiantova zpráva zdůrazňuje rostoucí úroveň hrozeb souvisejících s volbami a zdůrazňuje naléhavou potřebu komplexní bezpečnostní politiky. V letošním roce bude hlasovat více než 2 miliardy voličů z 50 zemí, díky čemuž jsou rizika ještě reálnější, což znamená, že je třeba dbát na to, aby nově vznikající kybernetické hrozby nemohly být úspěšné.

Čínské státem podporované operace v oblasti kybernetických hrozeb nyní přijaly umělou inteligenci (AI), aby podpořily rozsáhlé dezinformační snahy zaměřené na volby doma i v zahraničí. Nejnovější zprávy zdůrazňují slavné strategie těchto útočníků, zejména ve volbách na Tchaj-wanu a nadcházejícím prezidentském průzkumu v USA v roce 2020.

Na Tchaj-wanu se přijetí zpravodajství generovaných umělou inteligencí, které využívají falešné moderátory, stalo dokonalým způsobem šíření falešných zpráv. Tyto napodobené segmenty zpráv, vytvořené z CapCut, výtvoru ByteDance, patří mezi klíčové nástroje v šíření dezinformací zaměřených na narušení demokratického procesu. Kromě toho byly široce distribuovány memy a videa vytvořená umělou inteligencí se záměrem pošpinit známé politické osobnosti, což vedlo k rozsáhlému šíření klamavého obsahu.

Stejně tak jsou Spojené státy pod neustálými pokusy čínských státem podporovaných aktérů hrozeb zmanipulovat myšlení země prostřednictvím dezinformačních kampaní. Volební snahy o kybernetickou bezpečnost přesahují jen typické hackerské snahy; cílem těchto dezinformačních kampaní je podkopat vůli lidí a volební proces. Protivníci používají všechny možné přístupy k manipulaci s výsledky, od cílení na hlasovací stroje až po infiltraci politických kampaní a manipulaci na sociálních sítích.

Komplexní bezpečnostní imperativ

Zajištění voleb bude vyžadovat holistický přístup, který zahrnuje vektory hrozeb od DDoS útoků až po hluboce falešnou manipulaci. Mandiant klade velký důraz na to, aby pokračoval v hrozbách zabezpečení digitální infrastruktury a minimalizoval volební manipulace.

I když se nejvíce oprávněné obavy ohledně kybernetické bezpečnosti voleb týkají přímého narušení hlasování a sčítání, mnohem častěji se kyberneičtí protivníci snaží zasévat veřejné vnímání informační válkou: šíří fake news, organizují DDoS útoky a tajně manipulují se sociálními médii se vší vynalézavostí. utvářet volební výsledky.

V důsledku toho se očekává, že volební organizace přijmou proaktivní obranná opatření, aby se vyrovnaly s měnícím se prostředím hrozeb. To je třeba provést s pochopením konkrétních hrozeb namířených proti jednotlivým zemím, aby se posílilo předvídání a protiopatření proti pravděpodobným útokům, které učiní demokratické instituce odolnějšími.

Americká vládní iniciativa Rada pro bezpečnost a zabezpečení AI

Stojí za zmínku, že americká vláda vytvořila Radu pro bezpečnost a zabezpečení umělé inteligence s předními technologickými lídry, což ukazuje velký skok. Mezi zmíněné špičkové technologické lídry v představenstvu patří Sam Altman z OpenAI, Satya Nadella z Microsoftu a generální ředitel Alphabet Sundar Pichai. 

Správní rada bude mimo jiné radit ministerstvu pro vnitřní bezpečnost, jak nejlépe zavést AI do kritické infrastruktury země bezpečným a bezpečným způsobem. Mezi ostatními na vysokém stole jsou Jensen Huang, CEO společnosti Nvidia; Kathy Warden, generální ředitelka Northrop Grumman; a Ed Bastian, generální ředitel Delta Airlines.

Rada pro bezpečnost a zabezpečení AI bude spolupracovat s ministerstvem vnitřní bezpečnosti USA na odstranění jakýchkoli návrhů na začlenění umělé inteligence do kritické infrastruktury, které by byly nebezpečné. Představenstvo poskytne energetickým společnostem, poskytovatelům dopravy a výrobcům návrhy, jak zavést postupy kybernetické bezpečnosti, které jsou v souladu s formou AI, která je v současnosti nejrozšířenější.

Hlavním cílem Rady pro bezpečnost a zabezpečení AI je bezpečně integrovat technologie umělé inteligence do systémů kritické infrastruktury. To by byl prostor, ve kterém rada doufá, že stanoví pokyny a pracovní stanice pro implementaci se zaměřením na zabezpečení, bezpečnost a spolehlivost v rámci kritické infrastruktury. Sestavit ty nejlepší nápady od zkušených vedoucích představitelů oboru a vyvinout rámec, který umožní zodpovědné nasazení AI v různých oblastech.

Zapojení zainteresovaných stran ze soukromého sektoru do této organizace také hraje roli při prokazování kombinovaného úsilí při uplatňování znalostí a perspektiv průmyslu při vytváření politik a předpisů AI. V tomto případě je rada odhodlána řešit složité problémy související s umělou inteligencí při zajišťování bezpečnosti a zabezpečení, čímž vytváří důvěru a důvěru mezi veřejností.

Zavádějící obsah generovaný umělou inteligencí: Rizika a podvody

Hluboké fake generované umělou inteligencí jsou stále sofistikovanější, takže je těžké rozeznat skutečný od zmanipulovaného obsahu. Manipulovaný obsah ve formě fotografií, videí a zvukových souborů může představovat hrozbu poškození pověsti politika nebo politické strany. Nemusí být plně uplatněna v drtivých volbách, ale síla umělé inteligence může změnit konečné výsledky tím, že v těsném souboji pokřiví rozdíl v několika klíčových hlasech.

Existuje globální úsilí o zmírnění dopadu, který může mít manipulace AI na volební procesy. Různé vlády, největší světové technologické firmy a zákonodárné orgány řídí tuto cestu prostřednictvím monitorování, regulace a především pochopení dopadu umělé inteligence. Většina zemí například vytvořila interní volební týmy a zavedla opatření k prevenci rizik souvisejících s generativní AI.

Preventivní opatření, která je třeba přijmout v rámci prevence volebního rušení řízeného umělou inteligencí, zahrnují zvýšení citlivosti obyvatelstva na rizika klamavého obsahu generovaného umělou inteligencí. Osvětové kampaně jsou navrženy tak, aby zvýšily citlivost spotřebitelů na pravost online obsahu a samotnou možnost, že je vyroben pomocí umělé inteligence. To by zvýšilo podezření ohledně online informací, ještě více by snížilo důvěru v digitální platformy a zvýšilo by se problém týkající se dezinformací a dezinformací.