Explozivní růst umělé inteligence (AI) zaplňuje náš svět buď idealistickými sny, nebo apokalyptickými předpověďmi, přičemž ani jedno neodráží skutečné nebezpečí.
Nesetkáváme se s "velkým robotickým povstáním", kde by AIs nebo roboti provedli nepřátelské převzetí. Zapomeňte na filmové scény z Terminátora nebo Matrixu – to není na pořadu dne. Technologie, která by umožnila AIs ovládnout svět, neexistuje.
AI může excelovat v konkrétních úkolech, jako je skládání proteinů nebo hraní šachu, ale není schopna budovat armády nebo řídit národy.
Přesto tento nedostatek robotického povstání neznamená, že jsme v bezpečí. AI tiše proniká do našich životů méně dramatickými, ale stejně mocnými prostředky: digitální byrokracií.
Skutečné nebezpečí nejsou zabijácké roboty. Je to pronikání AI do rozhodnutí, která ovládají naše každodenní životy. Lidé se vyvinuli tak, aby se báli hmatatelných hrozeb. Myslete na velké predátory, jako jsou lvi a žraloci.
Ale jsme méně připraveni rozpoznat hrozby z papírování, dokumentů nebo byrokracie. Byrokracie sama o sobě je relativně novým vynálezem, který se vyvinul teprve před 5 000 lety s vytvořením písma.
Před psaním záviselo vlastnictví například na tom, na čem se komunita dohodla. Pokud jste "vlastnili" kus země, bylo to proto, že vaši sousedé to respektovali. Nebyly potřeba žádné dokumenty.
Od hliněných tabulek k digitálním byrokratům
To se všechno změnilo, když lidé začali používat hliněné tabulky a záznamy. Psané dokumenty znamenaly, že vlastnická práva už nebyla o konsensu komunity, ale o oficiálních záznamech. Starověcí Mezopotámci proměnili kusy hlíny v oficiální symboly vlastnictví, čímž otočili myšlenku vlastnictví.
Rozhodnutí soudu může být založeno na hliněné tabulce, která říká, že jste vlastnili kus země, i když se komunita neshodla. Přejděme k dnešku a naše systémy jsou stále postaveny na podobných principech, jen nyní používáme silikonové čipy a digitální záznamy místo hlíny.
Tato změna transformovala mocenské struktury. Vlastnictví se stalo něčím, co mohlo být prodáno a obchodováno bez souhlasu místní komunity. Objevil se byrokracie, která umožnila daňové výběry, vojenské financování a centrální vládu.
Byrokraté se stali nezbytnými hráči v těchto systémech, používající záznamy, formuláře a razítka k řízení armád, přidělování zdrojů a dokonce i ovládání zákonů. Tyto byrokratické systémy daly vzniknout centralizovaným státům s rozsáhlou kontrolou nad jejich obyvateli, což se nyní přesouvá k AI.
AI nepotřebuje vychovávat robotickou armádu; stačí, když ovládne byrokratické systémy. V rámci těchto rámců může AI učinit vlivnější rozhodnutí než jakýkoli člověk, jak je vidět dnes. AIs již rozhodují o tom, zda dostaneme půjčky, pracovní nabídky, přijetí na vysokou školu a dokonce i lékařské diagnózy.
Představte si AI bankéře, kteří určují způsobilost pro úvěr, AI soudce rozhodující o soudních případech nebo vojenské AI vypočítávající cíle útoků. AI nepotřebuje robotické povstání. Byrokratická moc, kterou zdědila, je již obrovská.
AI v sociálních médiích a veřejném vlivu
Algoritmy sociálních médií, i když primitivní, již wieldují obrovskou moc. Algoritmy AI, zejména ty z Facebooku, X (dříve Twitteru), YouTube a TikTok, jsou vytvořeny s jedním cílem: angažovaností uživatelů. Čím déle lidé zůstávají na těchto platformách, tím více peněz teče do korporací.
Prostřednictvím pokusů a omylů s miliardami uživatelů tyto algoritmy zjistily, že vyvolávání emocí jako chamtivost, hněv a strach zvyšuje angažovanost. Když stisknou tyto emocionální tlačítka, udržují uživatele přilepené.
Tyto algoritmy se nezastavily jen u optimalizace času stráveného online. Šly dál a zjistily, že obsah vyvolávající silné emoce zvyšuje angažovanost uživatelů. Tento objev vedl k šíření konspiračních teorií, dezinformací a sociálních rozdělení.
Dnešní svět je zaplaven digitálním rozhořčením, šířením strachu a polarizací, díky algoritmům, které upřednostňují kliknutí před soudržností. Využitím emocionálních podnětů algoritmy sociálních médií podněcovaly dnešní epidemii konspiračních teorií a falešných zpráv.
Tyto algoritmické "rozhodovače" nejsou inherentně zlé. Naopak, jsou optimalizovány k efektivnímu plnění svých rolí. Přesto však jejich rozhodnutí postrádají lidskou intuici nebo kontext, který obvykle očekáváme v tak důležitých oblastech.
AI může činit rychlejší nebo konzistentnější soudy, ale pokud se něco pokazí, výsledky mohou být katastrofální. Tento potenciální riziko se již stalo viditelným ve vlivu sociálních médií na společnost a slouží jako varování, kam by neomezená moc AI mohla vést.
Biden stanovuje pravidla AI pro ministerstvo obrany a zpravodajské agentury
Prezident Joe Biden oznámil memorandum o národní bezpečnosti s novými pravidly pro používání AI v národní bezpečnosti, které zabraňují ministerstvu obrany a zpravodajským agenturám používat AI způsoby, které jsou v rozporu s demokratickými hodnotami.
To je první směrnice, která řídí roli AI v národní bezpečnosti. Nová pravidla podpoří experimentování s AI a zároveň zajistí, aby vládní orgány nepoužívaly AI k porušování práv, jako je svoboda projevu, nebo k podkopávání kontrol nad jadernými zbraněmi.
"Naše memorandum stanovuje vůbec první rámec pro řízení rizik AI v celém vládním aparátu," řekl poradce pro národní bezpečnost Jake Sullivan. Vymezil cíle, aby se předešlo zaujatosti, dodržovala odpovědnost a zajistilo se, že lidský dohled nad AI v citlivých rolích bude zachován.
I když nejsou právně závazná, pravidla pokrývají aplikace národní bezpečnosti jako kybernetickou bezpečnost, protišpionáž a logistiku v vojenských operacích. Biden také loni vydal vývozní kontroly, které zpomalily pokrok Číny v oblasti AI omezením přístupu k technologiím.
Podle směrnice bude AI Safety Institute ve Washingtonu odpovědný za inspekci AI nástrojů, aby se předešlo zneužití před jejich uvolněním, přičemž americká zpravodajská komunita upřednostní sledování pokroku AI v jiných zemích.