Vývojáři malwaru nyní používají generativní umělou inteligenci k urychlení procesu psaní kódu, zrychlení počtu útoků a v podstatě umožňují každému technicky zdatnému vyvíjet malware.
V zářijové zprávě týmu Wolf Security společnosti HP společnost HP podrobně popsala, jak objevila variaci trojana asynchronního vzdáleného přístupu (AsyncRAT) – typ softwaru, který lze použít ke vzdálenému ovládání počítače oběti – při vyšetřování podezřelého e-mailu odeslaného na klienta.
Avšak zatímco samotný AsyncRAT byl vyvinut lidmi, tato nová verze obsahovala injekční metodu, která se zdála být vyvinuta pomocí generativní umělé inteligence.
V minulosti výzkumníci objevili generativní AI „phishingové návnady“ nebo podvodné webové stránky používané k lákání obětí a jejich podvádění. Ale podle zprávy „existují omezené důkazy o tom, že útočníci používají tuto technologii k psaní škodlivého kódu ve volné přírodě“ před tímto objevem.
Program měl několik charakteristik, které poskytly silný důkaz, že byl vyvinut programem AI. Za prvé, téměř každá funkce v něm byla doprovázena komentářem vysvětlujícím, co dělá.
Kyberzločinci málokdy věnují takovou péči poskytování poznámek čtenářům, protože obecně nechtějí, aby veřejnost pochopila, jak jejich kód funguje. Výzkumníci také věřili, že struktura kódu a „volba názvů funkcí a proměnných“ poskytly silný důkaz, že kód byl vyvinut pomocí AI.
Výňatek kódu obsahující údajná prohlášení generovaná AI. Zdroj: HP Wolf Security
Tým poprvé objevil e-mail, když byl odeslán předplatiteli softwaru HP Sure Click pro zadržování hrozeb. Vystupoval jako faktura psaná ve francouzštině, což naznačovalo, že se pravděpodobně jedná o škodlivý soubor zaměřený na francouzsky mluvící osoby.
Zpočátku však nemohli určit, co soubor dělal, protože příslušný kód byl uložen uvnitř skriptu, který bylo možné dešifrovat pouze pomocí hesla. Navzdory této překážce se nakonec výzkumníkům podařilo prolomit heslo a dešifrovat soubor, což odhalilo malware v něm skrytý.
Uvnitř souboru byl skript Visual Basic Script (VBScript), který zapsal proměnné do registru PC uživatele, nainstaloval soubor JavaScript do jednoho z adresářů uživatele a poté spustil soubor JavaScript. Tento druhý soubor načetl proměnnou z registru a vložil ji do procesu Powershell. Poté byly spuštěny další dva skripty, které způsobily instalaci malwaru AsyncRAT do zařízení.
Infekční řetězec vedoucí k AsynRAT. Zdroj: HP Wolf Security
Podle vývojáře softwaru pro kybernetickou bezpečnost Blackberry je AsyncRAT software vydaný prostřednictvím GitHubu v roce 2019. Jeho vývojáři tvrdí, že jde o „legitimní open-source nástroj pro vzdálenou správu“. Nicméně „je používán téměř výhradně aktéry kyberzločineckých hrozeb“.
Software umožňuje svým uživatelům „ovládat infikované hostitele na dálku“ tím, že jim poskytuje uživatelské rozhraní, které může provádět úkoly na počítači oběti. Protože umožňuje útočníkovi převzít kontrolu nad počítačem oběti, lze AsyncRAT použít ke krádeži soukromého klíče nebo počátečních slov uživatele kryptoměny, což může vést ke ztrátě finančních prostředků.
Ačkoli AsyncRAT sám o sobě není novinkou, tato konkrétní varianta používá novou metodu vkládání a výzkumníci v této metodě vkládání našli výmluvné známky kódu generovaného AI, což naznačuje, že tato nová technologie usnadňuje vývojářům malwaru provádět útoky. .
„Tato aktivita ukazuje, jak GenAI [generativní AI] urychluje útoky a snižuje laťku pro kyberzločince infikovat koncové body,“ uvádí zpráva HP.
Výzkumníci v oblasti kybernetické bezpečnosti se stále potýkají s účinky pokroku AI na bezpečnost. V prosinci někteří uživatelé ChatGPT zjistili, že by mohl být použit k odhalení zranitelností v chytrých kontraktech.
Jak v té době mnozí v kryptokomunitě poznamenali, mohlo by to z programu AI udělat užitečný nástroj pro hackery s bílým kloboukem, ale také by to mohlo umožnit černým kloboukům najít zranitelná místa, která by mohli zneužít.
V květnu 2023 vydalo bezpečnostní oddělení Meta zprávu s varováním, že někteří provozovatelé malwaru vytvářejí falešné verze oblíbených generativních programů umělé inteligence a používají je jako návnady k přilákání obětí.
Časopis: Pokročilý systém umělé inteligence si již „uvědomuje sám sebe“ – zakladatel ASI Alliance