Według serwisu Cointelegraph oszuści kryptowalutowi wykorzystujący filmy deepfake oparte na sztucznej inteligencji stali się coraz bardziej aktywni w drugim kwartale 2024 r., o czym poinformowała firma programistyczna Gen Digital, spółka dominująca firm zajmujących się oprogramowaniem antywirusowym Norton, Avast i Avira.

W kwartalnym raporcie Gen Digital firma podkreśliła, że ​​śledziła grupę o nazwie „CryptoCore”, która wykorzystywała oparte na sztucznej inteligencji oszustwa deepfake do oszukiwania posiadaczy kryptowalut. Grupa zachwala fałszywe inwestycje w kryptowaluty i wykorzystuje oficjalne filmy znanych osób, takich jak Elon Musk, Michael Saylor, Vitalik Buterin i Larry Fink. Zastępuje dźwięk głosami generowanymi przez sztuczną inteligencję lub miksuje nieoficjalny materiał z oficjalnym materiałem filmowym, aby przeprowadzać swoje oszustwa.

Gen Digital powiedział, że organizacja przestępcza rozpowszechnia swoje filmy na platformach mediów społecznościowych, takich jak YouTube, X i TikTok. Oszuści wykorzystują również zhakowane konta w mediach społecznościowych z dużą liczbą obserwujących, zanim wyświetlą transmisje na żywo promujące ich oszustwa. Dyrektor ds. technologii Gen Digital, Siggi Stefnisson, wspomniał, że cyberprzestępcy rozszerzają swoje zestawy narzędzi o różne zastosowania sztucznej inteligencji w celu wzmocnienia ataków. Stefnisson podkreślił, że oszuści są biegli w wykorzystywaniu tego, co najprawdopodobniej już jest w myślach ich ofiary, w tym wyborów, miłości lub bezpieczeństwa finansowego. Apelował do konsumentów, aby byli poinformowani i czujni.

Firma poinformowała również, że grupa AI deepfake, którą nazwali CryptoCore, zarobiła już miliony na swoich atakach. W ostatnim kwartale Gen Digital poinformowało, że w wyniku tego wektora ataku stracono 5 milionów dolarów w kryptowalutach. Podczas zintegrowanego testu lotu SpaceX w czerwcu Gen Digital oszacowało, że przejęto 50 kont YouTube. Ten cyberatak doprowadził do 500 nieautoryzowanych transakcji, co doprowadziło do kradzieży 1,4 miliona dolarów.

W sierpniu firma zajmująca się oprogramowaniem antywirusowym Avast również przeprowadziła dogłębną analizę CryptoCore i dowiedziała się, że najczęściej wykorzystywane tematy wykorzystujące deepfake'i oparte na sztucznej inteligencji do przeprowadzania oszustw obejmowały SpaceX, MicroStrategy, Ripple, Tesla, BlackRock i Cardano. Firma zauważyła, że ​​oszuści mogą teraz wykonywać wysokiej jakości synchronizację ruchu warg, co może wprowadzić widzów w błąd, sugerując, że oglądają oficjalne promocje wybitnych osób.