Podle ShibDaily vydal Google varování před rostoucí propracovaností podvodů řízených umělou inteligencí, včetně hluboce falešných předstírání identity, investičních podvodů v kryptoměnách a klamných klonů aplikací. Tým společnosti Trust & Safety zdůraznil tyto trendy v novém poradenství o online podvodech a zdůraznil, jak podvodníci využívají nové technologie a významné události k klamání uživatelů po celém světě.
Mezi primární hrozby identifikované společností Google patří zneužití technologie deepfake poháněné umělou inteligencí k předstírání identity veřejných osob. Tyto předstírání identity byly použity k propagaci podvodných schémat, jako jsou falešné investiční příležitosti a dárky. Společnost Google v reakci na to aktualizovala své zásady, aby řešila podvody generované deepfake na svých platformách, včetně reklam a YouTube. Navíc došlo k prudkému nárůstu podvodů v oblasti kryptoinvestic, které využívají hyperrealistické vizuální prvky ke slibování vysokých výnosů s minimálním rizikem. Tyto programy jsou často organizovány subjekty organizovaného zločinu působícími přes hranice, což komplikuje úsilí o vymáhání práva. Google doporučuje uživatelům, aby zůstali skeptičtí k investicím, které se zdají být příliš dobré, než aby to byla pravda.
Další rostoucí hrozbou jsou klony aplikací a vstupních stránek, které napodobují důvěryhodné značky za účelem krádeže osobních údajů nebo šíření malwaru. Tento trend se rozšířil i na portály pro přihlášení zaměstnanců a vystavil podniky potenciálním únikům dat a finančním ztrátám. Podvodníci také používají maskovací techniky, aby obcházeli systémy moderování, což vede uživatele k padělaným stránkám produktů nebo stránkám se strašením. Tyto podvody často využívají významné události, od voleb po přírodní katastrofy, k vytvoření pocitu naléhavosti a důvěryhodnosti.
V boji proti těmto hrozbám společnost Google zavedla zásady zaměřené na zkreslování, phishing a maskování. Společnost také vyvinula nástroje jako SynthID pro vodoznak obsahu generovaného umělou inteligencí a funkce jako „O tomto výsledku“, které uživatelům pomáhají ověřit pravost výsledků vyhledávání. Zásady společnosti Google týkající se citlivých událostí mají navíc za cíl omezit podvody, které využívají humanitární krize, populární pořady a významné celosvětové události. Nárůst podvodů podtrhuje vyvíjející se prostředí hrozeb poháněné technologickým pokrokem. Google zdůrazňuje důležitost ostražitosti uživatelů a vyzývá jednotlivce a firmy, aby znovu zkontrolovali adresy URL, zůstali opatrní ohledně nevyžádaných nabídek a používali funkce vylepšené ochrany v prohlížeči Chrome. Vzhledem k tomu, že podvodníci stále přizpůsobují své metody, je pro řešení těchto problémů zásadní informovanost veřejnosti a spolupráce s technologickými platformami.