За даними ShibDaily, Google попередив про дедалі складніші шахрайства, керовані штучним інтелектом, включаючи глибоке підроблення, шахрайство з інвестиціями в криптовалюту та оманливі клони додатків. Команда компанії Trust & Safety висвітлила ці тенденції в новому консультуванні щодо онлайн-шахрайства, наголошуючи на тому, як шахраї використовують нові технології та великі події, щоб обманювати користувачів у всьому світі.
Серед основних загроз, визначених Google, є зловживання технологією deepfake на основі ШІ для видавання себе за публічних осіб. Ці видавання себе за іншу особу використовували для просування шахрайських схем, як-от підроблені інвестиційні можливості та роздача подарунків. У відповідь на це Google оновив свою політику, щоб боротися з шахрайством, створеним за допомогою глибоких фейків, на своїх платформах, включаючи рекламу та YouTube. Крім того, спостерігається сплеск шахрайства з криптовалютними інвестиціями, які використовують гіперреалістичні візуальні ефекти, щоб обіцяти високі прибутки з мінімальним ризиком. Ці схеми часто організовуються організованими злочинними структурами, які діють за кордоном, ускладнюючи зусилля правоохоронних органів. Google радить користувачам скептично ставитися до інвестицій, які здаються занадто гарними, щоб бути правдою.
Інша загроза, яка зростає, пов’язана з клонами додатків і цільових сторінок, які імітують надійні бренди, щоб викрасти особисту інформацію або розповсюдити зловмисне програмне забезпечення. Ця тенденція поширилася на портали для входу співробітників, наражаючи компанії на потенційні витоки даних і фінансові втрати. Шахраї також використовують методи маскування, щоб обійти системи модерації, спрямовуючи користувачів на сторінки з контрафактними продуктами або на сайти страшного ПЗ. Ці шахрайства часто використовують значні події, від виборів до стихійних лих, щоб створити відчуття терміновості та достовірності.
Для боротьби з цими загрозами Google запровадив політику, спрямовану на введення в оману, фішинг і маскування. Компанія також розробила такі інструменти, як SynthID, щоб створити водяні знаки для контенту, створеного штучним інтелектом, і такі функції, як «Про цей результат», щоб допомогти користувачам перевірити автентичність результатів пошуку. Крім того, політика Google щодо конфіденційних подій спрямована на припинення шахрайства, яке використовує гуманітарні кризи, популярні шоу та великі глобальні події. Зростання кількості шахрайств підкреслює розвиток загроз, спричинених технологічним прогресом. Google наголошує на важливості пильності користувачів, закликаючи окремих осіб і компанії ретельно перевіряти URL-адреси, бути обережними щодо небажаних пропозицій і використовувати функції покращеного захисту в Chrome. Оскільки шахраї продовжують адаптувати свої методи, обізнаність громадськості та співпраця з технологічними платформами залишаються важливими для вирішення цих проблем.