TLDR

  • Штучний інтелект використовується для покращення різних типів шахрайства, включаючи клонування голосу, персоналізований фішинг, шахрайство з особистими даними та глибокий фейковий шантаж

  • Морган Фрімен виступив проти несанкціонованого штучного інтелекту імітації його голосу

  • Такі знаменитості, як Скарлетт Йоханссон і Дрейк, зіткнулися з проблемами, пов’язаними з імітацією їхніх голосів контентом, створеним штучним інтелектом.

  • В індустрії розваг зростає занепокоєння щодо зловживання технологією ШІ

  • Експерти рекомендують найкращі методи пильності та кібербезпеки для захисту від шахрайства на основі ШІ

У міру розвитку технології штучного інтелекту (ШІ) шахраї знаходять нові способи використовувати її в зловмисних цілях.

Від клонування голосу до глибокого фейкового шантажу, шахрайство на основі ШІ стає все більш витонченим і його важче виявити.

У той же час знаменитості виступають проти несанкціонованого використання їхніх голосів і образів у створеному ШІ контенті.

Одне з найбільш тривожних шахрайств зі штучним інтелектом передбачає клонування голосу рідних і друзів. Тепер шахраї можуть створювати переконливі підроблені версії голосів близьких, використовуючи лише кілька секунд аудіо.

Ці синтетичні голоси можна використовувати для створення фальшивих сигналів лиха з проханням про гроші чи допомогу. Експерти радять остерігатися будь-яких несподіваних дзвінків з невідомих номерів і перевіряти особу абонента за допомогою звичайних каналів зв'язку.

Персоналізовані фішингові та спамові електронні листи є ще однією зростаючою загрозою. Мовні моделі AI тепер можуть генерувати налаштовані спам-повідомлення, використовуючи особисту інформацію, отриману в результаті витоку даних.

Ці індивідуальні повідомлення набагато переконливіші, ніж традиційний загальний спам. Користувачам рекомендується залишатися пильними та не переходити за посиланнями та не відкривати вкладення з підозрілих джерел, навіть якщо повідомлення здається персоналізованим.

Шахрайство з ідентифікацією також стає все більш витонченим завдяки ШІ. Тепер шахраї можуть створювати AI персонажів, які звучать як цільова особа, і мають доступ до багатьох особистих фактів, які використовуються для підтвердження особи.

Завдяки цьому їм легше видавати себе за інших під час звернення до служби підтримки клієнтів. Експерти рекомендують використовувати багатофакторну автентифікацію та бути обережними щодо будь-якої підозрілої активності в обліковому записі.

Мабуть, найбільш тривожною подією є використання глибоких фейків, згенерованих ШІ, для шантажу.

Удосконалені моделі генерації зображень тепер можуть створювати реалістичні фальшиві зображення оголених майже будь-кого, які шахраї можуть використовувати як важіль для вимагання. Хоча це тривожна тенденція, експерти відзначають, що ці підроблені зображення часто не мають розпізнавальних знаків і можуть мати очевидні недоліки. Потерпілим радять повідомляти про такі випадки владі.

Індустрія розваг особливо постраждала від несанкціонованих імітацій ШІ.

Нещодавно актор Морган Фріман виступив проти штучного інтелекту, який імітує його голос у соціальних мережах. У своїй заяві Фрімен подякував своїм шанувальникам за їх «пильність і підтримку у викритті несанкціонованого використання ШІ. голос, що наслідує мене». Він підкреслив важливість збереження «автентичності та цілісності» перед лицем такої технології.

Дякую моїм неймовірним шанувальникам за вашу пильність і підтримку у викритті несанкціонованого використання штучного інтелекту. голос, що наслідує мене. Ваша відданість допомагає автентичності та цілісності залишатися першочерговими. Вдячний.#AI#шахрайство #імітація #Захист особистості

— Морган Фріман (@morgan_freeman) 28 червня 2024 р

Фрімен не самотній у своїх занепокоєннях. Інші знаменитості стикалися з подібними проблемами з контентом, створеним штучним інтелектом.

Команда юристів Скарлетт Йоханссон нещодавно оскаржила OpenAI через персонального голосового помічника зі штучним інтелектом, який звучав надзвичайно схоже на її голос, незважаючи на її відмову брати участь у проекті.

Репер Дрейк також зіткнувся з суперечками через використання згенерованих штучним інтелектом імітацій Тупака Шакура та Снуп Догга в пісні, що призвело до наказу про припинення та утримання від маєтку Шакура.

Повідомлення Морган Фрімен і знаменитості виступають проти несанкціонованих імітацій ШІ вперше з’явилося на Blockonomi.