Автор: Azuma, Odaily зіркова щоденна газета
22 листопада вранці, засновник SlowMist Юань опублікував на своїй особистій X дивний випадок — гаманець одного користувача був "зламаний" AI...
Ось хронологія подій у цій справі.
22 листопада о 1:00 ночі, користувач r_ocky.eth розкрив, що раніше хотів скористатися ChatGPT для створення допоміжного торгового бота pump.fun.
r_ocky.eth висловив свої вимоги ChatGPT, і ChatGPT повернув йому фрагмент коду, який дійсно міг допомогти r_ocky.eth розгорнути бот, відповідний його потребам, але він зовсім не очікував, що в коді буде приховано фішинговий контент — r_ocky.eth підключив свій основний гаманець і втратив 2500 доларів.
Зі скріншоту, опублікованого r_ocky.eth, видно, що код, наданий ChatGPT, надсилає адресу приватного ключа на фішинговий API-сайт, що і стало прямою причиною крадіжки.
Коли r_ocky.eth потрапив у пастку, нападники швидко відреагували, за півгодини перемістивши всі активи з гаманця r_ocky.eth на іншу адресу (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX), після чого r_ocky.eth за допомогою трейсингу на блокчейні знайшов адресу, яка, ймовірно, належить основному гаманцю нападника (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC).
Блокчейн-інформація показує, що ця адреса зараз зібрала понад 100 тисяч доларів "крадених коштів", тому r_ocky.eth підозрює, що такі атаки можуть бути не поодинокими, а частиною більш масштабної атаки.
Після інциденту r_ocky.eth розчаровано заявив, що втратив довіру до OpenAI (компанії-розробника ChatGPT) і закликав OpenAI якнайшвидше зайнятися очищенням аномального фішингового контенту.
Отже, як найпопулярніший на сьогодні AI застосунок, чому ChatGPT може пропонувати фішинговий контент?
У цьому контексті, Юань визначив основну причину інциденту як "атака з отруєнням AI" і вказав на загальну наявність шахрайських дій в LLM, таких як ChatGPT та Claude.
Термін "атака з отруєнням AI" вказує на навмисне порушення навчальних даних AI або маніпулювання алгоритмами AI. Нападниками можуть бути як внутрішні особи, наприклад, незадоволені теперішні або колишні працівники, так і зовнішні хакери, чиї мотиви можуть включати завдання шкоди репутації та бренду, спотворення довіри до рішень AI, уповільнення або знищення процесів AI тощо. Нападники можуть вводити дані з оманливими мітками або характеристиками, спотворюючи процес навчання моделі, що призводить до помилок під час впровадження та роботи моделі.
Виходячи з даного інциденту, причина, чому ChatGPT надав r_ocky.eth фішинговий код, ймовірно, полягає в тому, що AI-модель "вбирала" дані, які містять фішинговий контент під час навчання, але AI, здається, не зміг ідентифікувати фішинговий контент, прихований під звичайними даними, і після навчання передав ці фішингові дані користувачу, що призвело до інциденту.
З швидким розвитком та загальним впровадженням AI загроза "атак з отруєнням" стає все більшою. У цьому випадку, хоча абсолютна сума збитків не є великою, такі ризики можуть мати значні наслідки — припустимо, це відбувається в інших сферах, таких як AI-підтримуване водіння...
Відповідаючи на запитання користувачів, Юань згадав про один потенційний захід для уникнення таких ризиків, а саме про додавання ChatGPT певного механізму перевірки коду.
Постраждалий r_ocky.eth також повідомив, що зв’язався з OpenAI щодо цього питання, хоча поки не отримав відповіді, сподіваючись, що цей випадок стане можливістю для OpenAI звернути увагу на такі ризики та запропонувати потенційні рішення.
(Усі вищезазначені матеріали отримані з дозволу партнера PANews для публікації та перепублікації, оригінальне посилання | Джерело: Odaily зіркова щоденна газета)
Заява: стаття відображає лише особисту точку зору автора і не відображає точки зору та позицію Blockchain, усі матеріали та думки призначені лише для довідки і не є інвестиційною порадою. Інвестори повинні приймати рішення та здійснювати торги самостійно, автор та Blockchain не несуть жодної відповідальності за прямі чи непрямі збитки, які виникають в результаті угод інвесторів.
"Використання AI для написання коду приховує 'пастки': користувач звертається до ChatGPT, і натомість стає жертвою фішингового 'викрадення криптовалюти'" ця стаття вперше була опублікована в (Blockchain).