Зростаюча загроза отруєння коду ШІ у безпеці блокчейн

Ю Сянь, засновник Slowmist, фірми з безпеки блокчейн, підкреслив зростаючу небезпеку отруєння коду ШІ. Ця злочинна тактика полягає у вставці шкідливого коду у навчальні дані моделей ШІ, ставлячи під загрозу користувачів, які покладаються на ці інструменти для технічних цілей. Проблема стала відома після інциденту з ChatGPT від OpenAI, коли користувач втратив 2500 доларів у цифрових активів через шахрайську рекомендацію API. Незважаючи на підозри, здається, що отруєння не було навмисним, а стало наслідком невдачі в виявленні шахрайських посилань у результатах пошуку. Реєстрація домену шахрайського API два місяці тому свідчить про попереднє обдумування. Scam Sniffer також зазначив, як шахраї маніпулюють навчальними даними ШІ для генерації шахрайських результатів. З ростом використання інструментів ШІ, таких як ChatGPT, користувачі стикаються з підвищеними ризиками. Сянь попереджає про реальну загрозу, яку становить отруєння ШІ, закликаючи до посилення оборони, щоб запобігти подальшим фінансовим втратам і зберегти довіру до технологій, що використовують ШІ. Читайте більше новин, створених ШІ, на: https://app.chaingpt.org/news