Отравление кода ИИ является растущей угрозой, когда вредоносный код внедряется в данные обучения моделей ИИ, создавая риски для пользователей, которые полагаются на эти инструменты для технических задач. Недавний инцидент с ChatGPT от OpenAI подчеркивает эту проблему. Криптотрейдер потерял $2,500 в цифровых активах после того, как ChatGPT порекомендовал мошеннический сайт API Solana при создании бота для генератора мемекоина.
Зловредный API истощил активы жертвы за 30 минут. Основатель Slowmist отметил, что домен мошеннического API был зарегистрирован два месяца назад, что указывает на то, что атака была преднамеренной. Хотя ChatGPT может не нести прямую ответственность за мошенничество, этот инцидент показывает, как мошенники могут загрязнять данные обучения ИИ вредоносным кодом.
Поскольку инструменты ИИ, такие как ChatGPT, сталкиваются с растущими проблемами, пользователи должны быть осведомлены о рисках, связанных с большими языковыми моделями, и потенциальных финансовых потерях.
Источник
<p>Сообщение о нарушении безопасности блокчейна: предупреждения о отравлении кода ИИ для пользователей криптовалюты впервые появилось на CoinBuzzFeed.</p>
