#BOT #GPT #AI模型

Ce înseamnă o surpriză plăcută, asta este:

Un utilizator de pe x a declarat că, în timp ce folosea ChatGPT pentru a genera cod pentru a dezvolta un robot de tranzacționare automat pe blockchain, codul recomandat de GPT conținea o ușă din spate care trimitea cheia privată către un site de phishing, provocând o pierdere de aproximativ 2500 de dolari.

Fondatorul SlowMist, Yu Xian, a confirmat printr-o postare că există într-adevăr cazuri în care codul generat de AI a fost folosit pentru a fi atacat. Acest tip de atacuri ar putea proveni din modelele malițioase învățate de AI din postările de phishing sau din conținutul nesigur, iar modelele AI actuale au dificultăți în a distinge dacă există o ușă din spate în cod, fiind necesar să evităm încrederea orbească în codul generat de AI.