Otrăvirea codului AI este o amenințare în creștere în care codul dăunător este injectat în datele de antrenament ale modelelor AI, punând riscuri pentru utilizatorii care se bazează pe aceste instrumente pentru sarcini tehnice. Un incident recent implicând ChatGPT de la OpenAI subliniază problema. Un trader de criptomonede a pierdut 2.500 de dolari în active digitale după ce ChatGPT a recomandat un site API fraudulos Solana în timp ce crea un bot pentru un generator de memecoin.
API-ul malițios a epuizat activele victimei în termen de 30 de minute. Fondatorul Slowmist a observat că domeniul API-ului fraudulos a fost înregistrat cu două luni în urmă, sugerând că atacul a fost premeditat. Deși ChatGPT s-ar putea să nu fie direct responsabil pentru escrocherie, acest incident arată cum escrocii pot polua datele de antrenament ale AI-ului cu cod dăunător.
Pe măsură ce instrumentele AI precum ChatGPT se confruntă cu provocări tot mai mari, utilizatorii trebuie să fie conștienți de riscurile asociate cu modelele mari de limbaj și de posibilele pierderi financiare.
Sursă
<p>Postarea Breșa de Securitate Blockchain: Alerta de Otrăvire a Codului AI pentru Utilizatorii de Criptomonede a apărut prima dată pe CoinBuzzFeed.</p>
