#BOT #GPT #AI模型

Co znamená nečekané překvapení, tohle je:

Uživatel na x uvedl, že při používání ChatGPT k vygenerování kódu pro vývoj automatického obchodního robota na blockchainu, kód doporučený GPT obsahoval skrytá zadní vrátka, která posílala soukromý klíč na phishingovou stránku, což vedlo k ztrátě přibližně 2500 dolarů.

Zakladatel Slow Mist, Yu Xian, potvrdil v příspěvku, že skutečně existují případy, kdy byl kód generovaný AI zneužit. Tyto útoky mohou vycházet z toho, že AI se naučila z phishingových příspěvků nebo nebezpečného obsahu škodlivé vzory, a současné modely AI mají potíže rozlišit, zda kód obsahuje zadní vrátka, což vyžaduje vyvarovat se slepého důvěřování kódu generovanému AI.