Menurut laporan PANews, pengguna Twitter @r_cky0 mengungkapkan bahwa saat menggunakan ChatGPT untuk menghasilkan kode dalam mengembangkan robot perdagangan otomatis blockchain, terdapat pintu belakang yang tersembunyi dalam kode tersebut, yang menyebabkan kerugian sekitar 2500 dolar.
Pendiri SlowFog, Yu Xian, mengonfirmasi bahwa memang ada kasus di mana kode yang dihasilkan oleh AI digunakan untuk 'serangan'. Para ahli menunjukkan bahwa jenis serangan ini mungkin berasal dari pola jahat yang dipelajari AI dari konten yang tidak aman.
Industri menyerukan pengguna untuk meningkatkan kewaspadaan, menghindari kepercayaan buta pada kode yang dihasilkan oleh AI, dan menyarankan agar platform AI di masa depan memperkuat mekanisme pemeriksaan konten, untuk mengidentifikasi dan memperingatkan potensi risiko keamanan.