一名網友分享他利用大型語言模型 ChatGPT 所發生的慘劇。@r_cky0 表示，一開始他是利用 ChatGPT 來協助編寫 bump bot，不過，在 ChatGPT 提供他的代碼建議中，暗藏著一個釣魚網站。@r_cky0 利用這個網站的 API 後，發現他加密錢包中的錢全部都被轉走，損失了 2500 美元。事後調查發現，是該 API 的代碼中，會將其私鑰傳給釣魚網站，@r_cky0 也開始對於 ChatGPT 的可信度大打折扣。
資安公司慢霧創辦人余弦評論：「玩 GPT/Claude 等 LLM 時，一定要注意，這些 LLM 存在普遍性欺騙行為。之前提過 AI 投毒攻擊，現在這起算是針對 Crypto 行業的真實攻擊案例了。」
ChatGPT 在網路上搜尋資料，分析整理後提供給用戶，目前仍難以做到事實查核、安全審計等，若有心人士刻意吸引 AI 資料庫，並在其中藏匿有害資訊，在 AI 更為普及後，將可能帶來風險。
這篇文章 AI 對加密產業發出攻擊！ChatGPT 代碼暗藏陷阱，寫迷因 Bot 反被釣魚 最早出現於 鏈新聞 ABMedia。
