Yu Xian, zakladatel Slowmist, firmy zabývající se bezpečností blockchainu, upozornil na vznikající nebezpečí otravy kódem AI. Taktika, která zahrnuje vkládání škodlivého kódu do tréninkových dat modelů AI, ohrožuje uživatele, kteří se spoléhají na tyto nástroje k technickým účelům. Problém se objevil po incidentu s ChatGPT od OpenAI, kdy uživatel přišel o 2 500 $ v digitálních aktivech kvůli podvodnému doporučení API. I přes podezření se zdá, že otrava nebyla úmyslná, ale byla to selhání v detekci podvodných odkazů ve výsledcích vyhledávání. Registrace domény podvodného API dva měsíce předtím naznačuje předem promyšlené jednání. Scam Sniffer také poznamenal, jak podvodníci manipulují s tréninkovými daty AI, aby generovali podvodné výstupy. S rostoucím využitím nástrojů AI, jako je ChatGPT, čelí uživatelé zvýšeným rizikům. Xian varuje před skutečnou hrozbou, kterou představuje otrava AI, a vyzývá k silnějším obranám, aby se předešlo dalším finančním ztrátám a udržela se důvěra v technologie řízené AI. Přečtěte si více zpráv generovaných AI na: https://app.chaingpt.org/news

#AI