Yu Xian, założyciel Slowmist, firmy zajmującej się bezpieczeństwem blockchain, podkreślił rosnące zagrożenie związane z zanieczyszczeniem kodu AI. Ta złośliwa taktyka polega na wprowadzaniu szkodliwego kodu do danych treningowych modeli AI, zagrażając użytkownikom, którzy polegają na tych narzędziach w celach technicznych. Problem ujawnił się po incydencie z ChatGPT OpenAI, gdzie użytkownik stracił 2,500 USD w aktywach cyfrowych z powodu oszukańczego zalecenia API. Pomimo podejrzeń, wydaje się, że zanieczyszczenie nie było intencjonalne, lecz wynikiem niezdolności do wykrycia oszukańczych linków w wynikach wyszukiwania. Rejestracja domeny oszukańczego API dwa miesiące wcześniej sugeruje premedytację. Scam Sniffer również zauważył, jak oszuści manipulują danymi treningowymi AI, aby generować oszukańcze wyniki. Wraz ze wzrastającym użyciem narzędzi AI, takich jak ChatGPT, użytkownicy stają w obliczu zwiększonego ryzyka. Xian ostrzega przed realnym zagrożeniem, jakie niesie za sobą zanieczyszczenie AI, wzywając do wzmocnienia obrony w celu zapobiegania dalszym stratom finansowym i utrzymania zaufania do technologii napędzanych przez AI. Przeczytaj więcej wiadomości generowanych przez AI na: https://app.chaingpt.org/news

#AI