Chatbot-urile de pe piața neagră au devenit una dintre cele mai recente tendințe apărute în sectorul AI și prosperă pe măsură ce modelele de limbaj mari (LLM) rău intenționate câștigă bani pentru creatorii lor.
Un studiu american a constatat că există o piață neagră înfloritoare a inteligenței artificiale în care LLM-urile neînregistrate fac o criză vânzându-și serviciile în subteran. Companiile înregistrate și orientate către public, cum ar fi OpenAI, Perplexity și alte corporații mari care oferă aceleași servicii, au prescripții de reglementare pe care le respectă.
LLM-urile subterane pot evita antivirusurile
Studiul, care s-a concentrat în principal pe Malla, un ecosistem care prosperă pe baza unor LLM-uri legale și a platformelor AI pentru profit, a analizat 212 LLM-uri de pe piața neagră listate pe piețele subterane între aprilie și octombrie 2023, evaluându-le atributele.
Unul dintre autori, Zilong Lin de la Universitatea Indiana, a spus:
„Am descoperit că majoritatea serviciilor mala de pe forumurile subterane există în principal pentru a obține profit.”
Studiul a mai constatat că unele platforme câștigă până la 28.000 USD în două luni din abonamente și achiziții de la oameni care doresc să scape de limitele AI reglementate.
Unele, cum ar fi DarkGPT și EscapeGPT, sunt doar derivate de jailbreak ale LLM-urilor licențiate corespunzător, care sunt utilizate în mod legal.
Un studiu separat a arătat, de asemenea, că aceste LLM-uri ilicite pot fi folosite pentru multe sarcini, cum ar fi crearea de e-mailuri de phishing. De exemplu, DarkGPT și EscapeGPT ar putea crea coduri corecte aproape 75% din timp, dar antivirusurile nu au putut alege aceste coduri.
Un alt model cunoscut sub numele de WolfGPT a fost văzut ca o „centrală” pentru crearea de e-mailuri de phishing și evitarea detectoarelor de spam.
Potrivit lui Andrew Hundt, expert în inovare în calcul la Universitatea Carnegie Mello, piața subterană de AI în plină expansiune ar trebui să fie un motiv de îngrijorare.
El a cerut o cerință legală care obligă companiile care dezvoltă LLM-uri să aibă sisteme robuste care împiedică replicarea de către persoane cu motive sinistre.
„Avem nevoie, de asemenea, de cadre legale pentru a ne asigura că companiile care creează aceste modele și furnizează servicii fac acest lucru în mod mai responsabil, într-un mod care atenuează riscurile prezentate de actorii rău intenționați”, a spus Hundt.
Înțelegerea modului în care funcționează chatbot-urile de pe piața neagră este esențială
Profesorul Xiaofeng Wang de la Universitatea Indiana, care a făcut parte din studiu, a spus că este important să înțelegem cum funcționează aceste LLM-uri pe piața neagră, astfel încât soluțiile să fie specifice problemelor identificate.
Profesorul Wang a adăugat că manipularea acestor LLM-uri nu poate fi evitată, ceea ce creează spațiu pentru ca sectorul să creeze balustrade puternice pentru a minimiza potențialele daune executate prin atacuri cibernetice sub toate formele sale.
„Credem că acum este o etapă bună pentru a începe să le studiem pentru că nu vrem să așteptăm până când marele rău a fost deja făcut.”
Profesorul Wang.
Potrivit profesorului, fiecare tehnologie, inclusiv LLM, vine în două moduri: partea bună și partea rea.
Experții în securitate cibernetică solicită deja industriei AI să încetinească cursa și să reflecte asupra pericolelor tot mai mari ale tehnologiei lor să fie alterată de comunitățile anonime de internet.
Un articol Forbes publicat la sfârșitul anului trecut spunea că ar trebui să existe o introducere responsabilă a ideilor noi, în special în ceea ce privește studiile LLM. De asemenea, a subliniat rolul reglementării în promovarea inovațiilor responsabile în domeniul inteligenței artificiale, spre deosebire de concepția greșită că reglementarea înăbușează dezvoltarea.
„Dezvoltatorii și furnizorii de LLM-uri trebuie să întrerupă o cursă frenetică a înarmărilor care urmărește să producă modele din ce în ce mai complexe și ar trebui, în schimb, să colaboreze cu autoritățile de reglementare pentru adoptarea cadrelor pentru proiectarea etică și utilizarea aplicațiilor AI generative”, se citește o parte a raportului. .
Acum, cu lacune de reglementare, piața neagră a inteligenței artificiale este, de asemenea, în creștere rapidă într-o industrie de milioane de dolari și ar putea avea nevoie de resurse extinse pentru a le controla, potrivit Fast Company.