Chatboti na černém trhu se stali jedním z nejnovějších trendů objevujících se v sektoru AI a prosperují, protože škodlivé velké jazykové modely (LLM) vydělávají peníze pro své tvůrce.

Americká studie zjistila, že existuje prosperující černý trh s umělou inteligencí, kde neregistrovaní LLM zabíjejí prodejem svých služeb pod zemí. Registrované a veřejně přístupné společnosti jako OpenAI, Perplexity a další velké korporace nabízející stejné služby mají regulační předpisy, kterými se řídí.

Podzemní LLM se mohou antivirům vyhýbat

Studie, která se zaměřila hlavně na Malla, ekosystém, který prosperuje z bastardizace legálních LLM a platforem AI za účelem zisku, prozkoumala 212 LLM na černém trhu kotovaných na podzemních tržištích mezi dubnem a říjnem 2023 a posoudila jejich atributy.

Jeden z autorů, Zilong Lin z Indiana University, řekl:

"Zjistili jsme, že většina mala služeb na podzemních fórech existuje hlavně proto, aby vydělali."

Studie také zjistila, že některé platformy vydělávají až 28 000 dolarů za dva měsíce z předplatného a nákupů od lidí, kteří chtějí uniknout z mezí regulované umělé inteligence.

Některé, jako DarkGPT a EscapeGPT, jsou jen deriváty útěk z vězení řádně licencovaných LLM, které se používají legálně.

Samostatná studie také ukázala, že tyto nezákonné LLM lze použít pro mnoho úkolů, jako je vytváření phishingových e-mailů. Například DarkGPT a EscapeGPT dokázaly vytvořit správné kódy téměř 75% času, ale antiviry nemohly tyto kódy vybrat.

Další model známý jako WolfGPT byl považován za „elektrárnu“ pro vytváření phishingových e-mailů a vyhýbaní se detektorům spamu.

Podle Andrewa Hundta, odborníka na počítačové inovace z Carnegie Mello University, by měl být vzkvétající podzemní trh s umělou inteligencí důvodem k obavám.

Vyzval k právnímu požadavku, který by společnosti vyvíjející LLM přinutil mít robustní systémy, které zabrání replikaci lidmi se zlověstnými motivy.

„Potřebujeme také právní rámce, abychom zajistili, že společnosti, které vytvářejí tyto modely a poskytují služby, tak činí zodpovědněji způsobem, který zmírňuje rizika, která představují zákeřní aktéři,“ řekl Hundt.

Pochopení toho, jak fungují chatboti na černém trhu, je klíčové

Profesor Xiaofeng Wang z Indiana University, který byl součástí studie, řekl, že je důležité pochopit, jak tyto LLM na černém trhu fungují, aby řešení byla specifická pro identifikované problémy.

Profesor Wang dodal, že manipulaci s těmito LLM se nelze vyhnout, což vytváří prostor pro to, aby sektor přišel se silnými mantinely, aby se minimalizovalo potenciální poškození způsobené kybernetickými útoky ve všech jeho podobách.

"Věříme, že nyní je vhodná fáze začít je studovat, protože nechceme čekat, až bude velká škoda již způsobena."

Profesor Wang.

Podle profesora každá technologie, včetně LLM, přichází dvěma způsoby: dobrou a špatnou stranou.

Odborníci na kybernetickou bezpečnost již vyzývají průmysl AI, aby zpomalil ve svém závodě a zamyslel se nad rostoucím nebezpečím falšování jejich technologií anonymními internetovými komunitami.

Článek Forbes zveřejněný koncem loňského roku uvedl, že by mělo dojít k zodpovědnému zavádění nových nápadů, zejména v oblasti LLM. Zdůraznil také roli regulace při podpoře odpovědných inovací AI na rozdíl od mylné představy, že regulace brzdí rozvoj.

„Vývojáři a poskytovatelé LLM se musí zastavit ve zběsilých závodech ve zbrojení, jejichž cílem je chrlit stále složitější modely, a místo toho by měli spolupracovat s regulátory na přijímání rámců pro etický návrh a používání generativních aplikací AI,“ uvádí část zprávy. .

Nyní, s regulačními mezerami, se černý trh s umělou inteligencí také rychle rozrůstá do mnohamilionového odvětví a podle Fast Company může potřebovat rozsáhlé zdroje, aby jej zadržel.