Schwarzmarkt-Chatbots sind zu einem der neuesten Trends in der KI-Branche geworden und erfreuen sich großer Beliebtheit, da bösartige Large Language Models (LLMs) ihren Entwicklern Geld einbringen.

Eine amerikanische Studie hat ergeben, dass es einen florierenden KI-Schwarzmarkt gibt, auf dem nicht registrierte LLMs ein Vermögen damit verdienen, ihre Dienste im Untergrund zu verkaufen. Registrierte und öffentlich zugängliche Unternehmen wie OpenAI, Perplexity und andere große Unternehmen, die dieselben Dienste anbieten, unterliegen regulatorischen Vorschriften, denen sie folgen müssen.

Die unterirdischen LLMs können Antivirenprogramme umgehen

Die Studie konzentrierte sich hauptsächlich auf Malla, ein Ökosystem, das davon lebt, juristische LLMs und KI-Plattformen aus Profitgründen zu verfälschen. Die Studie untersuchte 212 Schwarzmarkt-LLMs, die zwischen April und Oktober 2023 auf Untergrundmarktplätzen gelistet waren, und bewertete ihre Eigenschaften.

Einer der Autoren, Zilong Lin von der Indiana University, sagte:

„Wir haben festgestellt, dass die meisten Mala-Dienste in Untergrundforen hauptsächlich zum Zwecke der Gewinnerzielung existieren.“

Die Studie ergab außerdem, dass einige Plattformen in zwei Monaten bis zu 28.000 Dollar mit Abonnements und Käufen von Menschen verdienen, die den Zwängen der regulierten KI entkommen möchten.

Einige, wie DarkGPT und EscapeGPT, sind lediglich Jailbreak-Derivate ordnungsgemäß lizenzierter LLMs, die legal verwendet werden.

Eine separate Studie hat auch gezeigt, dass diese illegalen LLMs für viele Aufgaben verwendet werden können, beispielsweise zum Erstellen von Phishing-E-Mails. Beispielsweise konnten DarkGPT und EscapeGPT in fast 75 % der Fälle korrekte Codes erstellen, aber Antivirenprogramme konnten diese Codes nicht erkennen.

Ein anderes Modell namens WolfGPT wurde als „Kraftpaket“ zum Erstellen von Phishing-E-Mails und Umgehen von Spam-Detektoren angesehen.

Laut Andrew Hundt, einem Experten für Computerinnovationen an der Carnegie Mello University, besteht Grund zur Sorge angesichts des boomenden Untergrundmarktes für KI.

Er forderte eine gesetzliche Vorschrift, die Unternehmen, die LLMs entwickeln, dazu verpflichtet, über robuste Systeme zu verfügen, die eine Nachahmung durch Personen mit finsteren Motiven verhindern.

„Wir brauchen auch rechtliche Rahmenbedingungen, um sicherzustellen, dass Unternehmen, die diese Modelle erstellen und Dienste bereitstellen, dies verantwortungsvoller tun und so die Risiken durch böswillige Akteure mindern“, sagte Hundt.

Der Schlüssel liegt darin, zu verstehen, wie Chatbots auf dem Schwarzmarkt funktionieren

Professor Xiaofeng Wang von der Indiana University, der an der Studie mitwirkte, meinte, es sei wichtig zu verstehen, wie diese Schwarzmarkt-LLMs funktionierten, um gezielt Lösungen für die identifizierten Probleme finden zu können.

Professor Wang fügte hinzu, dass die Manipulation dieser LLMs nicht vermieden werden könne, was dem Sektor Spielraum biete, strenge Schutzmaßnahmen zu ergreifen, um den potenziellen Schaden durch Cyberangriffe aller Art zu minimieren.

„Wir glauben, dass jetzt ein guter Zeitpunkt ist, mit der Untersuchung dieser Faktoren zu beginnen, da wir nicht warten möchten, bis der große Schaden bereits angerichtet ist.“

Professor Wang.

Laut dem Professor hat jede Technologie, auch LLMs, zwei Seiten: die guten und die schlechten.

Experten für Cybersicherheit fordern die KI-Industrie bereits dazu auf, ihr Wettrennen zu drosseln und sich über die wachsende Gefahr einer Verfälschung ihrer Technologie durch anonyme Internet-Communitys Gedanken zu machen.

In einem Ende letzten Jahres veröffentlichten Forbes-Artikel hieß es, neue Ideen sollten verantwortungsvoll eingeführt werden, insbesondere im Bereich der LLMs. Außerdem wurde die Rolle der Regulierung bei der Förderung verantwortungsvoller KI-Innovationen betont, im Gegensatz zu dem Missverständnis, dass Regulierung die Entwicklung behindert.

„Entwickler und Anbieter von LLMs müssen in ihrem hektischen Wettrüsten, das darauf abzielt, immer komplexere Modelle zu produzieren, eine Pause einlegen und sollten stattdessen mit den Regulierungsbehörden an der Annahme von Rahmenbedingungen für die ethische Gestaltung und Nutzung generativer KI-Anwendungen zusammenarbeiten“, heißt es in dem Bericht.

Aufgrund von Gesetzeslücken wächst der KI-Schwarzmarkt inzwischen rasch zu einer Multimillionen-Dollar-Industrie heran, und um ihn unter Kontrolle zu bringen, sind laut Fast Company möglicherweise umfangreiche Ressourcen erforderlich.