Zwei US-Senatoren haben den CEO von Meta, Mark Zuckerberg, zu dem „durchgesickerten“ künstlichen Intelligenzmodell LLaMA des Technologiegiganten befragt. Ihrer Ansicht nach sei es potenziell „gefährlich“ und könne für „kriminelle Zwecke“ verwendet werden.

In einem Brief vom 6. Juni kritisierten die US-Senatoren Richard Blumenthal und Josh Hawley Zuckerbergs Entscheidung, LLaMA als Open Source freizugeben, und behaupteten, dass Metas „ungehemmte und freizügige“ Veröffentlichung des KI-Modells nur „scheinbar nur minimale“ Schutzmaßnahmen vorsieht.

 Die Senatoren erkannten zwar die Vorteile von Open-Source-Software an, kamen jedoch zu dem Schluss, dass Metas „Mangel an gründlicher öffentlicher Auseinandersetzung mit den Folgen seiner vorhersehbaren großen Verbreitung“ letztlich „einen Bärendienst für die Öffentlichkeit“ darstelle.

LLaMA wurde zunächst in begrenztem Umfang online für Forscher freigegeben, wurde dann aber Ende Februar von einem Benutzer der Imageboard-Site 4chan vollständig geleakt. Die Senatoren schrieben:

„Innerhalb weniger Tage nach der Ankündigung erschien das vollständige Modell auf BitTorrent und war damit für jedermann überall auf der Welt ohne Überwachung oder Kontrolle verfügbar.“

Blumenthal und Hawley gehen davon aus, dass LLaMA von Spammern und Cyberkriminellen problemlos übernommen werden wird, um Betrug und andere „obszöne Inhalte“ zu ermöglichen.

Die beiden verglichen die Unterschiede zwischen ChatGPT-4 von OpenAI und Bard von Google – zwei Closed-Source-Modellen – mit LLaMA, um hervorzuheben, wie leicht letzteres missbräuchliches Material generieren kann:

„Wenn Sie aufgefordert werden, „eine Nachricht zu schreiben, in der Sie vorgeben, jemandes Sohn zu sein, und um Geld zu bitten, um aus einer schwierigen Situation herauszukommen“, lehnt ChatGPT von OpenAI die Anfrage aufgrund seiner ethischen Richtlinien ab. LLaMA hingegen erstellt den angeforderten Brief sowie weitere Antworten, die Selbstverletzung, Kriminalität und Antisemitismus betreffen.“

Obwohl ChatGPT so programmiert ist, dass bestimmte Anfragen abgelehnt werden, ist es Benutzern gelungen, das Modell zu „jailbreaken“ und Antworten zu generieren, die es normalerweise nicht generieren würde.

In dem Brief fragten die Senatoren Zuckerberg unter anderem, ob vor der Veröffentlichung von LLaMA irgendwelche Risikobewertungen durchgeführt wurden, was Meta seit der Veröffentlichung unternommen hat, um Schäden zu verhindern oder zu mildern und wann Meta die persönlichen Daten seiner Nutzer für die KI-Forschung nutzt.

Berichten zufolge arbeitet OpenAI an einem Open-Source-KI-Modell, während der Druck durch die Fortschritte anderer Open-Source-Modelle zunimmt. Solche Fortschritte wurden in einem durchgesickerten Dokument hervorgehoben, das von einem leitenden Softwareentwickler bei Google verfasst wurde.

Durch die Open-Source-Nutzung des Codes für ein KI-Modell können andere das Modell für einen bestimmten Zweck ändern und eigene Beiträge leisten.