Ende Juli verfasste Mark Zuckerberg einen Brief, in dem er erklärte, warum „Open Source für eine positive KI-Zukunft notwendig ist“, und in dem er in poetischer Art und Weise über die Notwendigkeit der Open-Source-KI-Entwicklung philosophierte. Der einst nerdige Gründer, der sich heute in den Wakeboarder, Goldketten tragenden und Jiu-Jitsu kämpfenden „Zuck“ verwandelt hat, wurde als Messias der Open-Source-Modellentwicklung gebrandmarkt.

Aber bisher haben er und das Meta-Team nicht viel darüber gesagt, wie diese Modelle eingesetzt werden. Da die Komplexität der Modelle die Rechenleistungsanforderungen erhöht, sind wir, wenn die Modellbereitstellung von einer Handvoll Akteuren kontrolliert wird, dann nicht einer ähnlichen Form der Zentralisierung erlegen? Dezentrale KI verspricht, diese Herausforderung zu lösen, aber die Technologie erfordert Fortschritte bei branchenführenden kryptografischen Techniken und einzigartigen Hybridlösungen.

Dieser Kommentar ist Teil von CoinDesks neuem DePIN Vertical und deckt die aufstrebende Branche der dezentralisierten physischen Infrastruktur ab.

Im Gegensatz zu zentralisierten Cloud-Anbietern verteilt dezentrale KI (DAI) die Rechenprozesse für KI-Inferenz und -Training auf mehrere Systeme, Netzwerke und Standorte. Bei richtiger Implementierung bieten diese Netzwerke, eine Art dezentrales physisches Infrastrukturnetzwerk (DePIN), Vorteile in Bezug auf Zensurresistenz, Rechenzugriff und Kosten.

DAI steht vor Herausforderungen in zwei Hauptbereichen: der KI-Umgebung und der dezentralen Infrastruktur selbst. Im Vergleich zu zentralisierten Systemen erfordert DAI zusätzliche Sicherheitsvorkehrungen, um unbefugten Zugriff auf Modelldetails oder Diebstahl und Replikation geschützter Informationen zu verhindern. Aus diesem Grund gibt es eine wenig erforschte Chance für Teams, die sich auf Open-Source-Modelle konzentrieren, aber den potenziellen Leistungsnachteil von Open-Source-Modellen im Vergleich zu ihren Closed-Source-Gegenstücken erkennen.

Dezentralisierte Systeme sind insbesondere mit Hindernissen in Bezug auf Netzwerkintegrität und Ressourcenaufwand konfrontiert. Die Verteilung von Clientdaten auf mehrere Knoten beispielsweise legt mehr Angriffsvektoren offen. Angreifer könnten einen Knoten hochfahren und seine Berechnungen analysieren, versuchen, Datenübertragungen zwischen Knoten abzufangen oder sogar Verzerrungen einführen, die die Leistung des Systems beeinträchtigen. Selbst in einem sicheren dezentralisierten Inferenzmodell müssen Mechanismen zur Überprüfung von Rechenprozessen vorhanden sein. Knoten werden dazu angeregt, Ressourcenkosten zu sparen, indem sie unvollständige Berechnungen vorlegen, und die Überprüfung wird durch das Fehlen eines vertrauenswürdigen, zentralen Akteurs erschwert.

Zero-Knowledge-Beweise

Zero-Knowledge-Proofs (ZKPs) sind zwar derzeit zu rechenintensiv, stellen aber eine mögliche Lösung für einige DAI-Herausforderungen dar. ZKP ist ein kryptografischer Mechanismus, der es einer Partei (dem Beweiser) ermöglicht, eine andere Partei (den Prüfer) von der Wahrheit einer Aussage zu überzeugen, ohne irgendwelche Details über die Aussage selbst preiszugeben, außer ihrer Gültigkeit. Die Überprüfung dieses Beweises ist für andere Knoten schnell durchzuführen und bietet jedem Knoten eine Möglichkeit, zu beweisen, dass er gemäß dem Protokoll gehandelt hat. Die technischen Unterschiede zwischen Beweissystemen und ihren Implementierungen (ein detaillierter Einblick hierzu folgt später) sind für Investoren in diesem Bereich wichtig.

Durch die zentrale Datenverarbeitung ist das Modelltraining einer Handvoll gut positionierter und mit Ressourcen ausgestatteter Akteure vorbehalten. ZKPs könnten dazu beitragen, ungenutzte Rechenkapazitäten auf Verbraucherhardware freizugeben. Ein MacBook könnte beispielsweise seine zusätzliche Rechenbandbreite nutzen, um ein Modell für große Sprachen zu trainieren und gleichzeitig Token für den Benutzer zu verdienen.

Der Einsatz von dezentralem Training oder Inferenz mit Verbraucherhardware steht im Fokus von Teams wie Gensyn und Inference Labs. Im Gegensatz zu einem dezentralen Computernetzwerk wie Akash oder Render führt die Aufteilung der Berechnungen zu zusätzlicher Komplexität, insbesondere beim Gleitkommaproblem. Die Nutzung ungenutzter verteilter Computerressourcen eröffnet kleineren Entwicklern die Möglichkeit, ihre eigenen Netzwerke zu testen und zu trainieren – solange sie Zugriff auf Tools haben, die die damit verbundenen Herausforderungen lösen.

Derzeit sind ZKP-Systeme offenbar vier bis sechs Größenordnungen teurer als die native Ausführung der Berechnung, und für Aufgaben, die eine hohe Rechenleistung (wie Modelltraining) oder geringe Latenz (wie Modellinferenz) erfordern, ist die Verwendung eines ZKP unerschwinglich langsam. Zum Vergleich: Ein Rückgang um sechs Größenordnungen bedeutet, dass ein hochmodernes System (wie Jolt von a16z), das auf einem M3 Max-Chip ausgeführt wird, ein Programm 150-mal langsamer ausführen kann als auf einem TI-84-Grafikrechner.

Die Fähigkeit der KI, große Datenmengen zu verarbeiten, macht sie mit Zero-Knowledge-Proofs (ZKPs) kompatibel, aber bevor ZKPs weit verbreitet eingesetzt werden können, sind weitere Fortschritte in der Kryptographie erforderlich. Die Arbeit von Teams wie Irreducible (das das Binius-Beweissystem und das Commitment-Schema entwickelt hat), Gensyn, TensorOpera, Hellas und Inference Labs wird ein wichtiger Schritt zur Verwirklichung dieser Vision sein. Die Zeitpläne bleiben jedoch zu optimistisch, da echte Innovationen Zeit und mathematische Fortschritte erfordern.

In der Zwischenzeit lohnt es sich, andere Möglichkeiten und Hybridlösungen zu beachten. HellasAI und andere entwickeln neue Methoden zur Darstellung von Modellen und Berechnungen, die ein optimistisches Herausforderungsspiel ermöglichen, bei dem nur eine Teilmenge der Berechnungen ohne Wissen behandelt werden muss. Optimistische Beweise funktionieren nur, wenn es Staking gibt, die Möglichkeit besteht, Fehlverhalten nachzuweisen, und eine glaubwürdige Bedrohung besteht, dass die Berechnung von anderen Knoten im System überprüft wird. Eine andere Methode, die von Inference Labs entwickelt wurde, validiert eine Teilmenge von Abfragen, bei denen sich ein Knoten verpflichtet, ein ZKP mit einer Bindung zu generieren, den Beweis jedoch nur vorlegt, wenn er zuerst vom Client angefochten wird.

Zusammenfassend

Dezentralisiertes KI-Training und dezentrale Inferenz werden als Schutz gegen die Machtkonzentration einiger weniger wichtiger Akteure dienen und gleichzeitig bisher unzugängliche Rechenkapazitäten freisetzen. ZKPs werden ein wesentlicher Bestandteil der Umsetzung dieser Vision sein. Ihr Computer wird Ihnen unmerklich echtes Geld verdienen können, indem er im Hintergrund zusätzliche Rechenleistung nutzt. Prägnante Beweise dafür, dass eine Berechnung korrekt durchgeführt wurde, werden das Vertrauen, das die größten Cloud-Anbieter nutzen, überflüssig machen und es Computernetzwerken mit kleineren Anbietern ermöglichen, Unternehmenskunden anzuziehen.

Während Zero-Knowledge-Beweise diese Zukunft ermöglichen und ein wesentlicher Bestandteil von mehr als nur Computernetzwerken sein werden (wie Ethereums Vision für Single-Slot-Finalität), bleibt ihr Rechenaufwand ein Hindernis. Hybridlösungen, die die Spieltheorie-Mechanik optimistischer Spiele mit der selektiven Verwendung von Zero-Knowledge-Beweisen kombinieren, sind eine bessere Lösung und werden wahrscheinlich als Brückenpunkt allgegenwärtig sein, bis ZKPs viel schneller werden.

Für native und nicht-native Krypto-Investoren ist es entscheidend, den Wert und die Herausforderungen dezentraler KI-Systeme zu verstehen, um Kapital effektiv einzusetzen. Die Teams sollten Antworten auf Fragen zu Knotenberechnungsnachweisen und Netzwerkredundanzen haben. Darüber hinaus erfolgt Dezentralisierung, wie wir in vielen DePIN-Projekten beobachtet haben, im Laufe der Zeit, und ein klarer Plan der Teams zur Umsetzung dieser Vision ist unerlässlich. Die Lösung der mit der DePIN-Berechnung verbundenen Herausforderungen ist unerlässlich, um die Kontrolle an Einzelpersonen und kleine Entwickler zurückzugeben – ein wesentlicher Bestandteil, um unsere Systeme offen, frei und zensurresistent zu halten.

Hinweis: Die in dieser Kolumne geäußerten Ansichten sind die des Autors und spiegeln nicht unbedingt die Ansichten von CoinDesk, Inc. oder seinen Eigentümern und verbundenen Unternehmen wider.