Verfasser: J1N, Techub News

Einführung: Epoch Eins bis Zwei

Kuzco ist ein spezialisiertes Netzwerk für die Berechnung von LLM (große Sprachmodelle) Mining. Es wurde in das Crypto Startup Accelerator (CSX) Herbstbeschleunigerprogramm von a16z aufgenommen, das am 9. September in New York gestartet wurde. Projekte, die in diesem Programm ausgewählt wurden, können mindestens 500.000 US-Dollar von a16z erhalten und Unterstützung und Anleitung vom a16z-Operationsteam erhalten. Dieses Accelerator-Programm ist inzwischen abgeschlossen.

Am 16. November gab Kuzco bekannt, dass das erste Anreizprogramm (Epoch One) am 18. November 2024 enden wird. Alle Operationen werden eingestellt, und der Datensnapshot wird dauerhaft gespeichert. Die endgültige Punktzahl wird auf der neuen Rangliste veröffentlicht.

Offiziell wurde bekannt gegeben, dass Epoch One am 6. März 2024 gestartet wird und die Anzahl der Spitzengeräte 8000 übersteigen wird. Auf diesem Netzwerk läuft das von Meta veröffentlichte Llama-3 AI große Sprachmodell mit insgesamt über 1 Billion Tokens.

Und es wurde angekündigt, dass in den kommenden Wochen Finanzierungsinformationen und einen Projektentwicklungsfahrplan veröffentlicht werden. Das zweite Anreizprogramm (Epoch Two) wird am 9. Dezember beginnen und wird einige neue Funktionen bringen, wie eine höhere Durchsatz- und Zuverlässigkeit von NVIDIA-Hardware; Benutzer werden ermutigt, Spitzen-Computing-Geräte wie A100 und H100 anzuschließen; Unterstützung für mehr Bildgenerierung und multimodale Sprachmodelle (VLM).

Es bleibt noch eine halbe Monat Vorbereitungszeit bis zum Start von Epoch Two. Dieser Artikel wird untersuchen:

  • Teilen Sie persönliche Mining-Praktiken und Ergebnisse, von Einzelgerät zu Cluster.

  • Präsentation des gesamten Prozesses zur Beschaffung von Finanzmitteln durch Forschung und Praxis sowie dem Aufbau von Hochleistungsmaschinen.

  • Erörterung der Kompatibilität zwischen Hardware-Konfiguration und Projektanforderungen sowie Beantwortung häufig gestellter Fragen von Investoren.

Rückblick auf Epoch One: Einzelkämpfer

Konfiguration

Die Konfigurationsliste des Autors umfasst RTX-Serie Grafikkarten 2060, 2070S, 3080, 4060, 4060Ti sowie 4 4070S und 2 Apple M2, M3 Geräte. Diese Geräte sind auf mehreren Host-Computern, Laptops und einer speziellen Mining-Maschine verteilt.

Kosten

Es ist erwähnenswert, dass diese Grafikkarten ursprünglich von mir jedes Jahr basierend auf den Anforderungen des Spiels erworben wurden und nicht speziell für das Mining gekauft wurden. Daher wurden bei der Berechnung der Kosten die Hardware-Kosten nicht berücksichtigt, nur die tatsächlichen Stromkosten der Mining-Geräte wurden erfasst. Hier wird die in dem ersten Artikel (a16z „Disciple“ Kuzco Praxisleitfaden: Wie man effizient KI-Rechenleistung minen kann?) zusammengestellte Mining-Maschine als Beispiel genommen.

Konfiguration dieser Mining-Maschine:

  • Mainboard: z490 (später auf Industrie-Board wechseln)

  • CPU: 10. Generation I9

  • Grafikkarten: 2060, 2070s, 3080, 4060ti, 4070s

Manuell betriebene Mining-Geräte

Das folgende Bild zeigt den Stromverbrauch dieser Mining-Maschine im Oktober und November, insgesamt 564 kWh, wodurch Punkte (KZO Point) von etwa 600 Millionen erzielt wurden. Alle Maschinen zusammen ergaben etwa 1,1 Milliarden Punkte. Die spezifischen Stromkosten müssen je nach Strompreissituation an Ihrem Standort berechnet werden, dies dient nur als Referenz.

Rechts im Bild, insgesamt 1 Milliarde Punkte erhalten

Vorbereitung auf Epoch Two: Cluster-Deployment

Basierend auf den Informationen, die der Autor im ersten Artikel geteilt hat, sowie auf seinen umfangreichen Erfahrungen bei der Montage, Konfiguration und Bereitstellung der Geräte hat der Autor erfolgreich eine gewisse finanzielle Unterstützung erhalten und diese vollständig in den Aufbau leistungsstarker Mining-Maschinen investiert, um die Rechenleistung und Betriebseffizienz weiter zu steigern.

Von Einzelgerät zu Cluster-Deployment

Konfiguration und Auswahl von Hochleistungsmaschinen

Basierend auf den praktischen Erfahrungen des Autors in Epoch One wurden das Mainboard, die CPU, die Grafikkarten, die Netzteile, die Plattform und die Netzwerk-Konfiguration umfassend optimiert, und eine besser geeignete Hardware-Kombination wurde ausgewählt, die nicht nur die Stabilität, Sicherheit und Effizienz des gesamten Betriebs verbessert, sondern auch mehr Wert auf die Liquidität des Gebrauchtmarktes bei der Hardware-Auswahl legt. Diese Strategie kann die tatsächlichen Investitionskosten erheblich senken und den späteren Teilnehmern eine höhere Preis-Leistungs-Option bieten.

Mainboard

Der Autor wählte ein Industrie-Board anstelle eines Mainstream-B85-Boards, basierend auf einer umfassenden Betrachtung von Leistung, Stabilität und Preis-Leistungs-Verhältnis.

Leistungsseitig benötigt das Ausführen des Llama-3-Modells von Kuzco mehrere Docker-Prozesse, und das parallele Ausführen dieser Prozesse verbraucht eine Menge CPU-Ressourcen, wobei die Anforderungen an die CPU-Leistung hoch sind und die mit B85 kompatible CPU dies nicht erfüllen kann.

Darüber hinaus hat das Industrie-Board offensichtliche Vorteile bei stabilen Langzeitbetrieben, Hitzebeständigkeit und Herstellergarantie, während es auch auf dem Gebrauchtmarkt eine stärkere Liquidität aufweist, weshalb es zweifellos die beste Wahl ist.

Grafikkarte

Der Autor wählt die 4070S als Hauptgrafikkarte basierend auf folgenden Punkten:

Vorteile der KI-Computingleistung: Im Vergleich zu den 30er Grafikkarten ist die Leistungssteigerung der 40er Grafikkarten in der KI-Berechnung wesentlich größer als die Verbesserung der Spielleistung. Der Hauptgrund dafür ist, dass die KI-Rechenleistung hauptsächlich von der Anzahl der CUDA-Kerne der Grafikkarten abhängt, wobei die 40er Grafikkarten deutlich mehr CUDA-Kerne als die 30er Grafikkarten haben.

Energieeffizienzvorteil: Der Autor hat mehrere GPUs ausführlich getestet und den durchschnittlichen Energieverbrauch pro Token berechnet.

  • 4060Ti (160W): 0.125 Tokens/W

  • 3080 (330W): 0.22 Tokens/W

  • 4090 (450W): 0.26 Tokens/W

  • 4070S (220W): 0.38 Tokens/W

Die Testergebnisse zeigen, dass die 4070S die beste Leistung und den besten Energieverbrauch bietet und die höhere Energieeffizienz die Stromkosten direkt senkt, wodurch sie die kosteneffektivste Wahl wird.

Preise und Liquidität auf dem Gebrauchtmarkt: Als Mittelklasse-Grafikkarte hat die 4070S eine hohe Liquidität und Wertbeständigkeit auf dem Gebrauchtmarkt, was die Kosten für den Besitz des Geräts weiter senkt und gleichzeitig Flexibilität für zukünftige Hardware-Upgrades bietet.

CPU

Wie bereits erwähnt, benötigt Kuzcos Llama-3 beim Betrieb mehrere Docker, was die Nutzung der CPU-Ressourcen erheblich steigert, insbesondere bei mehreren Karten, wo die CPU-Auslastung bis zu 80 % - 90 % betragen kann. Daher ist die Mehrkern- und Multithreading-Verarbeitungsfähigkeit besonders wichtig. Eine leistungsstarke, mehrkernige und stabile CPU kann nicht nur mehrere Aufgaben effizient unterstützen, sondern auch die Stabilität und Effizienz des gesamten Mining-Prozesses gewährleisten.

Der 13. i5 kann bei voller Auslastung eine GPU-Nutzung von über 70 % erreichen.

Netzwerkumgebung

Die Software-Routing-Lösung ist das quadratische Kästchen im Bild

Die Netzwerkumgebung ist beim Mining ebenfalls von entscheidender Bedeutung. Selbst mit einer leistungsstarken Grafikkarte wird die Rechenleistung stark beeinträchtigt, wenn das Netzwerk nicht optimiert ist. Laut den Messungen des Autors kann unzureichende Internetgeschwindigkeit die Rechenleistung um bis zu 30 % senken, während von schlechter Qualität die Netzwerkknoten dazu führen könnten, dass eine Verbindung zum Kuzco-Netzwerk nicht hergestellt werden kann. Beide Punkte sind für das Mining inakzeptabel. Um diese Probleme zu lösen, hat der Autor eine Software-Routing-Lösung gewählt, die nicht nur leicht zu konfigurieren ist, sondern nach der Einrichtung fast ohne menschliches Eingreifen effizient laufen kann und theoretisch unbegrenzte Geräteanschlüsse unterstützen kann. Für die genauen Vorgehensweisen wird empfohlen, dass die Leser relevante Materialien nach Bedarf selbst recherchieren.

Netzteil

Classic Great Wall 2000w Nuklear Netzteil

Bei der Auswahl eines Netzteils muss besonders auf das Problem der Spitzenleistung geachtet werden. Das ist auch der Grund, warum der Autor trotz einer Nennleistung von nur 1540W für 7 4070S eine doppelte 2000W-Stromversorgung wählt, was zu einer Gesamtleistung von 4000W führt. Dies ist keine Ressourcenverschwendung, sondern eine Überlegung zur Stabilität und Sicherheit des Geräts.

Die Grafikkarten haben während des Betriebs Spitzenleistungen, d.h. in bestimmten Momenten kann die tatsächliche Leistung 1,5-mal oder mehr der Nennleistung erreichen, bevor sie wieder auf ein normales Niveau zurückfällt. Wenn die Leistung des Netzteils nicht ausreicht, um diese Spitzen zu bewältigen, kann dies den Notabschaltmechanismus des Netzteils auslösen und sogar zu Schäden an der Grafikkarte führen. Dies stellt eine ernsthafte Bedrohung für den normalen Betrieb der Mining-Maschine dar.

4070s Leistungsaufnahme

Am Beispiel der 4070S, obwohl ihre Nennleistung bei 220W liegt, kann die Spitzenleistung 400W überschreiten. Die Spitzenleistung von 7 Grafikkarten kann über 3000W betragen, daher wird ein doppeltes 2000W-Netzteil konfiguriert, um den stabilen Betrieb der Maschine zu gewährleisten. Für Benutzer, die mehrere 4090-Grafikkarten konfigurieren, ist besondere Vorsicht geboten. Die Nennleistung einer einzelnen 4090 beträgt 450W, während die Spitzenleistung bis zu 770W betragen kann. Bei mehreren Karten ist es oft notwendig, drei Netzteile zu verwenden, um die Stabilität des Systems sicherzustellen.

4090 Leistungsaufnahme

Ergänzung

Was die BIOS-Einstellungen, die Hardware-Kompatibilität und die Remote-Verwaltung betrifft, werde ich hier nicht zu sehr ins Detail gehen. Es gibt im Internet viele kostenlose Tutorials, die zur Lösung der meisten Probleme dienen. Es wird empfohlen, basierend auf Ihrer Hardware-Konfiguration und Ihren Anforderungen gezielte Informationen zu suchen und zu bearbeiten, einfach und effizient.

Risiko und Ertrag

Antwort auf die am häufigsten gestellten Fragen: Wie viel kann man pro Tag abbauen? Ehrlich gesagt, diese Frage hat keine klare Antwort, da Risiko und Ertrag immer Hand in Hand gehen. Ich kann eine klare Sichtweise teilen: Egal ob im Kryptowährungsbereich oder in traditionellen Branchen, wenn ein Projekt genau berechnen kann, wie viel Gewinn man pro Tag erzielt, dann ist es wahrscheinlich, dass man schon zu spät dran ist, um wirklich viel Geld zu verdienen. Es sei denn, Sie verfügen über einige monopolartige Ressourcen, wie extrem niedrige Stromkosten oder sehr günstige Mining-Geräte, nur dann können Sie einen Vorteil bei den Erträgen haben. Solche Ressourcen hat jedoch nicht jeder.

Der Autor hat Geräte mit hoher Liquidität gewählt, um das Investitionsrisiko und den Kostenaufwand zu senken. Am Beispiel des Kuzco-Minings konzentrieren sich die Kosten hauptsächlich auf die Abschreibung der Hardware und Stromkosten, sodass Ihr maximaler Verlust auf diese fixen Kosten beschränkt ist. Wenn Sie nicht zu niedrigen Kosten teilnehmen, verlieren alle Investitionsentscheidungen ihren Sinn. Es muss betont werden, dass die Natur des Mining keine klaren Ertragsprognosen bietet, aber das ist auch das Potenzial des Mining.

Subjektiv betrachtet hat dieser Bereich enormes Marktwachstumspotenzial: Einerseits hat Kuzco Unterstützung von a16z erhalten; andererseits wächst die Nachfrage nach großen Sprachmodellen (LLM) schnell. Denken Sie daran, dass fast niemand auf LLM verzichten wird, oder? Plattformen wie OpenAI's ChatGPT, Meta's Llama und Musk's XAI haben alle in mehreren Runden hohe Finanzierungen erhalten, was klar das Wachstumspotenzial dieser Branche zeigt.

Für gewöhnliche Menschen ist es nicht einfach, direkt in die KI-Branche einzutreten. Einerseits ist die technische Schwelle hoch; andererseits erfordert das Training von KI-Modellen enorme Ressourcen und Ausgaben, die sich die meisten Menschen nicht leisten können. Durch den Beitritt zum KI-Computernetzwerk über Kuzco können gewöhnliche Menschen jedoch unter kontrollierbaren Kosten problemlos in diesen schnell wachsenden Bereich einsteigen und einen Beitrag zur KI-Rechenleistung leisten, während sie gleichzeitig Erträge erzielen.

Darüber hinaus steht der Bitcoin-Preis kurz vor dem Durchbruch von 100.000 US-Dollar, nachdem er von 16.000 US-Dollar im Jahr 2022 auf den aktuellen Höchststand gestiegen ist, was ein großes Rückschlagsrisiko birgt. Wenn man sich entscheidet, die Token eines KI-Projekts direkt zu kaufen, sieht man sich ähnlichen hohen Volatilitätsrisiken gegenüber. Im Vergleich dazu ist die Teilnahme am KI-Computernetzwerk eine robustere Wahl: nicht nur sind die Kosten klar und kontrollierbar, sondern man kann auch mit relativ geringem Risiko in den schnell wachsenden KI-Sektor einsteigen. Dies ist eine der praktisch umsetzbaren Möglichkeiten für gewöhnliche Menschen, in den KI-Bereich einzutreten.