Chainbase Open Sources Cryptocurrency-Focused Language Model Theia-Llama-3.1-8B

Binance News · 2024-10-11T14:34:15.000Z

According to Foresight News, decentralized all-chain data network Chainbase has announced the open-sourcing of its cryptocurrency-focused large language model, Theia-Llama-3.1-8B. The training data for this model is derived from CoinMarketCap and detailed project research reports. Chainbase claims that this model exhibits lower perplexity and higher BERT scores compared to other mainstream models. The model has been efficiently fine-tuned using LORA, allowing it to adapt to specific tasks with lower computational power. This fine-tuning process has significantly reduced the model's memory usage and increased inference speed while maintaining acceptable accuracy. Previously, Foresight News reported that Chainbase completed a $15 million Series A funding round in July this year. The investment was led by Tencent Investment Group and Matrix Partners China.

Secondo Foresight News, la rete dati decentralizzata all-chain Chainbase ha annunciato l'open-sourcing del suo modello di linguaggio di grandi dimensioni incentrato sulle criptovalute, Theia-Llama-3.1-8B. I dati di training per questo modello derivano da CoinMarketCap e da dettagliati report di ricerca del progetto. Chainbase afferma che questo modello presenta una minore perplessità e punteggi BERT più elevati rispetto ad altri modelli tradizionali. Il modello è stato ottimizzato in modo efficiente utilizzando LORA, consentendogli di adattarsi a compiti specifici con una potenza di calcolo inferiore. Questo processo di ottimizzazione ha ridotto significativamente l'utilizzo della memoria del modello e aumentato la velocità di inferenza, mantenendo al contempo un'accuratezza accettabile.
In precedenza, Foresight News ha riferito che Chainbase ha completato un round di finanziamento di Serie A da 15 milioni di $ a luglio di quest'anno. L'investimento è stato guidato da Tencent Investment Group e Matrix Partners China.

Ultime notizie