Secondo le notizie di DeepChao TechFlow, ZhenFund ha annunciato una donazione al progetto AI open source vLLM. ZhenFund ha affermato che la donazione mira a promuovere la divulgazione della tecnologia AI e a portare benefici a più persone.
È stato riferito che vLLM è stato sviluppato da un team di tre persone presso l'Università della California, Berkeley. È il framework di accelerazione di inferenza di modelli di grandi dimensioni open source più popolare al mondo. Supporta più di 30 LLM open source più recenti tra cui Mistral, Llama, ecc ., ed è compatibile con più architetture hardware. Da quando è stato reso open source lo scorso giugno, vLLM ha superato le 21,8k stelle su GitHub.