Menurut berita DeepChao TechFlow, ZhenFund mengumumkan donasi ke proyek AI open source vLLM. ZhenFund menyatakan bahwa donasi tersebut bertujuan untuk mempromosikan mempopulerkan teknologi AI dan memberi manfaat kepada lebih banyak orang.
Dilaporkan bahwa vLLM dikembangkan oleh tim beranggotakan tiga orang dari University of California, Berkeley. Ini adalah kerangka akselerasi inferensi model besar open source paling populer di dunia. Ini mendukung lebih dari 30 LLM open source terbaru termasuk Mistral, Llama, dll ., dan kompatibel dengan beberapa arsitektur perangkat keras. Sejak menjadi open source pada bulan Juni lalu, vLLM telah melampaui 21,8 ribu bintang di GitHub.
