Odaily Planet Daily News ZhenFund a annoncé un don au projet d'IA open source vLLM. ZhenFund a déclaré que le don vise à promouvoir la vulgarisation de la technologie de l'IA et à bénéficier à davantage de personnes. Développé par une équipe de 3 personnes de l'Université de Californie à Berkeley, vLLM est un framework open source d'accélération d'inférence de grands modèles qui prend en charge plus de 30 des derniers LLM open source, notamment Mistral, Llama, etc., et est compatible avec une variété de modèles. des architectures matérielles.