Selon les informations de DeepChao TechFlow, ZhenFund a annoncé un don au projet d'IA open source vLLM. ZhenFund a déclaré que le don vise à promouvoir la vulgarisation de la technologie de l'IA et à bénéficier à davantage de personnes.
Il est rapporté que vLLM a été développé par une équipe de trois personnes de l'Université de Californie à Berkeley. Il s'agit du cadre d'accélération d'inférence de grands modèles open source le plus populaire au monde. Il prend en charge plus de 30 derniers LLM open source, notamment Mistral, Llama, etc. ., et est compatible avec plusieurs architectures matérielles. Depuis son lancement en open source en juin dernier, vLLM a dépassé les 21,8 000 étoiles sur GitHub.