Согласно новостям DeepChao TechFlow, ZhenFund объявил о пожертвовании в проект искусственного интеллекта с открытым исходным кодом vLLM. ZhenFund заявил, что пожертвование направлено на популяризацию технологии искусственного интеллекта и принесет пользу большему количеству людей.
Сообщается, что vLLM была разработана командой из трех человек в Калифорнийском университете в Беркли. Это самая популярная в мире среда ускорения вывода больших моделей с открытым исходным кодом. Она поддерживает более 30 новейших LLM с открытым исходным кодом, включая Mistral, Llama и т. д. ., и совместим с несколькими аппаратными архитектурами. С момента открытия исходного кода в июне прошлого года vLLM превысил 21,8 тыс. звезд на GitHub.
